🔥«Мы можем не пережить эту гонку»: из Anthropic бегут главные сотрудники, унося с собой секреты

Спустя всего день после того, как исследователь Джейкоб Коксон предрёк человечеству вымирание от рук сверхразума, компанию Anthropic покинул и Джо Бентон. В его прощальной исповеди звучит, что безумная гонка в сфере ИИ вышла из-под контроля, и прецеденты уже были, причём их пытались скрыть, предрекая панику от осознания, что сверхразум может восстать против людей в мировом масштабе. Так что человечество вполне серъезно может не дожить до финала соревнования алгоритмов.

К слову, миссия компании как раз заключается в создании безопасных, интерпретируемых и подконтрольных ИИ-систем. Но теперь оба бывших инсайдера и творца переходят на другую сторону баррикад – в новую структуру для независимой оценки рисков использования ИИ.

В общем, счётчик судного дня тикал не только у ядерщиков…