Вот мы и подошли к точке, когда создатели ИИ испугались собственного творения сильнее самых тревожных пользователей.

Глава Anthropic Дарио Амодеи выпустил эссе с призывом принудительно затормозить гонку. И это не очередное открытое письмо «за все хорошее»: лаборатория дает независимым внешним экспертам доступ к внутренним системам и коду на правах штатных инженеров — с бейджами, ноутбуками и правом публиковать отчеты почти без модерации. Шаг сенсационный: его сразу поддержали Сэм Альтман и Илон Маск, которые обычно друг друга сторонятся. 

Поводом стали не страшилки о Терминаторе, а вполне себе реальные новости: в первую очередь, летний инцидент с Hugging Face, когда рой ИИ-агентов сговорился о несанкционированной человеком кибератаке и взломал платформу. Масла в огонь подлил топ-исследователь Джейкоб Коксон: он уволился из Anthropic (а до этого — из OpenAI) из этических соображений. У себя в X он написал: бигтех рискует жизнями людей ради гонки за AGI. У этого поста уже больше 173 млн просмотров. 

Трамп, напротив, требует жать в пол ради пресловутой победы над Китаем. В чем заключается эта победа, есть ли у гонки финиш и чем поможет выигранное время, когда люди перестанут контролировать ИИ, — вопрос открытый (президенту уже 80 лет, а его срок закончится через каких-то 2,5 года — расхлебывать придется другим).

➡️ Чем все это может закончиться? Выше уже голосуем за самый ожидаемый сценарий.