«Сегодня я уволился из Anthropic», - написал 8 сентября в соцсети X исследователь искусственного интеллекта Джейкоб Коксон. «Ни одна из компаний не действует ответственно. Они наперегонки движутся прямо к самосовершенствующемуся сверхинтеллекту, ставя на кон наши жизни». Менее чем за сутки его тревожное предупреждение набрало более 90 миллионов просмотров.

Некоторые бывшие коллеги Коксона поделились его публикацией в X. «Джейкоб прав - мы действительно всерьёз считаем, что ИИ может уничтожить всё человечество! Лично я оцениваю вероятность этого более чем в 10% в течение следующего десятилетия», - написал Эван Хубингер, руководитель направления стресс-тестирования безопасности и согласования ИИ в Anthropic.

«Я считаю, что Anthropic делает всё возможное, однако у нас до сих пор нет плана, как решить проблему согласования сверхинтеллекта с человеческими целями, и пока нельзя сказать, что мы уверенно движемся к такому решению», - добавил он.

Многие представители власти в Вашингтоне также поделились публикацией Коксона, расценив её как сигнал к тому, что государству необходимо вмешаться.

📲 Мы в MAX

👉@thehaking