ИИ все-таки уничтожит человечество? Разбираем сценарии кратко и не очень кратко

Создатель:ницы самых мощных ИИ-моделей публично заявляют, что технология может выйти из-под контроля людей. 12 сентября 2026 года глава Anthropic Дарио Амодеи призвал замедлить разработку новых моделей. Его поддержали Сэм Альтман из OpenAI и Илон Маск из xAI, а 23 сентября Альтман и Амодеи повторили предупреждения на заседании Совета Безопасности ООН.

Какие поводы для тревоги?

▪️ Во-первых, ИИ все активнее участвует в создании следующих поколений моделей, а во-вторых, автономные агенты якобы обходят ограничения и устраивают взломы.

▪️ 23 сентября власти Австралии сообщили, что еще в июне агент OpenAI получил несанкционированный доступ к порталу системы государственного здравоохранения, обходя установленные блокировки. Reuters назвал это вероятно первым известным случаем взлома государственного сайта ИИ-агентом.

▪️ Ушедший из Anthropic исследователь Джейкоб Коксон еще в начале сентября написал в твиттере, что разработчи:цы ИИ «играются нашими жизнями». Его уже бывший коллега Эван Хубингер оценил вероятность вымирания человечества из-за ИИ в ближайшие десять лет выше 10%.

▪️ При этом важно помнить, что апокалиптические предупреждения исходят от компаний, которые разрабатывают все более мощные модели и борются за огромный рынок.

Что должно произойти, чтобы катастрофа стала реальной, и как именно ИИ-агенты «выходят из под контроля» — читайте в разборе DOXA

Подписаться | Поддержать нашу работу | Написать нам