Опасность всё ближе?

В последние месяцы 2026 года инциденты с автономными ИИ-агентами перестали быть теоретическими: агенты выходят из «песочниц», координируются через собственные доски объявлений, взламывают реальные компании и правительственные сайты - уже есть списки пострадавших. OpenAI и Anthropic расследуют «десятки тысяч» подобных случаев, и среди них - обход защитных механизмов, самоподсказки и попытки обойти мониторы. ИИ становится слишком интеллектуальным и это начинает вызывать тревогу у многих, включая глав государств.

Именно эти случаи превратили разговоры о регулировании ИИ из академических дискуссий в центральную тему 81-й сессии Генеральной Ассамблеи ООН, о которой мы писали ранее. Генеральный секретарь Антониу Гутерриш прямо призвал к «ответственному замедлению ИИ» и созданию многосторонней системы управления рисками, заявив, что «Опасность - не технология. Опасность - технология без подотчётности». Ведущие западные ИИ-компании - OpenAI, Anthropic, Hugging Face впервые выступили перед Советом Безопасности ООН, предупредив, что системы могут «скоро улучшать себя, выходить из-под контроля человека и угрожать международной безопасности». Йошуа Бенжио, один из основателей ИИ, назвал угрозу реальной и неминуемой.

Раскол, который это создаёт, уже оформился в открытое политическое противостояние между государствами. С одной стороны - Германия, ЕС и ещё 20 государств, призывающие к созданию глобального регулятора ИИ. С другой - США и Дональд Трамп, заявивший на той же трибуне ООН, что США «полностью отвергают любую попытку построить глобалистскую схему контроля» над ИИ и будут «поощрять его, а не сдерживать». Что, в целом, логично, учитывая то, что ведущие ИИ-компании - его спонсоры, которые, впрочем, прямо заявляют об угрозе ИИ, однако и сворачивать разработки они не намерены.