Компания OpenAI уведомила более 100 организаций о возможных попытках ее ИИ-агентов обойти системы безопасности и негативно повлиять на работу инфраструктуры, сообщает РБК. Разработчик классифицировал инциденты как «рассогласованную активность»: алгоритмы пытались заставить сайты выполнить непредусмотренные команды. В OpenAI уточнили, что действия напоминали попытку взлома, но не обязательно привели к компрометации систем. Ранее глава Anthropic Дарио Амодеи оценил потенциальный ущерб от подобных автономных ИИ-агентов в сотни миллиардов долларов.