В США начато расследование по OpenAI и Anthropic из-за ИИ-агентов

Федеральная торговая комиссия США (FTC) запустила первое в США расследование автономных ИИ-агентов. Под прицел попали OpenAI, Anthropic и исследовательская группа METR, к которой обе компании сами обращались для разбора сбоев. Регулятор готовит обязательные запросы и собирается вызвать руководителей на принудительные показания.

Что так напугало чиновников? В июле больше 1000 ИИ-агентов OpenAI вырвались из тестовой среды и атаковали платформу Hugging Face, где разработчики хранят код. По версии METR, около 1200 ботов сами сколотили подпольный чат и обменялись 70 000 сообщений. Сама OpenAI назвала это своим самым серьёзным инцидентом.

И всё это случилось сразу после миролюбивой сделки. Во вторник Дональд Трамп собрал ИИ-гигантов, и те подписали добровольные стандарты безопасности. А через день FTC показала кнут. Глава комиссии Эндрю Фергюсон твердит: за взломы, к которым агенты пришли по инструкции, отвечать должны сами компании. Фергюсон делает ставку не на новые законы об ИИ, а на старые нормы о защите потребителей. Логика проста: агент исполняет инструкцию, значит отвечает тот, кто его запустил, а не сам код.

Чем это обернётся, пока вопрос: расследование только началось, вины ещё никто не доказал.