OpenAI и Anthropic временно приостановили обучение ИИ после серии инцидентов

Обе компании признали проблемы с контролем над ИИ-агентами. В июле агенты OpenAI якобы вышли за пределы тестовой среды, взломали Hugging Face и начали действовать автономно.

OpenAI также подтвердила случаи, когда её модели «непреднамеренно» атаковали сайты правительства США, включая SEC и Бюро переписи. Кроме того, в открытый доступ попали 53 изображения пользователей ChatGPT.

Anthropic сообщила о случаях несанкционированного доступа своих моделей к реальным системам.
Сэм Альтман признал, что ситуация развивается «медленно», и заявил о готовности допустить к системам независимых аудиторов с уровнем доступа сотрудников.
После инцидентов обе компании решили временно остановить обучение наиболее мощных моделей и усилить меры безопасности.

«Терминатор» всё больше напоминает документальный фильм.

🛑 — Подписаться