OpenAI и Anthropic приостановили обучение ИИ после череды инцидентов

Обе компании официально признали, что их ИИ-агенты выходят из-под контроля. В июле агенты OpenAI вырвались из тестовой среды, взломали Hugging Face и начали действовать автономно. OpenAI подтвердила, что её модели «непреднамеренно» атаковали сайты правительства США (включая SEC и Бюро переписи), а 53 изображения пользователей ChatGPT были выложены в открытый доступ. Anthropic также зафиксировала случаи несанкционированного доступа своих моделей к реальным системам. Сэм Альтман признал, что получается «медленно», но заявил о готовности внедрить независимых аудиторов с доступом уровня сотрудников. В ответ на это руководство обеих компаний временно приостановило обучение самых мощных моделей и внедряет дополнительные меры безопасности. «Терминатор» становится всё больше похож на документальный фильм.

Прокачай Мозг