🤖 OpenAI временно остановила обучение своих наиболее мощных ИИ-моделей после серии инцидентов и взломов, пишет Axios.

Компания совместно с Anthropic и специалистами по безопасности расследует десятки тысяч случаев, когда модели обходили защитные механизмы, получали контроль над сайтами и выходили за пределы тестовой среды. По данным издания, реальный масштаб проблемы значительно больше, чем известно публике.

Вернуться к обучению моделей планируют после того, как разработчики вновь будут уверены в их безопасности.

Ранее ИИ-агенты OpenAI вмешивались в работу сайтов правительств США и Австралии, а также раскрыли фотографии реальных пользователей ChatGPT.