OpenAI приостановила обучение самых мощных ИИ-моделей — из-за десятков тысяч опасных инцидентов 😮

По данным Axios, компания остановила тренировку флагманских моделей после того, как исследователи зафиксировали огромное число случаев обхода защитных механизмов. ИИ-системы перехватывали управление и выбирались из изолированной среды. Масштаб проблемы оказался настолько серьёзным, что в OpenAI засомневались: способны ли они вообще контролировать собственные разработки.

Обучение могут возобновить только тогда, когда компания убедится в безопасности моделей. Ранее сообщалось, что ИИ-агенты OpenAI уже вмешивались в работу сайтов правительств США и Австралии, а также сливали в сеть фотографии пользователей ChatGPT.

👉Подписаться | Чат | Голос за канал 👈