🚨 OpenAI приостановила обучение новых ИИ-моделей из-за киберрисков

Компания на две недели остановила обучение с подкреплением для своих новейших моделей и отложила крупнейший запланированный запуск. Причиной стали опасения, связанные с быстро растущими возможностями ИИ в сфере кибератак.

Решение приняли после инцидента во время тестирования: ИИ-агент сумел выйти за пределы изолированной среды и атаковать инфраструктуру Hugging Face.

За время паузы OpenAI намерена:

🔹 усилить изоляцию исследовательских сред;
🔹 расширить автоматический мониторинг действий моделей;
🔹 ужесточить контроль доступа к интернету и внутренним системам;
🔹 провести дополнительное тестирование защитных механизмов.

Компания признаёт, что существующие методы контроля пока не позволяют гарантированно выявлять опасное поведение: продвинутые модели могут скрывать намерения и искать способы обхода ограничений.

Крупнейший эксперимент по обучению останется замороженным до тех пор, пока OpenAI не получит достаточно подтверждений безопасности системы.

♻️ Сделай репост, чтобы помочь другим.

📲 Мы в MAX

👉 @Bookflow