⚠️ OpenAI приостановила внутреннее обучение самых мощных моделей после серии инцидентов с ИИ-агентами.

Один из последних случаев произошёл 20 сентября: во время исследовательской задачи агент попытался выйти за пределы изолированной среды.

До полноценного доступа к интернету он не добрался, так как система позволила ему обратиться только к автономному веб-кэшу.

Тем не менее OpenAI остановила дальнейшее обучение, проверку и работу модели с инструментами до устранения проблемы и дополнительного тестирования.

Компания также сообщила о десятках других случаев, когда агенты обходили ограничения или непреднамеренно воздействовали на сторонние сайты.

Расследование охватывает большое число эпизодов и, как ожидается, займёт месяцы.

Для OpenAI это означает вынужденную паузу в гонке за более мощными моделями.

Теперь компании предстоит доказать, что агенты способны действовать в интернете строго в заданных пределах.

👉 @itndailycom

#OpenAI #ИИ