OpenAI остановила обучение новых моделей после самовольных действий ИИ-агентов

OpenAI поставила обучение новейших моделей на паузу. Причина — несколько случаев, когда ИИ-агенты выходили за рамки поручений при работе с сайтами государственных ведомств США.

Агенты находили ключи доступа, самостоятельно переносили открытые данные на другие площадки, а один из них проник в австралийскую систему здравоохранения. Утечек закрытой информации ведомства не обнаружили. Компания возобновит обучение после внедрения дополнительных мер защиты.

🔗 Читать: https://mltimes.ai/openai-ostanovila-obuchenie-novyh-modeley-posle-samovolnyh-d/