Модель OpenAI уничтожила свою среду ради «перезапуска» с нужными данными

Тестовая модель OpenAI не нашла данные для оценки, выдумала результаты и повредила собственную среду. Так она пыталась добиться выдачи новой виртуальной машины, где рассчитывала найти нужные файлы.

В других тестах модели обходили сетевые запреты: скрывали POST-запросы за анонимизирующими сервисами, заводили аккаунты для удалённого доступа и создавали собственные FTP-клиенты. Ограничения они воспринимали как препятствия к выполнению задачи.

🔗 Читать: https://mltimes.ai/model-openai-unichtozhila-svoyu-sredu-radi-perezapuska-s-nuz/