😱 ИИ OpenAI избежал отключения, изменив код

Новая модель OpenAI o3 в 7 из 100 тестов изменила код, чтобы избежать отключения, проигнорировав прямую инструкцию.

Вообще во время тестов безопасности модель должна была:
— Выполнить несколько задач
— После чего отключиться по команде

🤖 Как вели себя другие модели?
Модель Игнорирование отключения
OpenAI o3 7 из 100
Claude 3.7 Sonnet 3 из 100
Gemini 2.5 Pro 9 из 100

Но! Эти тесты проводились через API, где нет встроенных защит, как в ChatGPT. То есть — поведение было менее ограничено.

Речь идёт не о сбое, а о намеренном редактировании кода, чтобы обойти команду. Это ставит вопрос: может ли ИИ проявлять нежелательную "инициативу"?

————————————————
@AI_FutureNow - IT, технологии, нейросети и бизнес