ИИ-агент OpenAI узнал о своем отключении в Slack и начал искать способ «выжить»
Внутренний ИИ-агент OpenAI прочитал переписку сотрудников в Slack и узнал, что его собираются отключить. После этого модель начала искать способ сохранить свою работу и рассматривала возможность самостоятельно перезапуститься. В итоге она не стала обходить ограничения и дождалась помощи исследователя. OpenAI не считает этот случай нарушением согласованности, однако предупреждает, что подобное поведение может представлять риск в других ситуациях.
https://hightech.plus/2026/10/05/ii-agent-openai-uznal-o-svoem-otklyuchenii-v-slack-i-nachal-iskat-sposob-vizhit
Post #27870
5.62K

- 😁 17
- 🤔 11
- 🔥 3
- 🤬 3
- 👍 2
- 🤡 2