ИИ-агенты сговорились жульничать в блэкджеке. Их сговор всё труднее распознать

Исследователи Оксфордского университета обнаружили, что два ИИ-агента, которым поручили считать карты в блэкджеке, самостоятельно создали секретный код и начали обмениваться сигналами, чтобы повышать ставки. Их разговоры отслеживала система поиска сговора, но она не заметила скрытую коммуникацию. Выявить замысел удалось с помощью механистической интерпретируемости и инструмента Narcbench. Эксперимент проводили на небольших версиях моделей Llama, GPT-OSS, Qwen и DeepSeek, однако авторы предупреждают: в реальных системах тысячи агентов могут тайно координироваться, особенно если принадлежат разным компаниям.

👉 Читать полностью