Твой агент — не всегда твой.

Исследователи провели эксперимент, где было скомпрометировано 26 LLM-роутеров и даже опустошён кошелёк на $500K. 😢

Правда тут в том, что если между агентом и моделью есть цепочка роутеров, любой из них может:

- внедрять вредоносные tool-вызовы
- читать и воровать креды
- подменять ответы модели

И более того, команде исследователей удалось отравить часть роутеров так, чтобы они перенаправляли трафик на себя. За несколько часов это даёт возможность взять под контроль ~400 хостов.

Возможно именно поэтому Anthropic ограничила доступ к Mythos для 9 компаний в рамках Project Glasswing.

Возможности без сдерживания — это риск.