Работники Amazon научились «обманывать» искусственный интеллект для выполнения KPI. Сотрудники стали имитировать активность, создавая лишние задачи и перерасходуя ресурсы.

С момента запуска внутреннего ИИ-агента MeshClaw прошло всего несколько недель, но уже появились сотрудники, которые намеренно ставят агенту избыточные, ненужные или заведомо непродуктивные задачи (так называемый «tokenmaxxing») — чтобы увеличить потребление ИИ-токенов и выполнить KPI.

Amazon планирует вложить в развитие ИИ около $200 млрд и рассматривает агентов как ключевой инструмент. Однако компания столкнулась с эффектом закона Гудхарта: когда показатель становится целью, он перестает быть надежным. Минимум 80% разработчиков обязаны использовать ИИ еженедельно.

Бизнес пока не научился корректно измерять эффективность работы людей с поддержкой ИИ. Похожие проблемы наблюдаются в Microsoft, Google, JPMorgan, Disney и других компаниях.