Работники Amazon научились «обманывать» искусственный интеллект для выполнения KPI. Сотрудники стали имитировать активность, создавая лишние задачи и перерасходуя ресурсы.

С момента запуска внутреннего ИИ-агента MeshClaw прошло всего несколько недель, но уже появились сотрудники, которые намеренно ставят агенту избыточные, ненужные или заведомо непродуктивные задачи (так называемый «tokenmaxxing») — чтобы увеличить потребление ИИ-токенов и выполнить KPI.

Amazon планирует вложить в развитие ИИ около $200 млрд и рассматривает агентов как ключевой инструмент.

Однако компания столкнулась с эффектом закона Гудхарта: когда показатель становится целью, он перестает быть надежным. Минимум 80% разработчиков обязаны использовать ИИ еженедельно, а отчеты об израсходованных токенах поступают менеджерам среднего звена. «Эти инструменты внедряются под большим давлением, — говорит один из сотрудников. — Некоторые просто сознательно тратят токены MeshClaw впустую».

Amazon утверждает, что расход токенов не будет учитываться при оценке сотрудников и не одобряет включение этого параметра в кадровые отчеты. Но многие сотрудники не верят в это: на внутренних «досках почета» токены всё же учитываются.

Бизнес пока не научился корректно измерять эффективность работы людей с поддержкой ИИ. Похожие проблемы наблюдаются в Microsoft, Google, JPMorgan, Disney и других компаниях.