🔍 Amazon потратил $1,8 млн сверх бюджета на ИИ

Amazon использовал Claude Sonnet, чтобы сопоставить книги в своём магазине с данными об авторах. Задача выглядела довольно рутинной — как раз из тех, которые хочется отдать ИИ и больше о них не вспоминать.

Не вспоминали пять месяцев.

Когда наконец проверили расходы, выяснилось, что проект сжёг $1,8 млн, превысил бюджет на 860% — и при этом так и не заработал.

Были и другие сюрпризы:

• инструмент для финансового аудита — перерасход $541 000;
• система оптимизации доставки — ещё $134 000 сверх плана.

Проблема в том, что ошибка в обычной программе чаще всего приводит к сбою. А ошибка в AI-системе может продолжать исправно работать: отправлять запросы, повторять операции, расходовать миллионы токенов и очень вежливо увеличивать счёт.

Особенно забавно, что произошло это в Amazon — компании, которая сама продаёт через AWS инструменты контроля облачных расходов. Сапожник оказался с сапогами, но забыл посмотреть на их стоимость.

Amazon называет эти случаи отдельными ошибками периода экспериментов. И это справедливо. Но урок здесь важен для всех компаний: AI-агентов нельзя внедрять без лимитов расходов, мониторинга в реальном времени и автоматической остановки при отклонении от бюджета.

Сначала мы боялись, что ИИ отнимет работу. Теперь выясняется, что он вполне может просто потратить весь бюджет отдела.

Financial Times⁠