Компании начали замечать необходимость более точного контроля токенов. Однако это непросто: из недавнего исследования «Mavvrik and Benchmarkit’s 2026 State of AI Cost Governance Report» следует, что лишь 11% из почти 400 опрошенных компаний могли точно прогнозировать расходы на ИИ, пишет CRN.
В отличие от традиционного ПО, ИИ страдает присущим человеку недостатками. А именно, принимает решения, и порой — неверные. И всё в рабочее время.
Хотя более продвинутые модели обычно стоят дороже в расчёте на токен, иногда они выполняют задачи эффективнее, что приводит к снижению общих расходов. Аналогичным образом поручение «дешёвой» модели задачи, для которой она не приспособлена, может привести к лавинообразному росту количества израсходованных токенов.
Учёные из Стэнфордского университета, Университета Карнеги — Меллона, Калифорнийского университета в Беркли и Microsoft Research протестировали эти процессы, прогнав модели через более чем 6800 задач из области математики, программирования, точных наук и других областей. В 32% случаев более дешёвые модели в конечном итоге оказались дороже более дорогих.
«Практический вывод очевиден. Одна лишь цена не должна быть показателем того, какая модель на самом деле дешевле», — утверждает Линцзяо Чэнь, один из исследователей.
Один из примеров показывает задание, данное двум моделям Google: Gemini 3.1 Pro, обычно используемой для задач, требующих рассуждения и оценки ситуации, и более дешёвой, лёгкой и быстрой Gemini 3 Flash. Задача заключалась в анализе одного кадра видео с YouTube. Более дорогая модель Pro выполнила задание за 85 шагов, тогда как более дешёвая Flash сделала почти 1000 шагов — после чего произошёл сбой.
Более дешёвая модель дала сбой, израсходовав токенов на $14, тогда как более дорогая успешно выполнила задачу всего за $1. Хотя этот результат мог быть аномалией, подобное явление может происходить и при обычном использовании моделей.
«Определённые колебания на уровне отдельных запросов заложены в самой природе искусственного интеллекта, а наши тесты показывают, что при большом масштабе разнообразных задач в реальных условиях они усредняются. Итоговые расходы зависят от множества факторов, связанных с конкретной задачей, что может затруднять точное прогнозирование расходов на новую и развивающуюся технологию. Компания предоставляет клиентам больший контроль благодаря лимитам расходов и гибким тарифам», — сообщила в заявлении пресс-секретарь Google.
По мере того как всё больше компаний внедряют искусственный интеллект в свои повседневные процессы, им придётся выработать стратегии управления этим ресурсом — например, обучать сотрудников тому, какую модель использовать для конкретных задач. Иначе счета получатся действительно кошмарными.
🐽 А вы сами платите за токены для работы или вам оплачивает компания?