Ученые Джиллиан Вордик и Стефани Стамм в WSJ рассказывают о своем исследовании, в котором выяснилось, что бизнесу практически невозможно сколь-нибудь точно планировать свои затрата на искусственный интеллект.

Сначала был период #tokenmaxxing («максимизации токенов»), когда американские компании поощряли сотрудников использовать ИИ как можно активнее. А затем пришло время платить по счетам. Компании начали понимать, что им нужно внимательнее относиться к подсчету токенов — единиц измерения использования ИИ. И это непростая задача: недавнее исследование показало, что только 11% из почти 400 опрошенных компаний смогли точно спрогнозировать расходы на ИИ.

Хотя более совершенные модели обычно обходятся дороже в пересчете на токен, иногда они выполняют задачи эффективнее, что в итоге снижает общие затраты. И наоборот: если поручить «дешевой» модели задачу, для которой она не предназначена, это может привести к резкому росту расхода токенов. Выяснилось, что в 32% случаев более дешевые модели в итоге обходились дороже, чем более дорогие. «Практический вывод очевиден, — говорит Линцзяо Чэнь, одна из исследователей. — Нельзя судить о том, какая модель на самом деле дешевле, основываясь только на цене».