CEO Palantir обвинил ИИ-лабы в «токенмаксинге»

Алекс Карп публично заявил, что провайдеры ИИ намеренно раздувают количество токенов при обработке запросов корпоративных клиентов.

Биллинг у большинства лабораторий построен на объёме обработанной информации — чем больше токенов прогнали через модель, тем выше счёт. По словам Карпа, корпорации начали задавать неудобные вопросы: за что именно они платят и почему расход токенов растёт, а результат — нет.

Модели часто генерируют избыточные цепочки рассуждений, переспрашивают, добавляют лишний контекст. Каждый лишний токен - это деньги. При масштабах корпоративного использования речь идёт о миллионах долларов разницы между оптимальным и фактическим потреблением.

Карп ни разу не альтруист, Palantir продаёт собственную платформу для работы с ИИ.

ИИ что дальше? Подпишись, да пребудут с тобой токены!