Триллионы токенов ≠ реальная ценность

На недавней конференции OpenAI показала список компаний и людей, которые уже сожгли больше триллиона токенов.

Duolingo, OpenRouter, Indeed - цифры впечатляют, но это не про эффективность.

JetBrains тоже в списке - Денис уже похвастался наградой от OpenAI за триллион токенов.

Настоящее конкурентное преимущество сегодня - в оптимизации расходов на языковые модели.

Как когда-то AWS перевернул рынок, позволяя компаниям снижать стоимость вычислений, так теперь грамотный выбор LLM и продуманная архитектура запросов определяют маржинальность бизнеса.

Побеждает не тот, кто сжигает триллионы токенов, а тот, кто превращает каждый миллион в ощутимую ценность, продукт и прибыль.

Именно динамический выбор и переключение моделей под конкретные use case станут ключевой задачей токен-реселлеров ближайшего будущего - нового слоя игроков в экономике LLM, где эффективность важнее масштаба.

1 триллион токенов - это не просто цифра:
• на дешёвых моделях вроде GPT-4o mini ~$285 000,
• на продвинутых вроде o1-pro - уже много миллионов.

@maxvotek | linkedin | substack