Интересный график.
Цена использования LLM-ок снижается в 10 раз каждый год.
Размер весов моделей уменьшается, качество увеличивается, затраты на обучение тоже уменьшаются. Все это позволяет делать токены (плату за использование) дешевле и доступнее.
Такое радикальное удешевление открывает возможность для новых пользовательских сценариев, которые были раньше недоступны из-за дороговизны.
Дальше этот тренд будет продолжаться, хотя скорость удешевления, скорее всего, будет уже не такая.
Полная статья вот тут
https://a16z.com/llmflation-llm-inference-cost/
Post #221
831

- 🔥 11