Часто слышу тейки что антропик теряет деньги на подписках за 200 долларов, и "раскидывают деньги инвесторов" что б занять рынок. На самом деле довольно просто прикинуть цену инференса для антропиков (примерно понимаем размер модели, понимаем цену GPUшек, математику нейросетей), так я попытался собрать полную бизнес модель их инференса.
В рассчетах я оценил скорость генерации трансформера в зависимости от размера модели, учел KV кеширование, префил промпта, квантизацию, рассмотрел несколько вариантов архитектуры.
По ним - Anthropic работают точно не в убыток, а скорее всего в небольшую операционную прибыль, даже если бы все аккаунты с подпиской за 200 баксов использовали бы 100% своих лимитов каждый месяц.
https://claude-inference-cost.mametevalex.workers.dev/
^^^^^^^^
Post #226
2.52K

- 👍 15
- ❤ 6
- 🤔 3
- 🐳 1