Своя LLM

Frontier models (передовые LLM, типа GPT 5.4/Opus/Sonnet) конечно хороши.
Но платить за это на масштабе очень дорого и бьет по бюджету.

Если я с парнями платил до $62K/mo просто за серверы видео-трансляций, могу только представить сколько тратят на AI большие конторы типа Notion/AirBnb/Pinterest и тд

Но вот оказывается они потихоньку обьявляют, что тренируют свои модели на основе опенсорсных и уже примерно в 5х сокращают стоимость.

К примеру Intercom (которые SaaS для клиентской поддержки) 4 дня назад обьявили, что свою модель Fin Apex 1.0 запустили, которая и дешевле и лучше чем GPT 5.4 справляется для узкой задачи клиентской поддержки. Что, кстати, логично, ведь зачем тебе "модель для всего"? Это тоже к вопросу о будущем AI-labs.

Вообще все облачные SaaS исторически основаны на условно фиксированной стоимости серверов (Fixed Cost). А вот переменные затраты (Variable Costs) сильно ломают модель, ибо сыкотно и не понятно кто там на сколько токенов из твоих клиентов погуляет. Ведь старые идеологии тарификации они же

- Fixed Subscription
- Seat/based subscription

Есть правда новая идеология, о которой на SaaS-канале отпишу попозже, ее суть в task/result-based pricing. Ну типа сколько инвойсов ты процессил, сколько диалогов обработал, итд.

Но в ментальности покупателя для большинства проектов все равно еще логика желания предсказуемости бюджета. Все боятся бесконечного коста. Даже у нас в SpatialChat была подписка в кредитами по времени бесед и оно по сути как каршеринг тикало каждую минуту, вызывая ментальный стресс.

Понаблюдаем дальше.

А пока уже Pinterest, AirBnb, Notion, Cursor, Intercom - на своих моделях.

А это, к слову, получается крупные клиенты от OpenAI/Anhropic уходят