Экономика ИИ-решений: почему GenAI требует другого подхода к оценке затрат

Экономика ИИ-решений зависит не только от качества модели, но и от того, как устроена система в целом.

В классическом ML основная часть затрат обычно приходится на подготовку данных и обучение модели. В GenAI-системах существенную роль начинают играть стоимость инференса, объем контекста, архитектура решения и дополнительные компоненты, участвующие в обработке каждого запроса.

Из-за этого привычных подходов к оценке эффективности часто оказывается недостаточно.

В карточках разобрали, чем отличается экономика ML и GenAI и как функционально-стоимостной анализ (ФСА) помогает находить основные точки затрат и возможности для оптимизации ➡️