Почему стоит пересчитать AI-проекты, от которых отказались ранее из-за стоимости моделей

В интервью «Ведомостям» руководитель Yandex Cloud Григорий Атрепьев дал любопытный факт: средняя выручка AI Studio на сопоставимый объём токенов за год снизилась примерно в шесть раз (по платформе в целом, не по отдельной модели).

Отсюда следует логичный вопрос: при таком падении средней стоимости токена, как много задач, которые не стали автоматизировать, потому что экономика не сходится, можно будет автоматизировать уже сейчас или через несколько месяцев? Подозреваю, что очень много.

Кто-то может сказать, что ну конечно средняя стоимость снизилась, если среди предоставляемых моделей остаются не только топовые, но и модели попроще, но в этом-то и смысл: динамика стоимости токена дана не по абстрактным моделям, а по тем, которыми реально пользуются пользователи, т.е. решающим их задачи.

Кроме того, оценка экономики для автоматизации с ИИ может поменяться с распространением универсальных агентов. В частности, Яндекс готовит Алису AI Про для бизнеса и запускает AI-SPM для защиты ИИ-инфраструктуры.

Ну и раз уж говорим про деньги, еще один рычаг, на который можно влиять это сам выбор модели, на которой автоматизацию или оптимизацию бизнес-процесса можно делать. В зависимости от задачи бизнесу может хватать разных решений, например в том же интервью отмечают рост спроса на китайские LLM, но при этом Яндекс продолжает обучать и свои модели: в опенсорсе появились Alice AI Search Pretrain и Alice AI LLM Foundation.

В сухом остатке, там, где раньше инференс съедал эффект, есть сразу несколько причин перепроверить оценки затрат, что в целом очень позитивные новости для тех, кто внедряет ИИ в бизнес :)