Экономика токенов и эра универсальных агентов
В интервью CEO Yandex Cloud хорошо подсветили несколько трендов, которые сейчас определяют развитие российского ML-рынка. Один из самых интересных здесь про экономику инференса.
Стоимость токена за последние годы упала примерно в 6 раз, но вместо падения рынка это приводит к росту потребления. Чем дешевле инференс, тем больше данных становится экономически выгодно прогонять через модели и тем больше процессов можно автоматизировать. Получается цикл: дешевле токены → больше потребление → больше оптимизаций → еще дешевле токены.
При этом само железо дешевле не становится. Стоимость инфраструктуры растет в 2–5 раз, поэтому вокруг AI постепенно формируется отдельный инфраструктурный слой со своими облаками, ускорителями и оптимизациями инференса. Для крупных компаний все важнее становится и независимость этого стека: свои модели, веса и возможность развернуть их внутри собственной инфраструктуры.
Еще один тренд: переход от автоматизации отдельных задач к горизонтальным агентам. Кодинг стал первым большим кейсом, но тот же подход постепенно переносится на аналитику, маркетинг, продажи и операционные процессы.
Интересно здесь именно то, как быстро меняется экономика применения моделей. Еще недавно многие сценарии просто не сходились по стоимости, а удешевление инференса постепенно делает их массовыми. Чем дешевле становится токен, тем больше работы в принципе имеет смысл отдавать моделям.
https://www.vedomosti.ru/technology/characters/2026/09/22/1230675-sozdat-ii-agenta-polovina-dela
Post #10000
8.53K

- 🗿 38
- ❤ 15
- 😁 10
- 👍 4
- 🔥 2
- ⚡ 1
- 🤨 1
- 🫡 1
- 🎄 1