За последние 1,5 года эффективность интеллекта на единицу энергии выросла в 18 раз
Вот этот график из свежего исследования Stanford (запрещен в РФ) и Together AI показывает, откуда взялся такой рост:
1. 5,9× за счёт железа
2. 3,0× за счёт ИИ-моделей
3. и они усиливают друг друга
Авторы прогнали больше миллиона реальных запросов через более 20 локальных моделей на разном железе.
И вот какие результаты получились :
• Уже сейчас небольшие локальные модели до 20B активных параметров успешно закрывают 88,7% обычных и запросов с рассуждениями.
• Доля запросов, которые можно обслуживать локально, выросла с 23% в 2023 году до 71% в 2025-м.
• Умный гибридный роутинг даёт 60–80% экономии энергии и денег. Об экономике роутеров тут подробнее.
Когда-то компьютеры тоже переехали с огромных мейнфреймов на столы пользователей, а потому что стали достаточно эффективными.
Сейчас то же самое происходит с интеллектом.
Облако никуда не денется, но всё большая часть мышления ИИ будет происходить прямо у вас на ноутбуке, телефоне и в ближайшие годы даже в наушниках.
Post #13304
2.13K

- 🔥 14
- ❤ 5