Журнал о науке и технологиях
Сайт: computerra.ru
Пресс-релизы и предложения: news@computerra.ru
Реклама: advert@computerra.ru
Post #8802
589

Маленькая LLM на микроконтроллере за $10
Разработчик запустил языковую модель с 28,9 миллиона параметров на микроконтроллере ESP32-S3, который стоит меньше $10. Модель генерирует текст со скоростью почти 10 токенов в секунду, и все работает прямо на чипе, без облака и внешних серверов.
👉 Проект на GitHub — ссылка тут
САЙТ | TG | VK | MAX | YT
Разработчик запустил языковую модель с 28,9 миллиона параметров на микроконтроллере ESP32-S3, который стоит меньше $10. Модель генерирует текст со скоростью почти 10 токенов в секунду, и все работает прямо на чипе, без облака и внешних серверов.
👉 Проект на GitHub — ссылка тут
САЙТ | TG | VK | MAX | YT
- ❤ 5
- 👍 4
- 🔥 4









