TGViewer
Embedded Doka Embedded Doka @embedoka · 3.79K subscribers
Post #1392 3.86K
AI ускоритель для эмбеддед-применений

Внезапно в 2025Q2 осознал что доступных* железок для ускорения инференса класса "подключить к RPi" или воткнуть в ноут в m.2 слот вместо 5G WWAN - нет 🤷‍♂️

Всё что удалось найти:

1️⃣ Hailo-8 на 26 TOPS за 25т.р. на али
2️⃣ QNAP QAI-M100 на Rockchip RK1808 на 3 TOPS за 65EUR

Железка от Axelera в исполнении m.2 похоже увидела свет только на бумаге в виде пресс-релизов, а жаль.. от Bitfury ожидал большего.

Есть конечно еще Nvidia Jetson - но это уже немного другая парадигма - как будто бы вокруг неё надо выстраивать разработку, да и в ноутбучный слот не засунешь такое (см.кейс QNAP NAS).

PS: Еще какая-то особенность есть, что вендоры NPU для Edge/embedded применений крайне неохотно раскрывают размер RAM: найти эти данные по Hailo-8 или по мифической карточке Axelera я не смог 🤷‍♂️

Может я чего-то упускаю и рынок в 2025Q2 буквально наводнён нишевыми NPU?

*доступный - значит можно купить на дижикей/аллиэкспресс

@embedoka
  • 👍 8
  • ❤ 3
  • 🔥 2
More from @embedoka
  1. Sep 4, 2026OpenAI представил новую версию GPT-6 Astra, которая помимо всего прочего умеет проектирова…
  2. Aug 25, 2026Winter is coming... ..поэтому самое время выбрать подарок 😃 ..чтобы инферить LLMки "без р…
  3. Jul 24, 2026#пятничное @embedoka
  4. Jul 17, 2026OpenAI Codex Micro keyboard Codex Micro is a programmable macro keypad designed to make in…
  5. Jun 19, 2026А вот интересно: ранжируют ли ИИ-ассистенты пользователей по степени тупости? Эдакий внутр…
  6. Jun 11, 2026Мечтают ли LLM о QFN-корпусах на День Рождения? 🤔 #пятничное @embedoka
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →