🖥 Raspberry Pi показала плату-ускоритель для локального запуска LLM — AI HAT+ 2

Что это такое:

• Это отдельный модуль для ПК, заточенный под запуск ИИ, со встроенными ускорителем генерации Hailo-10H и 8 Гб ОЗУ под капотом
• Плата соответствует производительности 40 Tops — это критерий, соответствующий требованиям Microsoft для ИИ-компа
• На плате можно спокойно запускать оффлайн укороченные версии нейронок — например, DeepSeek-R1-Distill, Qwen 2.5 или LLama 3.2
• Она буквально превращает ваш ПК в небольшой дата-центр, чтобы использовать нейронки без надобности в аренде облака
• И при этом плата ест всего 2.5-3 Вт — очень скромно
• Разрабы обещают завести поддержку большего количества LLM чуть позже
• Цена штуки — 130$

Уверен, в будущем это станет неотъемлемым комплектующим каждого ПК. И дефицитным 😖

Пет-проект