TGViewer
Data Science | Machinelearning [ru] Data Science | Machinelearning [ru] @devsp · 19.8K subscribers
Post #4308 3.69K
⚙️ Запускаем 8B LLM в браузере: AQLM.rs

Как запустить Llama 3.1 8B в браузере без GPU? В статье рассказывается о проекте AQLM.rs: инференс на WebAssembly, сжатие модели и запуск на обычном ПК или мобильном устройстве.

Читать...
  • 👍 6
  • 👎 2
  • ❤ 1
Open in Telegram All posts from @devsp
More from @devsp
  1. Oct 8, 2026Разработчик больше не обязан выполнять каждую задачу вручную. Но сможет ли ИИ-агент действ…
  2. Oct 8, 2026OpenBPM 2.0 приехал В «Хоулмонте» инженеры пилят русскую платформу OpenBPM. Что это по сут…
  3. Oct 8, 2026Разбираем decision-модели по кишкам: что внутри Jev, Clef, pplx-decider, Strands Decider,…
  4. Oct 8, 2026Европа тоже влезла в гонку языковых моделей: Германия впервые выкатила модель с результато…
  5. Oct 7, 2026Google выкатила EmbeddingGemma 2 Открытых мультимодальных моделей под эмбеддинги до неё не…
  6. Oct 7, 2026Матан: три подборки по основам 1. База по математике для машинного обучения 2. База по мат…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →