Наконец-то закончил работу над большим пет-проектом.
Я смог запустить Llama 3.1-8b прямо в браузере на cpu с помощью нашего нового алгоритма сжатия AQLM+PV.
Можно потестить демо здесь
видео
Post #8524
6.59K
- Oct 16, 2026https://www.youtube.com/watch?v=TWHXrLzUKJc это что такое
- Oct 15, 2026Полисемантичность всё? Авторисёрч забил последний гвоздь в гроб SAE. Нейроны уже распутаны…
- Oct 14, 2026Сид Студио делает отличные esp с wifi к слову... https://x.com/OpenAINewsroom/status/21100…
- Oct 13, 2026# RoaM теперь открытая RPG и software factory Недавно я показывал вам RoaM: мою маленькую…
- Oct 13, 2026Post #11187
- Oct 13, 2026Агенты уходят к тем, кто не отказывает. GLM-5.3 Raw: анцензнутый, 1M контекста, tool calli…