ollama/deepseek-r1:8bCPU/GPU:
- 9950x - 13.484 tokens/s
- RTX 4070 Ti - 82.414 tokens/s
- M4 Pro - 39.204 tokens/s
Post #1608
335
Vitaliy Zarubin | @keygenqt Вопрос - что проще: написать самому или перепроверить что написала нейронка и доработать? Ollama + deepseek-r1:8b работает вполне себе годно на M4 Pro в Obsidian.
#fyi llm_benchmark:
CPU/GPU:
- 9950x - 13.484 tokens/s
- RTX 4070 Ti - 82.414 tokens/s
- M4 Pro - 39.204 tokens/s
CPU/GPU:
- 9950x - 13.484 tokens/s
- RTX 4070 Ti - 82.414 tokens/s
- M4 Pro - 39.204 tokens/s
- 👍 5
- 🔥 4