NVIDIA выпустила две новые мультимодальные модели: Nemotron-3.5-Bolt и Nemotron-3.5-Super-VL и Unsloth уже нарезал их в доступные кванты.

Nemotron-3.5-Bolt-74B-A9B работает на устройстве с 24 ГБ VRAM и показывает одни из лучших результатов среди моделей своего размера.

Super-VL-120B-A12B работает на устройстве с 82 ГБ VRAM.

Версия Nemotron 3.5 Bolt в формате GGUF от Unsloth AI:
https://huggingface.co/unsloth/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-GGUF

Руководство:
https://unsloth.ai/docs/models/nemotron-3.5-bolt

Nemotron 3.5 Super в формате GGUF:
https://huggingface.co/unsloth/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-GGUF

HF-Bolt

Модели интересные, но не факт, что лучше qwen3.8:27b единственный плюс, что они быстрее из-за того, что MoE, который уже заждались от qwen3.8, кстати.

#Nvidia #Unsloth
------
@tsingular