Что произошло в мире нейросетей за последний год?
👋 DeepSeek шокировал индустрию и обвалил американские рынки. Китайцы научились "копировать" лучшие модели. Google признал галлюцинации "общеотраслевой проблемой" после скандала с сенатором.

📹 В этом видео Виталий Кулиев и Владислав Галянин (Технический директор immers.cloud) разбирают главные тренды 2025: Mixture of Experts, FP8/FP4 квантизация, новые типы внимания, thinking-модели и мультимодальность.

📌 Конкретные цифры: сколько стоит запустить DeepSeek V3.2 у себя? Какая реальная скорость генерации, и как получить бесплатный доступ к API с Qwen3-235B, Gemma-3 и другими моделями.

➡️ Бесплатный API к нейронкам от immers.cloud

➡️ vllm - движок для запуска нейронок. На их сайте есть удобный AI assistant - хороший пример реализации RAG.

Таймкоды:
00:00 DeepSeek — как китайцы шокировали мир
12:01 Сколько стоит запустить DeepSeek?
15:33 Галлюцинации нейросетей
22:50 Дистилляция — как китайцы "копируют" Anthropic
26:42 Мультимодальные модели
30:20 Thinking-модели
31:57 Бесплатный API от immers.cloud
36:50 Эволюция точности: FP16 → FP8 → FP4
39:00 Новые типы внимания в 2025
45:40 RAG и огромные контексты
49:05 Размер контекста в программировании
54:00 vllm AI assistant

Смотрите также в:
📱 ВК | 📱 YouTube