LLM Architecture Gallery: визуальный гид по 50+ моделям ИИ

Если интересуетесь LLM, то вам пригодится эта галерея архитектур топовых LLM от GPT-2 до Qwen3.5 и DeepSeek V3.2. Внутри кликабельные схемы с параметрами, контекстом (до 1M токенов), типом attention (GQA, MLA, MoE), RoPE/NoPE, QK-Norm и ключевыми фишками.

Проект регулярно обновляется. Последний апдейт был 17 марта.

Для ML-инженеров и исследователей обязательно к изучению: https://sebastianraschka.com/llm-architecture-gallery/

#ml #llm

@prog_point (теперь ещё в VK и Max)