🤯 Наконец-то понятен self-attention
Одна из самых сложных частей понимания LLM — это self-attention. Формула выглядит простой — её можно быстро выучить.
Но что на самом деле означают Q, K и V и как они взаимодействуют — совсем другая история.
✅ Эта визуализация делает всё очень наглядным и понятным — видно, как queries обращаются к keys и получают нужные values.
🤨 Чтобы лучше понимать, как работают модели на математическом уровне, советуем курс Математика для Data Science.
📍 Навигация: Вакансии • Задачи • Собесы
🐸 Библиотека дата-сайентиста
#буст
Post #7603
1.58K
- ❤ 6
- 🔥 2