Обратите внимание, страница с материалами идущего сейчас курса «Современные системы искусственного интеллекта» Школы инженерии и прикладных наук Гарвардского университета, ведёт - Цзюньчэн Ян (защищался в Карнеги-Меллон). Выглядит как отличное и в меру академическое погружение в передовые практики и сегодняшнее состояния области.
Основная программа
Часть I - Введение в большие языковые модели и ИИ-агентов
Использование агентов
- Как работает Claude Code
- Стократная эффективность инженера (100x Engineer) с помощью мультиагентных систем
Проектирование агентов
- Управление контекстом и проектирование инструментов
- Мультиагентная архитектура, координация и коммуникация
- Память и надёжность агентов
- Оценка качества работы агентов
Продвинутое проектирование агентов
- Стоимость и производительность
- Безопасность агентов и саморазвивающаяся среда исполнения и управления
Часть II - Системы для больших языковых моделей и ИИ-агентов
Эффективная работа (serving) LLM
- Основы
- Спекулятивное декодирование
- Прунинг и квантование
- Графические процессоры и вычислительные ядра
- Оптимизация KV-кэша и архитектуры моделей
Эффективные агентные системы
- Планирование выполнения задач и кэширование префиксов
- Маршрутизация и балансировка нагрузки
По мере развития курса выкладываются очень подробные слайды, плюс есть отличная подборка литературы к занятиям.
Post #651
87