🎓 — Семинар 24. Recurrent Action Transformer with Memory (RATE) - Трансформерная архитектура с памятью для решения задач offline RL | Егор Черепанов

В последнее время использование трансформерных архитектур в обучении с подкреплением вызывает все больше внимания. Это связано с их способностью рассматривать траекторию движения агента в среде как последовательность, что сводит проблему обучения к моделированию последовательности.

В средах, где решения агента зависят от событий из прошлого, очень важно отразить как само событие, так и момент принятия решения в контексте модели, однако квадратичная сложность механизма внимания ограничивает возможности расширения контекста.

Для решения этой проблемы вводится понятие "эффективного контекста", получаемого с использованием механизмов памяти. В докладе будет описан данный подход и приведены результаты экспериментов на средах с памятью с использованием RATE.

📹 Трансляция Youtube

Подключайтесь к живому обсуждению и задавайте вопросы в прямом эфире! Ждем всех!

#семинары #RL #transformers