Семинар: Анализ смещенных стратегий неполного участия в федеративном обучении

🗓 Где и когда: КПМ 903, Среда, 25 февраля, 18:30 МСК
🎙 Докладчики: Дмитрий Былинкин и Наиль Баширов, сотрудники лаборатории BRAInLab

О чём пойдёт речь?
Мы обсудим постановку федеративного обучения с неполным участием устройств. Поскольку локальные выборки и коммуникационные каналы устройств в федеративных сетях неоднородны, вместо равномерного выбора участвующих клиентов обычно используются стратегии, основанные на значимости каждого клиента. Поскольку в таком случае направление, собранное с участвующих устройств, является смещенной оценкой полного градиента, возникает ряд трудностей для анализа таких схем. В частности, FedAvg не имеет гарантий сходимости даже при использовании неестественных предположений, таких как ограниченность градиентов, что создает предпосылки для разработки более совершенных фреймворков.

На семинаре мы обсудим:
🔵Как можно выбирать клиентов в федеративных сетях с неоднородными данными и системными характеристиками;
🔵Как смещенный выбор клиентов связан с компрессией коммуникаций;
🔵Как эта идея может быть использована для разработки фреймворка неполного участия с «правильными» теоретическими гарантиями;
🔵Как в дальнейшем развивать идею, комбинируя ее с другими техниками эффективного федеративного обучения.

Ссылка для подключения: https://us06web.zoom.us/j/87952961636?pwd=ywETJ3nc3Gm750hLKcbzJ23fxTRgEL.1

Приходите очно или онлайн, будет интересно!

P. S. Если не сможете присутствовать — запись семинара появится на нашем Rutube-канале через неделю. А пока можно посмотреть предыдущие выпуски!