Федеративное машинное обучение: новый подход для безопасного сотрудничества в ИИ

Яндекс, ИСП РАН и Сеченовский Университет опробовали федеративное машинное обучение для задач медицины - технологию, которая позволяет организациям вместе обучать нейросети, не обмениваясь чувствительными данными.

Проект реализовал Центр технологий для общества Yandex Cloud, специалисты которого разрабатывают решения для образования, науки, культуры и здравоохранения.

Как это работает

Федеративный подход позволяет участникам коллективно обучать модели, никому не передавая свои данные. Модель обучается на каждом из датасетов участников проекта, а на центральный сервер передаются не сами датасеты, а результаты их обработки - к примеру, изменения в весах модели. Именно на них затем обучается глобальная модель.

С федеративного сервера на клиенты отправляются задания, которые включают в себя код модели и конфигурации. При этом не каждый пользователь может отправить такое задание, есть четкое разделение ролей. После создания задания проводится проверка на стороне сервера и на стороне клиентов. Те задания, которые прошли проверку, выполняются на клиентах. Далее запускается еще одна проверка на стороне клиентов - можно ли отправить обратно на сервер результат обучения. За счет таких многофакторных проверок обеспечивается безопасность данных.

Преимущества федеративного машинного обучения в том, что организации могут безопасно сотрудничать в проектах, связанных с чувствительной информацией. А в перспективе технология позволит создать более точные модели, используя данные от нескольких источников.