Исследователи из Массачусетского технологического института разработали протокол безопасности, который использует квантовые свойства света для защиты данных при облачных вычислениях. Данный метод позволяет обмениваться информацией между пользователем и облачным сервером при работе с моделями глубокого обучения, сохраняя при этом конфиденциальность данных и точность моделей.

Современные схемы защищенных вычислений построены на гомоморфном шифровании, которое позволяет выполнять универсальные вычисления на основе зашифрованных данных и сохраняет безопасность входных и выходных вычислительных данных. Последние разработки позволили адаптировать самые современные схемы гомоморфного шифрования для безопасного машинного обучения, но возможности реальных приложений ограничены из-за больших вычислительных затрат и недавно обнаруженных уязвимостей в системе безопасности.

Исследователи кодируют данные в лазерном свете, используемом в волоконнооптических системах связи. Метод основан на принципе квантовой механики, известном как теорема о невозможности клонирования, который делает невозможным для злоумышленников копирование или перехват информации без обнаружения их вторжения в систему. При этом точность моделей глубокого обучения остается на уровне 96%.

Новый протокол основан на фотонной вычислительной архитектуре для реализации эффективного оптического матрично-векторного умножения. В протоколе исследователей сервер кодирует DNN-данные глубокой нейронной сети в оптическое поле с помощью лазерного света. Затем сервер передает данные сети клиенту, который реализует операции на основе своих личных данных. Используя квантовую природу света, исследователи демонстрируют, что сервер может вычислить верхнюю границу утечки данных, используя теорему Холево, а клиент может определить верхнюю границу утечки данных, используя границу Крамера-Рао.

Исследователи также отметили, что новый метод обеспечивает двустороннюю защиту. Он предотвращает утечку конфиденциальных данных клиента на сервер и в то же время защищает проприетарную информацию о модели от клиента. Данный подход может быть реализован с использованием существующего телекоммуникационного оборудования, что делает его практичным для широкого применения. Модели глубокого обучения, такие как GPT-4, требуют значительных вычислительных ресурсов, доступных только в облаке. Однако использование облачных вычислений связано с рисками для безопасности, особенно в таких чувствительных областях, как,
например, здравоохранение. Новый протокол позволит организациям использовать модели ИИ без рисков в отношении защиты персональных данных или интеллектуальной собственности.

📚Тематические ссылки:
https://arxiv.org/pdf/2408.05629v2
https://hightech.fm/2024/09/27/confi-ai-learning