Иван Капунин познакомил студентов МИФИ и подписчиков нашего канала с темой безопасности алгоритмов машинного обучения.

Ключевые мысли, которые Иван озвучил в своей лекции:

* Любые модели машинного обучения, начиная с простых линейных классификаторов и заканчивая Visual Transformers, подвержены атакам.
* Подбор архитектуры и гиперпараметров модели не будет давать полноценной защиты от adversarial examples.
* Чтобы модель была действительно устойчива к возмущениям, придется пожетвовать или временем обучения, или ресурсами для дополнительной проверки входных данных.
* В действительности мы практически всегда будем иметь дело с ограниченным знанием об устройстве целевой модели, что существенно усложняет эксплуатацию.

Ресурсы, которые были упомянуты в лекции:
* Краткое знакомство / Survey по AML
* Пошаговый туториал с объяснениями, как работают атаки
* Почему атаки работают
* Потенциальные методы защиты (1 и 2)