🛡 Контроль безопасности ML-моделей и поддержка ИИ-экосистем в AppSec.Track

На связи Михаил Макаров, руководитель продукта AppSec.Track. Расскажу подробнее, как мы реализовали в платформе проверку безопасности ML-моделей до их попадания в корпоративную среду.

ML-модель — это не просто «веса», а исполняемый артефакт. Модели из публичных хабов вроде Hugging Face распространяются в сериализованных форматах, которые при загрузке способны выполнить произвольный код на машине разработчика или прямо в CI. Достаточно один раз подтянуть заражённую модель — и злоумышленник получает доступ к среде. Классический сканер зависимостей такую угрозу не видит: вредонос спрятан внутри самого файла модели, а не в списке пакетов.

⚡️ AppSec.Track стал первым на российском рынке продуктом, закрывающим этот пробел. Теперь каждая модель, запрашиваемая из Hugging Face через корпоративный репозиторий, автоматически ставится в карантин и проходит проверку безопасности до того, как попадет к разработчику. Платформа анализирует содержимое файла модели и ищет опасные конструкции, которые могли бы сработать при ее загрузке, при этом не запуская саму модель. Пока проверка не завершена, доступ к модели заблокирован.

Как это выглядит в работе:

▶️ Мгновенная блокировка. При запросе модели разработчик сразу получает уведомление со статусом и позицией в очереди, не дожидаясь окончания сканирования.

▶️ Управляемая очередь. Команда безопасности работает на новой странице «AI-Очереди»: приоритизация срочных проверок, перезапуск сканирований, просмотр результатов в реальном времени.

▶️ Масштабирование. Несколько обработчиков сканируют модели параллельно — тяжелые модели не задерживают остальные проверки.

➕ Вместе с этим релиз расширяет поддержку ИИ-экосистем: под контроль AppSec.Track попадают компоненты и уязвимости в проектах на CUDA, Julia, а также Gleam, Elixir и OCaml.

Подробнее о настройке проверки ML-моделей читайте на сайте. 🖥