20 февраля на международном форуме «Территория безопасности» Константин Крючков, руководитель продукта AppSec.Track, и Михаил Черешнев, исследователь AI Security, рассказали про защиту цепочки поставок ПО в эпоху ИИ.
Главное:
▶️ ИИ формирует новый контур цепочки поставок. Внутри продукта теперь есть не только код и зависимости, но и модели, данные, на которых они обучаются, запросы к моделям и ИИ-агенты.
▶️ Классические методы защиты ПО работают требуют адаптации. Инструменты оценки и управления безопасностью эффективны только при учете новых артефактов.
▶️ ИИ также становится активным помощником инженера ИБ, внедряется в инструменты DevSecOps, помогает работать с приоритетами и количеством сработок.
▶️ Прозрачность и воспроизводимость усиливают доверие. Контроль происхождения моделей и процессов ее обучения обеспечивает уверенность в результатах ИИ.
▶️ AI-BOM — логичный шаг развития учета компонентов. Структурированный перечень моделей и данных обеспечивает управляемость и интеграцию ИИ в процессы безопасности.
ИИ переписал правила игры: создать прототип приложения можно за считанные часы, а злоумышленники получили новые возможности для автоматизации атак и разработки вредоносного ПО. Модели ИИ — это полноценные артефакты разработки, как код или сторонние компоненты, которые активно внедряются в продукты. Без прозрачности и контроля невозможно гарантировать, что такие модели заслуживают доверия и безопасны для использования.
— отметил Константин Крючков.
➡️ Смотрите запись выступления на Rutube. ▶️
#AppSec_Мероприятия