С ИБ-угрозами от ИИ разработчики ПО практически не работают

Менее четверти компаний-разработчиков ПО используют базовые меры контроля при использовании ИИ — такие данные приводят в своем исследовании Ассоциация разработчиков программных продуктов (АРПП) «Отечественный софт» и ООО «AppSec Solutions».

⚡️ Всего LLM применяют 81% опрошенных компаний, ИИ-агентов использует 72%, а создают собственные ИИ-решения 67%.

⚡️ Что касается безопасности, то восемь базовых мер контроля безопасности ИИ в среднем внедрены у 23% опрошенных. При этом у каждой третьей — нет ни одной.

⚡️ При этом 22% компаний эксплуатируют агентов в продуктивной среде, 52% — на стадии тестирования, но лишь 42% контролируют телеметрию по токенам.

⚡️ Оценку угроз провели 9%, а политику взаимодействия с внешними инструментами имеют только 26%. Технологию внедряют в восемь раз чаще, чем оценивают угрозы.

⚡️ Правда, атак на ИИ пока еще почти нет — с ними столкнулось лишь 4% компаний, а 74% отвечают, что атак точно не было.

⚡️ Ответственного за безопасность ИИ тоже нет больше чем у половины опрошенных (54%).

⚡️ Главным барьером для работы с безопасностью ИИ называют банальную нехватку ИБ-экспертизы в ИИ (70%). Еще 9% указывают на отсутствие подходящих решений📌

💻 СофтТех в Telegram | в MAX