📊 53% представителей российского бизнеса направляют на ИИ не более 3% инвестиционного бюджета. При этом 86% уже внедряют ИИ, а 63% считают, что компании, которые этого не делают, потеряют конкурентоспособность в ближайшие пять лет.
Пока большинство организаций использует ИИ на уровне ассистента. Переход к автономным агентам требует не только инвестиций, но и интеграции с корпоративными системами, перестройки процессов и создания безопасного контура с понятными правами доступа и контролем действий.
Разница между ассистентом и агентом принципиальна: ассистент предлагает, а решение принимает и отвечает за него человек. Агент действует сам, и вместе с автономностью к нему переходит часть операционного риска. В классической ИТ-инфраструктуре у нас есть «рубильник» — контейнер можно остановить, права отозвать, релиз откатить, для агентов промышленного эквивалента пока нет: ни стандартного kill switch, ни воспроизводимого следа принятых решений, ни единой модели идентификации и авторизации агента как субъекта.
— считает Антон Башарин, старший управляющий директор AppSec Solutions.
⚠️ Недавние инциденты с ИИ-моделями показывают, что это уже не теоретическая проблема. Если агент получает возможность действовать автономно, ошибка в конфигурации среды может стать для него доступным инструментом достижения цели.
По мнению эксперта, именно отсутствие понятных механизмов управления рисками во многом объясняет осторожность бизнеса: компаниям сложно увеличивать инвестиции в технологии, которыми они пока не умеют безопасно управлять. Поэтому доля в 3% инвестиционного бюджета — скорее симптом, чем причина.
Подробнее в Forbes. 🖥
🔠 Рассылка | МАКС
#AppSec_экспертиза #AISecurity