В связи с выявлением широко распространённых нарушений в использовании учётных данных Институт SANS предупредил, что гонка за внедрением ИИ в корпоративные рабочие процессы грозит опередить усилия в области безопасности

76% организаций сообщает о росте числа «нечеловеческих идентичностей» (NHI). Всё большее число из них связано с нейросетями.

В отличие от традиционных NHI, которые следуют фиксированной логике, агентный ИИ интерпретирует инструкции и может предпринимать непредсказуемые действия. Это означает, что он ведёт себя скорее как «сверхпривилегированный инсайдер», работающий со скоростью машины. Существует также риск галлюцинаций.

Между тем эксперты Forrester Research в прошлом году выразили мнение, что внедрение агентного ИИ приведёт к публично раскрытой утечке данных уже к концу текущего, и призвали компании следовать подходу «минимально жизнеспособной безопасности» для смягчения связанных с этим рисков.

🗿 — внедрят ИИ, а безопасникам разгребать