В интересное время живем: с одной стороны, классические инсайдерские угрозы от сотрудников никуда не делись и только усложняются благодаря развитию технологий, а с другой – на горизонте появилась новая категория нарушителей в виде ИИ-агентов, лишенных "недостатков" человеческих инсайдеров.

К чему это я? Тут вот агентство CISA разродилось обновленной редакцией руководства по противодействию инсайдерским угрозам, где в том числе описало новые риски, связанные с использованием ИИ: мало того, что злоумышленникам стало проще обманывать и манипулировать сотрудниками с помощью дипфейков и "грамотного" фишинга, так еще и сами сотрудники стали сливать чувствительные данные в дипсики и gpt-подобные чаты😭
А тут еще инсайдеры стали отравлять данные и искажать настройки моделей в ИИ-системах работодателя...
В общем, терпения работодателям, а CISO/CSO – времени на чтение гайда от CISA и ресурсов для построения эффективной программы противодействия инсайдерским угрозам.

Хотя, в скором времени скорее всего угрозами от сотрудников-инсайдеров мы пренебрежем, так как появилась более совершенная версия, которую мы сами и взращиваем – ИИ-агенты🫂
Почитать про инсайдерские угрозы от ИИ-агентов можно в публикации Мэтта Адамса "Actions Speak Louder Than Tokens", где он также презентовал модель угроз ИИ-инсайдеров: всего описано 27 угроз, сгруппированным в 6 категорий, соответствующих архетипам классических инсайдеров.
Учитывая, что в скором времени на каждого сотрудника в среднем будет приходиться по 82 ИИ-агента, а эти агенты, в отличие от людей, работают на машинных скоростях, не делают перерывов на обед и не имеют психологического состояния, за которым можно было бы следить, программу противодействия инсайдерским угрозам уже пора натягивать и на ИИ-агентов...
Кстати, в статье Мэтта Адамса есть рекомендации по мониторингу и выявлению инсайдерской деятельности ИИ-агентов, а также меры митигации.

#insider #ai #cisa #guide #threat #model #framework #agent