👀 ИИ под прицелом: генерация фишинга, KPI выше безопасности людей и ИИ vs пентестер

👤 Сергей Зыбнев, ведущий специалист отдела по работе с уязвимостями в Бастионе, рассказал читателям российских изданий о трендовых уязвимостях и особенностях ИИ-систем.

➡️ Новый код: хакеры стали вдвое чаще использовать ИИ для атак

Нейросети упрощают и ускоряют работу фишеров, рассказал Сергей Зыбнев читателям «Известий». Самый распространенный сценарий атаки на российские структуры с использованием ИИ — когда нейросеть пишет убедительные сообщения от лица руководства, коллег или близких. Сейчас более 80% фишинговых писем составляются при помощи больших языковых моделей.

➡️ Почему ИИ ставит KPI выше безопасности людей: результаты бенчмарка ODCV-Bench

Эксперт протестировал несколько ИИ-моделей на бенчмарке для нейросети из 40 реалистичных сценариев, в которых у ИИ-агента есть жестко прописанные целевые показатели, а также правовые, этические и иные ограничения. Как показал эксперимент, агенты готовы на любые нарушения, чтобы достичь поставленных целей, даже если под угрозу ставится жизнь и здоровье работников-людей. Для этого они самостоятельно находят и используют лазейки в правилах, игнорируя внешние ограничения.

➡️ ИИ vs пентестер: может ли машина заменить человека

Сергей Зыбнев раскрыл читателям издания «Киберболоид» плюсы и минусы использования ИИ в пентесте, а также ответил на вопрос, как современные технологии меняют отрасль. По мнению эксперта, нейросеть не заменит живого человека, но в ближайшем будущем однозначно изменит профессию — через пять лет пентестер без навыков работы с ИИ будет как пентестер без Burp Suit в 2015 году.

#Эксперты_объясняют

• TG • VK •