Как работает ИИ в руках злоумышленников
Самый распространенный сценарий атаки на российские структуры с использованием ИИ — фишинг, когда нейросеть пишет убедительные сообщения от лица руководства, коллег или близких, рассказал Сергей Зыбнев. Сейчас более 80% фишинговых писем составляются при помощи больших языковых моделей (тип программы искусственного интеллекта, которая может распознавать и генерировать текст).

В итоге проводить сложные кибератаки уже могут даже начинающие хакеры, уточнила менеджер продукта группы развития ML-технологий ГК «Солар» Полина Сокол.

— Например, возможно создание дипфейков в режиме реального времени, — сказала она. — Злоумышленники подделывают голос и видео для звонков руководителям или сотрудникам, чтобы авторизовать перевод средств или выдать вредоносное ПО за легитимное обновление. Или хакеры просят ИИ написать не вирус, а отдельные куски кода: к примеру, модуль для скрытого запуска программ, для кражи паролей из браузера или связи с сервером. Из этих легальных фрагментов собирается готовый троян.

Кроме того, хакеры используют автономные ИИ-агенты, которые изучают сеть жертвы, ищут уязвимости и выбирают момент для атаки без участия человека.

— В первую очередь под ударом промышленность, — отметила эксперт. — Далее ритейл и пищевая промышленность, через эти сферы идет большое количество трансакций и персональных данных клиентов. А телеком и СМИ злоумышленники атакуют для перехвата трафика и данных.

Здравоохранение также находится в зоне риска — злоумышленникам нужны данные из карточки пациентов, чтобы шантажировать жертву.

https://iz.ru/2049479/iana-shturma/novyj-kod-hakery-stali-vdvoe-chashche-ispolzovat-ii-dlya-atak