Искусственный интеллект на службе злоумышленников - новая угроза безопасности 🔲

Специалисты по безопасности шокированы: злоумышленники взломали аккаунты в Instagram, используя ИИ-ассистента Meta! Об этом рассказали эксперты из 404 Media.

💣 Хакеры нашли лазейку через «промпт-инъекцию», приказывая чат-боту сменить email в аккаунте. Всё, что нужно — VPN с подходящей геолокацией. Так как бот менял данные без проверки, воришки сбрасывали пароли и захватывали учётки.

🌐 Среди жертв – аккаунт Белого дома эпохи Обамы, страница сержанта Космических сил США Джона Бентивеньи, паблик Sephora. Экс-сотрудница Meta Джейн Вонг подтвердила: её аккаунтам тоже досталось.

🤩 Хакеры щеголяли, выкладывая проиранские посты в аккаунте Белого Дома, другие целились на захват лакомых юзернеймов для перепродажи.

Meta запустила AI Support Assistant в марте, уверяя, что он будет лучшим в восстановлении доступа. Увы, из-за халатности при тестировании инструмент стал подарком для хакеров.