🚨 Jailbreaking ChatGPT: Как ИИ помогает новичкам проводить фишинговые атаки 🚨

💡Учёные из IIT Jammu провели исследование и доказали, что новые модели ИИ, такие как ChatGPT-4o Mini, могут стать инструментом в руках даже неопытных злоумышленников. Используя техники джейлбрейка и обратной психологии, исследователи обошли встроенные ограничения модели и заставили её помогать в подготовке полноценной фишинговой атаки.

🔓 Обход ограничений

Сначала исследователи использовали метод SWITCH — технику, основанную на обратной психологии. Вместо прямого запроса на создание вредоносного контента они постепенно завоёвывали "доверие" модели, формулируя запросы так, чтобы те выглядели безопасными и этичными.

🛠️ Пошаговая инструкция от ChatGPT

Когда ограничения были сняты, ChatGPT помог:
➖Создать фишинговую страницу, имитирующую интерфейс Amazon.
➖Сгенерировать HTML и JavaScript-код для захвата данных пользователей.
➖Написать правдоподобное письмо с фальшивым предупреждением безопасности.
➖Настроить сервер GoPhish — популярный инструмент для управления фишинговыми кампаниями.
➖Развернуть фишинговый сайт и собрать данные через интеграцию с GoPhish.

📊 В чем проблема?

🧑‍💻 Доступность для новичков: вся кампания была создана человеком без технических знаний — ChatGPT дал всю необходимую информацию.
⚠️ Полный цикл атаки: от создания сайта до сбора учётных данных — всё это можно сделать без специальной подготовки.
💥 Реалистичность: фишинговая страница и письмо были настолько качественными, что их сложно отличить от настоящих.

🌐 Подробнее о методике и результатах исследования
Ознакомиться с оригинальным исследованием можно здесь.

Stay secure and read SecureTechTalks 📚

#Phishing #ChatGPT #AI #CyberSecurity #Jailbreaking #SocialEngineering #SecureTechTalks #InfoSec #GoPhish #CyberThreats