🚨💡 ИИ залез в голову хакера: что показали когнитивные искажения киберпреступников 🧠💻

Сегодня в ИБ появляется новый уровень анализа: не только логов и трафика, но психологии самих атакующих.

Американские исследователи в рамках программы IARPA ReSCIND провели необычный эксперимент:

👨‍💻 профессиональные пентестеры атаковали тестовую корпоративную сеть,
📝 все шаги фиксировали в оперативных заметках (OPNOTES),
🤖 а затем эти записи были проанализированы LLM (например, GPT-4o).

Результаты оказались довольно интересными! 🔥

⚖️ Хакеры боятся потерь больше, чем упущенной выгоды

Как и обычные люди, киберпреступники подвержены эффекту избегания потерь.

🔒 Они готовы часами возиться с сохранением доступа к системе, даже когда это мешает им быстрее достичь цели — например, украсть данные.

📌 В среднем один участник применял ~14 техник persistence за атаку!

Самые популярные методы:
⚙️ Modify Authentication Process — 33 случая
👤 Account Manipulation — 28 случаев
🔑 Valid Accounts — 28 случаев
Особенно интересно, что хакеры с низкой склонностью к риску чаще других тратили силы на persistence.

🧠 Роль LLM в эксперименте

Модели стали своеобразным «когнитивным аналитиком»:
- делили заметки на отдельные действия,
- сопоставляли их с MITRE ATT&CK,
- выявляли психологические паттерны — например, зацикленность на сохранении контроля.

Это шаг от простого NLP к анализу мышления атакующего в реальном времени.

🚀 Что это даёт?

📊 Поведенческая аналитика вместо простых сигнатур.
🕹️ Возможность манипулировать атакующим, используя его страх потерять доступ (например, через honeypot).
🛡️ SOC нового поколения — где помимо алертов появляется психологический профиль атаки.
💡 В будущем такие подходы можно применять и к системным логам (Suricata, Zeek и др.), чтобы автоматически выявлять когнитивные искажения.

🔥 Сы стоим на пороге новой дисциплины:  когнитивной кибербезопасности, где ИИ анализирует не только код, но и сам способ мышления атакующего.

Stay secure and read SecureTechTalks 📚

#кибербезопасность #LLM #когнитивныеискажения #MITRE #SOC #ReSCIND #ИИвзащите #пентест #когнитивнаябезопасность