🧠 Помогают ли Skills для AI-агентов в задачах кибербезопасности?

Немного ликбеза: Skills - это структурированные пакеты процедурных знаний для LLM-агентов. Этакий внешний слой опыта как искать уязвимость, как проводить triage, как выполнять exploitation workflow, какие шаги делать дальше.

Обычно это выглядит как:
🔹 инструкции (SKILL.md)
🔹 attack templates
🔹 best practices
🔹 lessons learned
🔹 procedural playbook’и

Вместо того чтобы каждый раз «изобретать» exploitation path, агент получает готовый operational memory.

🧪 Эксперименты

Исследователи взяли автономного CTF-агента с MCP-tooling и прогнали 180 запусков на 15 offensive-security задачах от reverse engineering, до memory corruption.

Агент работал с обычным техстеком в виде Nmap, Ghidra, Angr и т.д.. Все инструменты были подключены через MCP и возвращали строго типизированные результаты через schema-validated JSON.

Дальше начали играться со Skills:
1⃣ почти без инструкций
2⃣ lessons learned из прошлых запусков
3⃣ curated attack templates
4⃣ «полный фарш» со всеми Skills сразу

Казалось бы, чем больше навыков, тем лучше результат (спойлер - не всегда).

📉 Эффективность Skills

Разница между агентом без Skills и агентом со всем набором Skills составила всего +8.9% успешности.
Статистически это оказалось совсем незначимым.

Были кейсы, когда Skills даже ухудшали результат. В timing side-channel задачах агент с «полным набором знаний и навыков» справился хуже, чем более узкая версия с curated templates. Агент начинал применять неподходящий опыт из прошлого и упорно шел по неверному пути.

🔥 Мысли

Skills нужны только тогда, когда окружение тупое.

Последний год многие пытались сделать AI-агентов умнее через memory, retrieval, skills и т.п. Однако возможно важнее не умный агент, а хороший tool grounding?

Вместо ещё 100500 строк инструкций иногда полезнее сделать нормальный MCP и подключить больше инструментов.

🔗 Исследование: https://arxiv.org/abs/2605.20023

Stay secure and read SecureTechTalks 📚

#кибербезопасность #AI #LLM #AgenticAI #MCP #CyberSecurity #OffensiveSecurity #CTF #AIsecurity #SecureTechTalks