🛡 Огромная подборка инструментов для AI Security

На GitHub собрали Awesome AI Security Tools — постоянно обновляемый каталог инструментов для защиты LLM, AI-агентов и ML-инфраструктуры.

Внутри отдельные разделы для:

• безопасности AI- и coding-агентов
• AI/ML supply chain
• SAST и secure code review
• LLM red teaming и guardrails
• prompt injection detection
• fuzzing
• SOC/SIEM и анализа логов
• threat intelligence
• reverse engineering
• CTF и security-бенчмарков

Есть известные проекты garak, PyRIT, promptfoo, NeMo Guardrails, LLM Guard, Giskard, PurpleLlama, DeepTeam и десятки менее известных инструментов.

У каждого проекта отмечен тип: open source, research, commercial или лицензия с ограничениями. Для GitHub-проектов также собираются данные об активности и обновлениях.

Полезная закладка для тех, кто строит LLM-приложения и агентов и хочет нормально закрывать их безопасность.

🔗 https://github.com/scadastrangelove/awesome-ai-security-tools