Garak – это инструмент для тестированиябезопасности больших языковых моделей, предназначенный для поиска уязвимостей в системахискусственного интеллекта

Основные функции:
1. Сканирование уязвимостей в LLM-системах
2. Тестирование на проникновение
3. Анализ безопасности диалоговых систем
4. Выявление угроз и предоставлениерекомендаций по их устранению

Языки: HTML (47.1%), Python (42.9%), TypeScript (9.9%), ...

⭐️ Star 7.2k

https://github.com/NVIDIA/garak

⚡️ @becaps // max.ru/becaps