Tencent выложила сканер, который ищет дыры в вашем ИИ-хозяйстве

#ИБ #ai #mcp #llm #github #аудит

AI-Infra-Guard от лаборатории Tencent Zhuque ищет известные уязвимости в ИИ-сервисах вроде Ollama, vLLM и ComfyUI. Еще он проверяет MCP-серверы и навыки агентов по 14 категориям риска. Так называют подключаемые модули, через которые агент получает доступ к файлам и сервисам. Третья функция: тесты моделей на джейлбрейк, то есть на запросы, которые заставляют модель обойти собственные ограничения.

Лицензия Apache-2.0, запуск через Docker, README есть на русском. Для сканера навыков и тестов на джейлбрейк нужен API-ключ языковой модели. Последний релиз v4.6.0 вышел 26 августа, звезд около 6,8 тыс. на 9 октября.

В веб-интерфейсе нет авторизации, и авторы прямо запрещают выставлять его в интернет, так что держите сканер только во внутренней сети. При проверке навыков ложные срабатывания доходят до 18,7%, результат зависит от модели, которая выносит вердикт. С лучшей из них ошибок 1,2%.

AI-Infra-Guard на GitHub

Life-Hack - AI