LM Security Database

پروژه Promptfoo اخیراً «LM Security Database» را راه‌اندازی کرده است؛ یک پایگاه دادهٔ جامع و دائماً به‌ روزرسانی‌ شونده از آسیب‌پذیری‌ های مدل‌های زبانی. در حال حاضر این پایگاه داده ۴۳۹ رکورد دارد که به ۴۰۶ مقالهٔ پژوهشی اشاره می‌ کند و ۱۱۷۵ مدل را پوشش می‌دهد. این پایگاه داده امکان فیلتر کردن آسیب‌پذیری‌ ها را بر اساس نوع حمله فراهم می‌کند؛ مثل injection، jailbreak، و poisoning. همچنین می‌ شود بر اساس سطح/سطح‌ لایهٔ حمله (attack surface) فیلتر کرد؛ مثل model-layer و application-layer. علاوه بر این، امکان فیلتر بر اساس اجزای معماری (architecture components) هم وجود دارد؛ مثل RAG و vision، و همچنین پارامترهای دیگر. این منبعی حیاتی است برای متخصصان ML/LLMSecOps و AI Red Teaming.

🔗promptfoo.dev

اولین کانال فارسی زبان در AI Security .

@TryHackBox
@RadioZeroPod
@TryHackBoxStory
@TryHackBoxOfficial