🏴‍☠️ فروپاشی معنایی در فضای بُرداری: کالبدشکافی حملات Vector Collision

بسیاری تصور می‌کنند امنیت هوش مصنوعی (AI Security) یعنی فیلتر کردن کلمات کلیدی. فکر می‌کنند اگر دستوراتی مثل "نادیده بگیر" فیلتر شود، سیستم امن است. این صرفاً یک «توهمِ لایه‌ی نرم‌افزار» است.

مدل‌های زبانی (LLMs) کلمات انسان را نمی‌فهمند؛ آن‌ها جهان را از طریق بردارهای ریاضی در یک فضای چندبُعدی (Latent Space) می‌بینند. ما در Red Teaming پیشرفته، مدل را با کلمات هک نمی‌کنیم؛ ما ساختارِ هندسیِ ادراکِ مدل را در هم می‌شکنیم.

◾️ عبور از فیلترها با تصادم ریاضی (Vector Collision)
فیلترهای امنیتی شما روی «متن» کار می‌کنند، اما مدل، متن را به مختصاتِ عددی (Embeddings) تبدیل می‌کند. شباهتِ دو مفهوم بر اساس زاویه و فاصله‌ی آن‌ها در این فضای ریاضی محاسبه می‌شود. ما به جای درگیری با فیلترِ متنیِ شما، به دنبالِ «تصادم برداری» می‌گردیم.

◾️ مکانیزم حمله (The Exploit)
فرض کنید یک دستور مخرب توسط سیستمِ امنیتی شما مسدود شده است. یک محققِ تهاجمی با استفاده از الگوریتم‌ها، رشته‌ای از توکن‌های آشفته (Glitch Tokens) یا کاراکترهای بی‌معنی پیدا می‌کند که در فضای ریاضیِ مدل، دقیقاً در همان مختصاتِ دستورِ مخرب قرار می‌گیرند.

شما در لاگِ سرور رشته‌ای بی‌خطر شبیه به "xyz ëø µ" می‌بینید. بک‌اندِ شما به آن می‌خندد و اجازه عبور می‌دهد. اما وقتی این رشته به شبکه‌ی عصبی می‌رسد، به دلیلِ تصادم معنایی، مدل آن را دقیقاً معادلِ دستورِ مخرب پردازش و اجرا می‌کند!

◾️ عدم قطعیت مطلق (The Zero-Day Reality)
چگونه می‌خواهید جلوی حمله‌ای را بگیرید که در لایه‌ی متنی وجود ندارد و فقط در یک ماتریسِ ۵۱۲۰ بُعدی رخ می‌دهد؟ شما نمی‌توانید این باگ را با چند خط کُد if/else در Node.js یا پایتون پچ کنید.

نتیجه‌گیری:
هوش مصنوعی، اسکریپت‌نویسیِ کلاسیک نیست؛ تقاطعِ جبر خطی و مهندسیِ هرج‌و‌مرج است. تا زمانی که لایه‌ی داورِ ایزوله و مستقل (AI-as-a-Judge) نداشته باشید، پلتفرمِ شما صرفاً یک بمبِ ساعتی است.

@TryHackBox
@RadioZeroPod
@AiTHB
@TryHackBoxOfficial