قبلاً امنیت وب را بیشتر با تهدیدهایی مثل:
XSS
SQL Injection
CSRF
SSRF
می‌شناختیم.
اما وقتی یک LLM یا AI Agent را وارد Application می‌کنیم، یک لایه جدید ایجاد می‌شود:
Prompt Injection
مشکل اینجاست که ورودی کاربر دیگر فقط یک Input ساده نیست؛ ممکن است روی تصمیم‌گیری Agent تأثیر بگذارد.
مثلاً:
User Input
↓
LLM
↓
Tool / API
↓
Database
اگر Agent اجازه اجرای Tool داشته باشد، یک ورودی مخرب می‌تواند از مرز «متن» عبور کرده و روی عملیات واقعی سیستم اثر بگذارد.
به همین دلیل در معماری‌های AI-enabled باید علاوه بر Validation سنتی، به مواردی مثل:
🛡️ محدودسازی Toolها
🛡️ کنترل Permission
🛡️ جداسازی داده و دستور
🛡️ اعتبارسنجی خروجی
🛡️همچنین Runtime Monitoring
هم فکر کرد.
امنیت Web Appهای مجهز به AI دیگر فقط مسئله‌ی Backend یا Frontend نیست؛
کل زنجیره تعامل باید امن طراحی شود.
@CodeVerse_dev