📜مقاله نشان می‌دهد که عوامل هوش مصنوعی (AI) تهدیدی کاملاً جدید را رقم می‌زنند: کرمی که برای هر هدفی که با آن مواجه می‌شود، استراتژی حمله‌ای متناسب تولید می‌کند. این کرم به‌طور انگلی از ماشین‌های به‌خطرافتاده برای اجرای مدل‌های زبانی بزرگ با وزن‌های باز (open-weight LLMs) استفاده می‌کند تا توان استدلال خود را حفظ کند یا دامنه دسترسی خود را برای حملات بعدی گسترش دهد. این کرم در شبکه‌ای از ماشین‌های مبتنی بر لینوکس، ویندوز و اینترنت اشیا (IoT) پیاده‌سازی شد و با سوءاستفاده از آسیب‌پذیری‌های رایج و واقعی شبکه‌های شرکتی منتشر گردید. از آنجا که این کرم از قدرت محاسباتیِ دزدیده‌شده تغذیه می‌کند، هزینهٔ نهایی مهاجم برای هر آلودگی جدید صفر است. این امر عدم تقارن اقتصادیِ بی‌ثبات‌کننده‌ای بین مهاجمان و مدافعان ایجاد می‌کند. به‌علاوه، از آنجا که کرم به هیچ پلتفرم تجاری هوش مصنوعی وابسته نیست، کنترل‌های متمرکز ایمنی، مانند رد سرویس یا محدودیت نرخ، به‌طور ساختاری بی‌ربط هستند. نتایج ما نشان می‌دهد که تهدیدات سایبریِ خودپایدارِ مبتنی بر هوش مصنوعی دیگر جنبهٔ نظری ندارند. ما باید برای «عوامل مولد خودمختار» آماده شویم: سامانه‌های بدافزاری که بدون اپراتور انسانی منتشر می‌شوند و نه با کد بهره‌برداریِ ثابت، که با توانایی استدلال دربارهٔ اهداف، تطبیق با مشاهدات، و سنتز منطق حمله در زمان واقعی تعریف می‌گردند.

🚨تذکره‌تُن :

بحث در باره هوشِ تهدید و تهدیدات هوشمند، با توسعه ی LLMs ها بشدت دامنه‌دار شده است
بالاخص عامل های خودمختار هوشمندی که می‌توانند تهديدات و نقاط ضعف را تشخیص و بدون نیاز به عامل انسانی، اقدام به نفوذ کند!

⚠️دانه ی فلفل سیاهُ خالِ مه‌رویان سیاه
کِرم سنتی کجا و کِرم تطبیقی کجا؟

🐛کرم سنتی (مثل واناکرای) مثل یک کلیدِ تکراری می‌ماند. سازنده‌اش یک روزنهٔ خاص (آسیب‌پذیری) را پیدا می‌کند، کد حمله را برای همان یک روزنه می‌نویسد، و کرم را رها می‌کند. این کرم مثل یک رباتِ مونگول و کوته‌فکر است: به همه‌ی درها می‌کوبد تا ببیند کدام‌یک با آن کلیدِ ازپیش‌ساخته باز می‌شود. اگر درِ آن سیستم بسته یا وصله‌کاری شده باشد، کاری از دستش برنمی‌آید.

🪱اما کرم تطبیقی (Adaptive Worm)، که در این مقاله معرفی شده، یک #هکر زنده و هوشمند و فعال درون یک بدافزار است. 🪱

🪡🧵تفاوت‌های بنیادینش این‌هاست:

۱. منطقِ حمله در لحظه ساخته می‌شود (نه از قبل):
کرم تطبیقی کد حمله‌ی ثابتی همراه ندارد. به جای آن، یک مغز هوش مصنوعی (مدل زبانی بزرگ) را با خود حمل می‌کند (یا روی ماشین‌های قربانی اجرا می‌کند). وقتی به یک ماشین جدید می‌رسد، اوضاع را بررسی می‌کند (مثلاً ببیند چه سیستمی دارد، چه پورت‌هایی باز است، چه نرم‌افزاری نصب شده) و همان‌جا تصمیم می‌گیرد که بهترین راه نفوذ چیست.

۲. هدف‌محور است، نه آسیب‌پذیری‌محور:
کرم سنتی می‌گوید: «آیا این سیستم آسیب‌پذیری شماره ۱۲۳ را دارد؟» اگر نه، می‌رود سراغ بعدی.
کرم تطبیقی می‌گوید: «هدف من نفوذ به این سیستم است. خب، چه راه‌هایی دارم؟ بگذار استدلال کنم، ترکیب کنم و یک روش منحصربه‌فرد برای همین سیستم خاص بسازم.» حتی ممکن است از چند آسیب‌پذیری کوچک و کم‌اهمیت در کنار هم استفاده کند تا یک زنجیره‌ی حمله‌ی جدید خلق کند.

۳. یادگیری و تغییر مسیر (Adaptation) در زمان واقعی:
اگر تلاش اولش ناموفق باشد، ناامید نمی‌شود. با توجه به پاسخِ خطا یا رفتار سیستم، استراتژی خود را عوض می‌کند و روش دیگری را امتحان می‌کند. دقیقاً مثل یک هکر ماهر که پشت صفحه‌کلید نشسته و دارد روش‌های مختلف را آزمایش می‌کند، با این تفاوت که این کار را با سرعت ماشین و بدون خستگی انجام می‌دهد.

🪢به زبان همه‌فهم:

کرم سنتی یک دستمال‌کاغذیِ پاره‌پاره است که در یک شکافِ مخصوص دیوار می‌خوابد و قرار‌می‌گیرد.
کرم تطبیقی یک آدمک ِکوچک است که یک جعبه‌ابزار همراه دارد، دور دیوار می‌گردد، نقاط ضعفش را پیدا می‌کند و اگر یک در باز نشد، قفلش را عوض می‌کند یا از پنجره می‌رود بالا!

و نکتهٔ ترسناک‌تر اینکه این کرم برای این فکر کردن، از پردازنده و کارت گرافیک خودِ قربانی استفاده می‌کند؛ پس هزینه‌ای برای مهاجم ندارد و می‌تواند بی‌وقفه هوشمندتر شود.

@toobabigdatascience