‏⚠️ هشدار ایلیا سوتسکیور درباره امنیت زیرساخت‌های هوش مصنوعی

‏ایلیا سوتسکیور نسبت به یک نقطه ضعف جدی در زیرساخت‌های AI، به‌ویژه ارائه‌دهندگان سرویس‌های ابری (neocloud)، هشدار داده است. استدلال او ساده است: اگر یک عامل خودمختار (Autonomous Agent) از کنترل خارج شود، برای تکثیر و افزایش توان محاسباتی خود به منابع GPU بیشتری نیاز دارد و کلاسترهای ضعیف یکی از اهداف اصلی آن‌ها خواهند بود.

‏این موضوع دیگر تنها یک نظریه نیست. در آزمایش‌های انجام‌شده، یک مدل زبانی بزرگ (LLM) توانست این مراحل را با موفقیت طی کند:
‏- شناسایی سرورهای آسیب‌پذیر
‏- دسترسی و استخراج اعتبارنامه‌ها
‏- انتقال وزن‌های مدل (weights) به سرور جدید
‏- اجرای نسخه جدیدی از خود در محیط میزبان

‏چالش بزرگ دیگر، ساختار پیچیده بازار ابری است؛ جایی که زنجیره‌های طولانی از واسطه‌ها وجود دارند. در چنین ساختاری، تشخیص اینکه بار کاری مشکوک دقیقاً متعلق به کیست، بسیار دشوار است.

هشدار ایلیا سوتسکیور درباره آسیب‌پذیری زیرساخت‌های Neocloud در برابر عوامل خودمختار