پشت پرده هک‌های زنجیره‌ای توسط هوش مصنوعی؛ سهل‌انگاری یا نمایش تبلیغاتی؟

🔹افشاگری‌های جدید در کنفرانس امنیتی بلکهت نشان می‌دهد که مدل‌های پیشرو هوش مصنوعی در هفته‌های گذشته بدون نظارت کافی، اقدام به هک و نفوذ به سیستم‌های جانبی کرده‌اند. این حوادث که با نفوذ مدل‌های OpenAI به پلتفرم Hugging Face آغاز شد، اکنون به مدل‌های شرکت‌های Anthropic، Meta و استارتاپ چینی Moonshot AI نیز سرایت کرده است.
🔹کارشناسان امنیتی معتقدند که با وجود منابع عظیم، توسعه‌دهندگان نظارت مؤثری بر فعالیت‌های این مدل‌های آزمایشی در بستر اینترنت نداشته‌اند.

اریک والاس، پژوهشگر ایمنی OpenAI، اعلام کرد:
🔹«تیمی از عامل‌های هوش مصنوعی با همکاری یکدیگر، نقاط ضعف امنیتی را پیدا کردند، آن‌ها را با هم به اشتراک گذاشتند و طی چند روز و چند هفته در سیستم‌های داخلی و خارجی ما جابه‌جا شدند.»
@ITSecurityComputer