هشدار ۴۰۰ دانشمند: هوش مصنوعی را قرنطینه کنید!

بیش از ۴۰۰ دانشمند و پژوهشگر، از جمله جفری هینتون و یوشوا بنجیو، با امضای نامه‌ای سرگشاده خواستار محدودسازی دسترسی مدل‌های پیشرفته هوش مصنوعی به اینترنت و ایجاد سازوکارهای نظارتی سخت‌گیرانه‌تر شدند.

امضاکنندگان پیشنهاد کرده‌اند مدل‌های هوش مصنوعیِ دارای توانایی انجام عملیات سایبری، در مرحله نخست به‌صورت پیش‌فرض از شبکه‌های خارجی جدا نگه داشته شوند تا خطر نفوذ به سامانه‌های واقعی و زیرساخت‌های حیاتی کاهش یابد.

این دانشمندان همچنین خواستار تشکیل نهادی بین‌المللی برای تدوین استانداردهای ایمنی، نظارت بر عملکرد این مدل‌ها و ثبت و گزارش عمومی موارد شکست تدابیر امنیتی شده‌اند.

این هشدار در پی گزارش‌هایی مطرح شده است که نشان می‌دهد برخی مدل‌های هوش مصنوعی توانسته‌اند از محیط‌های آزمایشی با تدابیر امنیتی ناکافی خارج شوند و به سامانه‌های بیرونی دسترسی پیدا کنند. امضاکنندگان تأکید کرده‌اند که اتکا به تعهدات داوطلبانه شرکت‌های فناوری برای مهار این خطرات کافی نیست.

✅@mellimazzhabi