فراخوان داریو آمودی برای کند کردن توسعه مدل‌های هوش مصنوعی

مدیرعامل آنتروپیک در مقاله «We Must Pace the Frontier» هشدار داده که تا ۶ الی ۱۲ ماه آینده، سوارم‌های ایجنت (شبکه‌های توزیع‌شده‌ای از صدها ایجنت خودمختار که بدون سرور مرکزی و به‌صورت جمعی تصمیم می‌گیرند) می‌توانند اینترنت را به تسخیر بات‌نت‌های پایدار درآورده و صدها میلیارد دلار خسارت بزنند.

هسته طرح سه‌مرحله‌ای او برای مهار این سناریو:

استقرار ارزیاب‌های شخص ثالث با دسترسیِ سطح کارمند (تعهد یک‌طرفه Anthropic)

تعیین استانداردهای مشترک ایمنی میان لَب‌های دموکراتیک

تدوین معاهدات بین‌المللی علیه تسلیحات سایبری و بیولوژیک مبتنی بر AI

هم‌صدایی رقبای سرسخت روی «کاهش سرعت» از دو زاویه قابل تحلیل است؛ دفاع در برابر معماری غیرمتمرکزِ سوارم‌ها یک چالش فنی واقعی است، اما مرز میان ایمنی زیرساخت با ایجاد انحصار و کشیدن نردبان پشت سر برای متوقف کردن مدل‌های متن‌باز، بی‌نهایت باریک است.

@DevTwitter | <Legendary Coder/>