‏⭐ ۳/۳

در مجموع، مثال‌های فوق چهار شرط برای خودتنظیمی مؤثر را نشان می‌دهند: نخست، مواجههٔ مشترک؛ یعنی شکست‌های ایمنی یک عضو می‌تواند به همهٔ اعضا آسیب برساند. دوم، پیامدها؛ مانند حق‌ال‌بیمه‌های سنگین یا داوری. سوم، تأیید؛ و چهارم، پشتوانهٔ فدرالی معتبر.

تعهد مشترک بر مسئولیت‌های مرزی تا حدودی شرط اول را برآورده می‌کند. هوش مصنوعی مرزی با مشکل شهرت جمعی مواجه است: از دست رفتن اعتماد به هوش مصنوعی احتمالاً به کل فناوری، نه به یک شرکت خاص، چسبیده خواهد شد. اما آزمایشگاه‌ها نیز برای به دست آوردن سهم بازار به رقابت می‌پردازند و این مسألهٔ اقدام جمعی را به وجود می‌آورد.

این توافق هیچ مجازاتی را نام نمی‌برد. از حسابرسان مستقل خارجی می‌خواهد اما مشخص نمی‌کند که ارزیابی‌های شخص ثالث توسط چه کسی انجام می‌شود. افزون بر این، یکی از امضاکنندگان، xAI، فرهنگی سازمانی ایجاد کرده که تیم‌های اعتماد و ایمنی را حاشیه‌نشین می‌کند؛ بنابراین حسابرسی بدون مجازات‌های معتبر برای عدم رعایت، به‌احتمال زیاد تأثیری نخواهد داشت.

پشتوانهٔ فدرالی نیز نامشخص است. متن می‌گوید که تدوین این اقدامات در قانون «ممکن است در آینده منطقی باشد». امضاکنندگان نیز دربارهٔ ماهیت ریسک با یکدیگر اختلاف دارند و حتی دربارهٔ واقعی بودن برخی انواع ریسک‌ها تردید می‌کنند. از یک سو، مدیرعامل آنتروپیک، داریو آمودی (Dario Amodei) استدلال کرد که صنعت باید سرعت پیشرفت قابلیت‌های مدل‌ها را کاهش دهد و از این زمان برای ارتقای ایمنی استفاده کند (موضعی که به‌طور گسترده‌ای، هرچند با درجات متفاوت، توسط سام آلتمن (OpenAI) و دیمیس هاسابیس (Google DeepMind) حمایت شده است). از سوی دیگر، مدیرعامل نویدیا، جِنسِن هوانگ (Jensen Huang) اعلام کرد که ریسک‌های منحصر به‌فرد و فاجعه‌بار اغراق‌شده‌اند و قانون موجود کافی است. مارک زاکربرگ (Meta) به خودتنظیمی گرایش دارد و اعتماد و هم‌سویی را به‌عنوان ویژگی‌هایی می‌بیند که محصولات را متمایز می‌کند. ترامپ، رئیس‌جمهور ایالات متحده، اظهار داشت که آمریکا در صورت کند کردن شرکت‌های خود ممکن است در برابر چین عقب بماند و ترس از فاجعهٔ هوش مصنوعی را توهم می‌نامد.

اتحادی که دربارهٔ واقعی بودن ریسک تقسیم شده است، در توافق بر روی استانداردها یا مجازات‌های مشترک دچار مشکل می‌شود و این امر آن را به سمت پایین‌ترین سطح ممکن می‌کشاند.

تقویت تعهد

این توافق نقطهٔ شروع منصفانه‌ای است. تعهد به نظارت بر مدل‌ها، تشکیل تیم‌های داخلی برای بررسی کارکرد کنترل‌ها و به کارگیری حسابرسان خارجی، بلوک‌های ساختاری محکمی هستند. در ماه‌های آتی، این توافق باید آزمون‌های ملموسی را پشت سر بگذارد: چه کسی حسابرسان خارجی را انتخاب و هزینهٔ آن را می‌پردازد؟ آیا نتایج حسابرسی منتشر خواهد شد؟ آیا برای حسابرسی ناموفق پیامدی در نظر گرفته می‌شود؟ آیا دایرهٔ مشارکت‌کنندگان فراتر از شش امضاکننده گسترش یابد تا شرکت‌های کوچک‌تر هوش مصنوعی را شامل شود؟