داریو آمودی، مدیرعامل Anthropic، در مقاله جدیدش گفته صنعت هوش مصنوعی باید سرعت توسعه مدل‌های پیشرفته (Frontier AI) رو کمی کنترل کنه؛ مخصوصاً حالا که مدل‌ها دارن به قابلیت‌های حساس‌تری مثل امنیت سایبری و زیست‌شناسی نزدیک می‌شن.

آمودی پیشنهاد کرده ارزیابی مدل‌های قدرتمند فقط توسط خود شرکت‌ها انجام نشه و ارزیاب‌های مستقل هم با دسترسی‌ای مشابه کارکنان شرکت، مدل‌ها رو از نظر توانایی‌ها و ریسک‌های احتمالی بررسی کنن.

جالب‌تر اینکه سم آلتمن با اصل این ایده موافقه و گفته این موضوع طی هفته‌های اخیر یکی از بحث‌های اصلی داخل OpenAI هم بوده و این شرکت هم قصد داره رویکرد مشابهی در پیش بگیره.

پس منظور از «آهسته‌تر کردن AI» این نیست که شرکت‌ها توسعه هوش مصنوعی رو متوقف کنن؛ بحث اصلی اینه که هرچه مدل‌ها قدرتمندتر می‌شن، نباید صرفاً به خاطر رقابت، با سرعت بیشتری بدون ارزیابی و نظارت کافی منتشر بشن.

و شاید مهم‌ترین نکته همین باشه: دو رقیب بزرگ دنیای AI حالا روی یک موضوع مهم به نقطه مشترک رسیدن؛ اینکه سرعت پیشرفت مهمه، اما کنترل و ارزیابی ریسک‌ها هم باید هم‌پای اون جلو بره.

#هوش_مصنوعی #AI
┏━━━━━━━━┓
〓 @AIPyth0n
┗━━━━━━━━┛