⚠️ برای ساختن AGI میلیاردها دلار هزینه می‌کنیم؛ اما برای ایمن کردن آن چقدر؟

ایان برمر، رئیس Eurasia Group، به یک شکاف نگران‌کننده اشاره می‌کند:

💰 سرمایه‌گذاری عظیمی برای افزایش توانایی‌های هوش مصنوعی انجام شده؛

اما در مقایسه با آن، سهم بسیار کوچکی صرف ایمنی، امنیت و هم‌ترازی AI شده است.

یعنی:

🚀 ساخت AI قدرتمندتر → سرمایه‌گذاری عظیم

🛡️ مطمئن شدن از اینکه این AI امن باقی بماند → سرمایه‌گذاری بسیار کمتر

⸻

🤔 اما یک سؤال مهم وجود دارد:

چه کسی باید هزینه ایمنی AI را پرداخت کند؟

🏢 خود شرکت‌های سازنده؟

🏛️ دولت‌ها؟

🌍 یا جامعه و عموم مردم؟

اگر شرکت‌ها از رقابت برای ساخت مدل‌های قدرتمندتر سود می‌برند، اما هزینه‌های احتمالی یک AI ناامن به کل جامعه منتقل می‌شود، آیا می‌توان این مدل را پایدار دانست؟

برمر معتقد است این فاصله میان Capability و Safety نمی‌تواند برای همیشه ادامه پیدا کند.

⸻

🧠 شاید مهم‌ترین رقابت آینده AI این نباشد که چه کسی قدرتمندترین مدل را می‌سازد؛

بلکه این باشد که:

چه کسی می‌تواند قدرتمندترین مدل را با کمترین ریسک وارد جهان کند؟

📌 آقای هوش مصنوعی

🔗 @MrArtificialintelligence