⚠️ دانشمند ارشد OpenAI: ما هوش مصنوعی را کاملاً درک نمی‌کنیم

یاکوب پاچوکی، دانشمند ارشد OpenAI، در یادداشت تازه‌ای با عنوان An Alien Mind توضیح می‌دهد که هوش مصنوعی پیشرفته شبیه نرم‌افزارهای سنتی نیست که مهندسان تک‌تک اجزای رفتارش را طراحی کرده باشند.

به تعبیر او، هوش مصنوعی بیشتر «رشد داده می‌شود تا طراحی شود»؛ میلیاردها مرحله بهینه‌سازی و حجم عظیمی از محاسبات، سیستمی بسیار پیچیده می‌سازند که می‌توان بخش‌هایی از سازوکار آن را مطالعه کرد، اما هنوز نمی‌توان رفتار کلی آن را به‌طور کامل توضیح داد.

نگرانی بزرگ‌تر، مرحله بعدی است.

پاچوکی انتظار دارد هوش مصنوعی به‌تدریج نقش بیشتری در توسعه نسل بعدی خودِ هوش مصنوعی پیدا کند. چنین چرخه‌ای می‌تواند سرعت پیشرفت علمی را بالا ببرد، اما هم‌زمان نظارت و کنترل بر سیستم‌های قدرتمندتر را دشوارتر کند.

او صریحاً می‌گوید در حال حاضر هیچ آزمایشگاهی مسئله هم‌راستاسازی و نظارت (Alignment & Monitoring) را تا سطحی که ادامه توسعه با حداکثر سرعت برای مدت طولانی مسئولانه باشد، حل نکرده است.



📌 آقای هوش مصنوعی
🔗 @MrArtificialintelligence

#ایمنی_هوش_مصنوعی #Alignment