یکی از پربازدیدترین پادکست‌های چند وقت اخیر حوزه‌ی هوش مصنوعی، گفتگوی ایلیا سوتسکور (هم‌بنیان‌گذار OpenAI و موسس فعلی SSI) با دوارکش پاتل هست در اینجا می‌توانید به آن دسترسی داشته باشید.
در اینجا خلاصه‌ای از نکات کلیدی این گفتگو را بررسی می‌کنیم.
۱. گذار از «عصر مقیاس‌دهی» به «عصر تحقیق» ایلیا معتقد است که دوران طلایی «مقیاس‌دهی» (Scaling)، که در آن صرفاً با افزایش داده و قدرت محاسباتی مدل‌ها بهتر می‌شدند، در حال پایان است. ما اکنون دوباره وارد «عصر تحقیق» می‌شویم؛ جایی که داده‌های اینترنت محدود شده‌اند و برای پیشرفت‌های بعدی به ایده‌های خلاقانه و پارادایم‌های جدید نیاز داریم، نه فقط سرورهای بزرگتر.
۲. معمای تعمیم‌پذیری (Generalization) مدل‌های فعلی در تست‌ها عالی عمل می‌کنند اما در واقعیت شکننده‌اند (مثلاً هنگام رفع یک باگ کدنویسی، باگ دیگری ایجاد می‌کنند). در مقابل، انسان‌ها با داده‌های بسیار کمتر، یادگیری بسیار عمیق‌تر و پایدارتری دارند. ایلیا معتقد است یک اصل بنیادین در یادگیری ماشین وجود دارد که انسان‌ها از آن بهره می‌برند اما مدل‌های فعلی هنوز آن را کشف نکرده‌اند.
۳. نقش احساسات به عنوان «تابع ارزش» او نظریه‌ای مطرح می‌کند که احساسات در انسان‌ها نقش یک «تابع ارزش» (Value Function) تکامل‌یافته را بازی می‌کنند که به ما کمک می‌کند بسیار سریع‌تر و کارآمدتر از هوش مصنوعی یاد بگیریم و تصمیم بگیریم.
۴. استراتژی شرکت SSI شرکت جدید او (Safe Superintelligence) قصد دارد به جای درگیر شدن در رقابت بازار و عرضه محصولات ناقص، مستقیماً و بدون وقفه به سمت ساخت ابرهوش ایمن حرکت کند (استراتژی Straight-shot). البته او اذعان می‌کند که عرضه تدریجی هم مزایایی برای آمادگی جامعه دارد.
۵. همسویی (Alignment) و آینده ایلیا پیشنهاد می‌کند که هدف نهایی باید ساخت هوش مصنوعی باشد که به «حیات دارای احساس» (Sentient Life) اهمیت دهد (نه فقط انسان‌ها). او پیش‌بینی می‌کند که در آینده شاهد همگرایی شرکت‌ها روی ایمنی و احتمالا کلاسترهای محاسباتی عظیم در ابعاد یک قاره خواهیم بود.
✍️ نویسنده: ایمان محمدی
✈️ @MedX_Media