🤖 سم آلتمن؛ کسی که AI را می‌سازه و از قدرتش می‌ترسه

تازه‌ترین گفت‌وگوی مدیر OpenAI درباره عبور مدل‌ها از انسان، خطر تمرکز قدرت و تصمیم برای کنارگذاشتن Sora و Atlas

این مصاحبه از اون گفت‌وگوهایی هست که تقریبا هر چند دقیقه یک جمله ازش می‌تونه تبدیل به تیتر بشه. سم آلتمن این بار کمتر درباره نسخه بعدی ChatGPT حرف می‌زنه و بیشتر نشون می‌ده OpenAI دقیقا دنبال ساختن چه آینده‌ایه.

جالبترین بخش برای من جایی بود که گفت باهوش‌ترین مدل‌های امروز تقریبا هم‌سطح باهوش‌ترین انسان‌ها شدن و این نسبت «همین حالا» در حال معکوس‌شدنه. یعنی از نگاه او عبور مدل‌ها از انسان موضوع ده سال دیگه نیست و احتمالا همین الان وسطش هستیم.

اما ترس اصلی سم فقط خارج‌شدن AI از کنترل نیست. او دو خطر بزرگ را کنار هم می‌ذاره، یکی از دست‌رفتن کنترل روی مدل‌ها و دیگری متمرکزشدن قدرت در دست یک شرکت یا حتی یک نفر.

البته احتمالا خودش را اون یک نفر نمی‌دونه، هرچند خیلی‌ها وقتی از تمرکز قدرت AI حرف می‌زنه ممکنه دقیقا به خودش فکر کنن :)

سم می‌گه اینکه چند شرکت در ازای امنیت و رفاه از مردم بخوان آزادی و حق تصمیم‌گیری خودشون را واگذار کنن، آینده‌ای ضدانسانی می‌سازه. حرف جالبی از مدیر شرکتیه که خودش یکی از جدی‌ترین نامزدهای تمرکز چنین قدرتیه.

بخش عجیب دیگه تصمیم OpenAI برای کنارگذاشتن Sora و مرورگر Atlas بود. سم می‌گه هر دو محصول خوب بودن و حتی Atlas را بهترین مرورگر می‌دونست، اما Sora توان پردازشی زیادی مصرف می‌کرد و به اندازه Codex مهم نبود. برای همین منابع این پروژه‌ها را به هدف اصلی شرکت یعنی ساخت هوش عمومی برای کارهای فکری و اکتشافات علمی منتقل کردن.

یعنی محصولاتی که هرکدوم می‌تونستن آینده یک استارتاپ چند میلیارد دلاری باشن، در OpenAI قربانی هدف بزرگ‌تری شدن. استراتژی شرکت هم ظاهرا ساخت صدها اپلیکیشن نیست، بلکه ارائه یک رابط اصلی و یک API هست تا بقیه دنیا کسب‌وکارهاش را روی هوش OpenAI بسازه. البته این هم شکل دیگری از تمرکز قدرته!

سم یک اعتراف بامزه هم داشت: با اینکه خودش Codex را ساخته، هنوز ایمیل‌ها را دستی می‌خونه، بین برنامه‌ها کپی می‌کنه و تقریبا مثل بیست سال قبل با کامپیوتر کار می‌کنه. به نظرش هنوز «لحظه آیفون» هوش مصنوعی اتفاق نیفتاده و محصولی ساخته نشده که روش کار ما با کامپیوتر را یک‌باره عوض کنه.

او همچنین قبول می‌کنه که بعد از GPT-4 سرعت تغییر کسب‌وکارها را خیلی بیشتر تصور کرده بود. فناوری با سرعت جلو رفته اما آدم‌ها و شرکت‌ها هنوز به ابزارهای قدیمی عادت دارن، برای همین توانایی AI خیلی سریع‌تر از پذیرش اون در اقتصاد رشد می‌کنه.

سم از خود صنعت AI هم انتقاد می‌کنه که اول درباره احتمال نابودی دنیا و حذف نیمی از شغل‌ها حرف زده و بعد تعجب کرده چرا مردم می‌ترسن. با این حال پیش‌بینی خودش مثبته و فکر می‌کنه AI بزرگ‌ترین موج تاریخ در ساخت کسب‌وکارهای کوچک را ایجاد خواهد کرد.

یکی از داستان‌های جالب آخر مصاحبه هم اینه که حتی بعد از عرضه ChatGPT بعضی افراد داخل OpenAI فکر می‌کردن رشدش موقتی و از روی کنجکاوی مردمه. این پیتر تیل بود که به سم گفت کادر خالی ChatGPT شبیه کادر جست‌وجوی گوگله و کنارگذاشتن چنین رشدی یک اشتباه واضحه. بعد از اون OpenAI تقریبا همه‌چیز را روی ChatGPT گذاشت.

شاید جذاب‌ترین تناقض مصاحبه همین باشه؛ کسی که با تمام توان پدال گاز این آینده را فشار می‌ده، همزمان هشدار می‌ده که نباید اجازه بدیم فرمان از دست انسان خارج بشه یا در دست چند نفر مثل خودش باقی بمونه.

این گفت‌وگوی ۷۸ دقیقه‌ای به نظرم ارزش کامل دیدن را داره
🎥 لینک ویدئو

@investingfund