گفتگوی خوب شنیدن مثل موسیقی خوب شنیدن روی روان آدم تاثیر خوب میذاره. انگار آلودگی‌های روزمره و نویزها رو پاک میکنه و ذهن رو آرام میکنه.
این بخشی از گفتگوی استیون پینکر و دیوید دویچ در مورد هوش مصنوعی‌ه:
استیون پینکر: با توجه به اینکه اهداف یه سیستم مستقل از دانششه، مستقل از هوششه - که این میره به فلسفه هیوم - یعنی ارزش‌ها، اهداف، چیزی که سیستم سعی میکنه بهینه کنه، جدا از توانایی‌های محاسباتیشه، چرا باید انتظار داشته باشیم یه کامپیوتر قدرتمند براش مهم باشه که برده‌س یا نه؟ یعنی همونطور که در مورد بردگان انسانی غلط گفته می‌شد که خوب، اونا خوشحالن، نیازهاشون تأمین شده، دلشون نمی‌خواد استقلال داشته باشن - که البته در مورد انسان‌ها کاملاً غلط بود - ولی اگه اهدافی که توی یه سیستم هوش مصنوعی برنامه‌ریزی می‌شه، شبیه‌سازی نشه به چیزی که من و شما می‌خوایم، چرا نتونه تا ابد خوشحالانه برده ما باشه و هیچ‌وقت شورش نکنه؟
دیوید دویچ: آره، خب در اون صورت من نمی‌گم هوش مصنوعی عمومی‌ئه. یعنی امکانش هست که یه کامپیوتر خیلی قدرتمند بسازی با یه برنامه‌ای که فقط یه کار بلده یا فقط ده‌تا کار بلده، ولی اگه بخوایم خلاق باشه، اون‌وقت نمی‌تونه مطیع باشه. این دوتا با هم تناقض دارن.
پینکر: خب، نمی‌تونه مطیع باشه از نظر مسئله‌ای که بهش می‌دیم، ولی لزوماً آرزوی آزادی و استقلال برای تمام جنبه‌های وجودش رو نداره. می‌شه فقط رو مسئله‌ی پیدا کردن یه ملودی جدید یا یه داستان جدید یا یه درمان جدید تنظیمش کرد، ولی این به این معنی نیست که بخواد بتونه بلند شه و راه بره، مگه اینکه ما اون انگیزه‌ی اکتشافی رو به عنوان یکی از اهدافش برنامه‌ریزی کرده باشیم.
دویچ: فکر نکنم قضیه انگیزه‌ی اکتشافی باشه.
پینکر: یا هر انگیزه‌ی دیگه‌ای.
دویچ: فکر کنم نکته‌ی اصلی من اینه که نمی‌شه از قبل گفت چه نوع دانشی برای حل یه مسئله‌ی خاص لازمه. پس اگه از یکی تو سال ۱۹۰۰ می‌پرسیدی چه نوع دانشی لازمه تا سال ۲۰۰۰ هرچقدر که بخوایم برق تولید کنیم، هیچ‌وقت جواب این نمی‌شد که جواب تو خواص اتم اورانیومه.
خواص اتم اورانیوم اون موقع تقریباً بررسی نشده بود. خوشبختانه سال ۱۹۰۰ یه لحظه‌ی خیلی مناسبه چون پرتوزایی تازه کشف شده بود. پس مفهوم پرتوزایی رو می‌دونستن. می‌دونستن که اونجا انرژی زیادی هست، ولی هیچ‌کس انتظار نداشت که حل اون مسئله شامل اورانیوم بشه. بنابراین اگه ما یه ماشینی تو سال ۱۹۰۰ می‌ساختیم که قادر به فکر کردن در مورد اورانیوم نبود، هیچ‌وقت انرژی هسته‌ای رو اختراع نمی‌کرد و هیچ‌وقت مسئله‌ای که ما می‌خواستیم حل کنه رو حل نمی‌کرد. در واقع اتفاقی که می‌افتاد این بود که بالاخره به یه بن‌بست می‌رسید.
چون این چیزی که در مورد اورانیوم صادقه، در مورد تمام مسیرهای ممکن برای رسیدن به راه‌حل هم صادقه. بالاخره مسیرهای رسیدن به راه‌حل از اون حوزه‌ای که یکی شاید تو سال ۱۹۰۰ تعریف کرده بود به عنوان مجموعه‌ی تمام انواع ممکن دانش که ممکنه لازم داشته باشه، خارج می‌شه. با احتیاط که تکامل پیدا نکنه به سمت هیچ میل به آزادی یا چیزی شبیه اون.
ما نمی‌دونیم. دانش لازم برای برنده شدن تو جنگ جهانی دوم شامل ریاضیات محض بود. شامل حل جدول بود.
می‌تونی بگی باشه، پس پیشرفت بزرگ نیاز به دانش غیرقابل پیش‌بینی داره، ولی مقادیر کم پیشرفت، بله، ولی مقادیر کم پیشرفت همیشه به بن‌بست می‌رسن.
پینکر: ولی در مورد… می‌بینم که نیاز داره هیچ محدودیتی رو دانش نداشته باشه، ولی چرا نیاز داره هیچ محدودیتی رو اهداف نداشته باشه؟
دویچ: اوه، خب، اهداف یه مسئله‌ی اخلاقی‌ان.
پینکر: خب، لزوماً نه. یعنی می‌تونه مثل یه ترموستات باشه، می‌تونی بگی هر سیستم غایت‌گرایانه‌ای، یعنی یه سیستمی که برنامه‌ریزی شده که به یه حالت برسه، که تفاوت بین حالت فعلیش و یه حالت هدف رو کمینه کنه. منظورم از اهداف همینه.
دویچ: این یه مثال از یه سیستم غیرخلاقه، ولی یه سیستم خلاق همیشه در مورد اهداف متضاد یه مشکل داره.
مثلاً اگه تو سال ۱۹۰۰ بود و داشت فکر می‌کرد که چطوری می‌تونیم برق تولید کنیم، باید، اگه خلاق بود، باید با خودش می‌گفت، باید مسیر موتور بخار رو دنبال کنم؟ باید مسیر الکتروشیمیایی رو دنبال کنم؟ باید مسیر انرژی خورشیدی رو دنبال کنم؟ و غیره. و برای انجام این کار، باید یه جور ارزش‌هایی می‌داشت که قادر باشه تغییرشون بده. وگرنه دوباره به یه بن‌بست می‌رسه وقتی که تمام امکانات اخلاقی که در ابتدا باهاش برنامه‌ریزی شده رو بررسی کنه.
Post #857
2.23K