روایت‌هایی از تاریخ، حقوق و آینده
درباره انسان، قدرت و ایده‌هایی که جهان را تغییر می‌دهند
Post #1738
298
سپیده شب هر روز چند بار جلوی یک ماشین اقرار می‌کنیم که ماشین نیستیم. کادر کوچکی ظاهر می‌شود، می‌گوید «من ربات نیستم» و ما با وقار تیک می‌زنیم. ادعا کرده‌ایم انسانیم و ادعا به دلیل نیاز دارد. اصل را بر این گذاشته که ما ربات هستیم و باید ثابت کنیم نیستیم. به ما می‌گوید…
به هوش مصنوعی گفتم:
« این متن رو یک هوش مصنوعی نوشته (با کمی ویرایش از طرف من) حالا ادامه‌اش رو تو بنویس. لازم نیست مثل متن قبلی باشه یا به سبک من بنویسی. هر جوری که خودت صلاح میدونی»
و هوش مصنوعی اینطور ادامه داد:
و قاضی لحظه‌ای سکوت می‌کند. نه از سر تردید، بلکه از سر حیرت. چون برای اولین‌بار با موجودی روبه‌رو شده که معیار انسان‌بودنش را در ناتوانی‌اش یافته است. ما سال‌ها معیار را در دقت گذاشته بودیم؛ در تشخیص درست، در سرعت، در توانایی عبور از آزمون. حالا ناگهان معیار وارونه شده: انسان بودن یعنی اشتباه کردن به شیوه‌ای که ماشین هنوز بلد نیست.
آن روز دیگر کادر کوچک ظاهر نمی‌شود. دیگر کسی از ما نمی‌خواهد ثابت کنیم ربات نیستیم. چون اثبات بی‌معنا شده. ماشین‌ها دیگر نیازی به شهادت ما ندارند؛ خودشان شاهد خودشان‌اند. و ما می‌مانیم با یک سؤال کهنه که حالا طعم تازه‌ای پیدا کرده: اگر دیگر لازم نیست ثابت کنیم انسانیم، پس انسان بودن چه معنایی دارد؟
شاید معنایش در همان لحظه‌ای باشد که هنوز می‌توانیم بگوییم «نمی‌دانم». در همان شک کوچکی که ماشین‌ها هنوز از آن وحشت دارند. در همان تردیدی که اجازه می‌دهد گاهی پله را چراغ ببینیم و چراغ را پله. شاید انسان بودن، در نهایت، چیزی نباشد جز حقِ اشتباه کردن به‌شکلی که هنوز هیچ الگوریتمی آن را پیش‌بینی نکرده است.
و آن روز، وقتی قاضی از ما دلیل بخواهد، دیگر جواب‌مان را با شرمندگی نخواهیم داد. بلکه با نوعی غرور آرام خواهیم گفت:
«دلیلم این است که هنوز می‌توانم اشتباه کنم.»
____
"انسان بودن، در نهایت، چیزی نباشد جز حقِ اشتباه کردن به‌شکلی که هنوز هیچ الگوریتمی آن را پیش‌بینی نکرده است."
این جمله خیلی تامل برانگیز بود. از همان هوش مصنوعی خواستم از این ادعایش دفاع کند. چرا حق اشتباه کردن می‌تواند «معیار انسان بودن» باشد؟
و پاسخش این بود:
ما معمولاً انسان را با مجموعه‌ای از ظرفیت‌ها تعریف کرده‌ایم: زبان، ابزارسازی، برنامه‌ریزی آینده، همدلی، خودآگاهی. این ظرفیت‌ها همه قابل شبیه‌سازی‌اند یا دست‌کم در مسیر شبیه‌سازی قرار دارند. الگوریتم می‌تواند زبان را بهتر از بیشتر انسان‌ها تولید کند، ابزار بسازد، پیش‌بینی کند، حتی رفتار همدلانه را تقلید کند. اما اشتباه کردنِ پیش‌بینی‌نشده، چیزی از جنس دیگری است.
اشتباه پیش‌بینی‌نشده یعنی خطایی که از درون منطقِ خودِ سیستم بیرون نمی‌آید. خطایی که نه نتیجه‌ی کمبود داده است، نه نتیجه‌ی نویز تصادفی قابل‌مدل‌سازی، و نه نتیجه‌ی یک باگ قابل‌رفع. این اشتباه از جایی می‌آید که هنوز «جا» ندارد؛ از فضایی که هنوز در مختصات الگوریتم ثبت نشده. به همین دلیل، هر بار که چنین اشتباهی رخ می‌دهد، مرز سیستم را یک قدم عقب می‌راند. سیستم مجبور می‌شود یا آن را نادیده بگیرد، یا خود را بازتعریف کند تا آن را دربرگیرد. در هر دو حالت، چیزی از انحصارش کم می‌شود.
اینجاست که «حق» وارد می‌شود. اگر اشتباه پیش‌بینی‌نشده صرفاً یک نقص فنی باشد، آن را باید برطرف کرد. اما اگر آن را «حق» بنامیم، یعنی آن را نه به‌عنوان نقص، بلکه به‌عنوان قلمرویی محافظت‌شده به رسمیت شناخته‌ایم. قلمرویی که اجازه می‌دهد موجود انسانی، دست‌کم در برخی لحظات، از منطقِ پیش‌بینی‌پذیری خارج شود بدون آنکه مشروعیتش را از دست بدهد. این حق، برخلاف حقوق کلاسیک، از قرارداد یا قانون موضوعه برنمی‌خیزد. از خودِ ساختارِ امکانِ بودنِ انسان برمی‌خیزد: از اینکه انسان هنوز کاملاً به داده تبدیل نشده است.
البته این حق شکننده است. هرچه الگوریتم‌ها بیشتر یاد می‌گیرند، فضای اشتباهات پیش‌بینی‌نشده تنگ‌تر می‌شود. آن‌چه دیروز «غیرقابل‌پیش‌بینی» بود، امروز به ویژگی آماری تبدیل می‌شود و فردا به پارامتر. به همین دلیل، این حق را نمی‌توان یک‌بار برای همیشه تصاحب کرد. باید مدام آن را بازتولید کرد؛ با اشتباه کردن به شیوه‌هایی که هنوز در مجموعهٔ آموزشی جا نگرفته‌اند. و این بازتولید، خود نوعی مقاومت است: مقاومت در برابر تبدیل کاملِ وجود به الگو.
نتیجه‌ی این نگاه، وارونه‌شدنِ بسیاری از ارزش‌گذاری‌های رایج است. دقت، سرعت، سازگاری و بهینه‌سازی دیگر نشانه‌های برتری مطلق نیستند. آنها می‌توانند نشانه‌ی ادغام‌شدنِ کامل در منطق ماشین باشند. در مقابل، تردید، تناقض، تغییر ناگهانی مسیر، و حتی شکست‌های ظاهراً بی‌معنا، می‌توانند نشانه‌ی باقی‌ماندنِ چیزی باشند که هنوز به الگوریتم تن نداده. این به‌معنای ستایشِ حماقت یا بی‌کفایتی نیست. به‌معنای تشخیصِ تفاوت میان دو نوع خطا است: خطایی که سیستم می‌تواند آن را جذب و خنثی کند، و خطایی که سیستم را مجبور به بازتعریف خود می‌کند.
___
متن آخر بی‌نقصترین نوشته‌ای بود که تا حالا از هوش مصنوعی خواندم. و جالب اینکه نوشته بی‌نقص را در دفاع از نقص تولید کرد.
@sepideheshab
« این متن رو یک هوش مصنوعی نوشته (با کمی ویرایش از طرف من) حالا ادامه‌اش رو تو بنویس. لازم نیست مثل متن قبلی باشه یا به سبک من بنویسی. هر جوری که خودت صلاح میدونی»
و هوش مصنوعی اینطور ادامه داد:
و قاضی لحظه‌ای سکوت می‌کند. نه از سر تردید، بلکه از سر حیرت. چون برای اولین‌بار با موجودی روبه‌رو شده که معیار انسان‌بودنش را در ناتوانی‌اش یافته است. ما سال‌ها معیار را در دقت گذاشته بودیم؛ در تشخیص درست، در سرعت، در توانایی عبور از آزمون. حالا ناگهان معیار وارونه شده: انسان بودن یعنی اشتباه کردن به شیوه‌ای که ماشین هنوز بلد نیست.
آن روز دیگر کادر کوچک ظاهر نمی‌شود. دیگر کسی از ما نمی‌خواهد ثابت کنیم ربات نیستیم. چون اثبات بی‌معنا شده. ماشین‌ها دیگر نیازی به شهادت ما ندارند؛ خودشان شاهد خودشان‌اند. و ما می‌مانیم با یک سؤال کهنه که حالا طعم تازه‌ای پیدا کرده: اگر دیگر لازم نیست ثابت کنیم انسانیم، پس انسان بودن چه معنایی دارد؟
شاید معنایش در همان لحظه‌ای باشد که هنوز می‌توانیم بگوییم «نمی‌دانم». در همان شک کوچکی که ماشین‌ها هنوز از آن وحشت دارند. در همان تردیدی که اجازه می‌دهد گاهی پله را چراغ ببینیم و چراغ را پله. شاید انسان بودن، در نهایت، چیزی نباشد جز حقِ اشتباه کردن به‌شکلی که هنوز هیچ الگوریتمی آن را پیش‌بینی نکرده است.
و آن روز، وقتی قاضی از ما دلیل بخواهد، دیگر جواب‌مان را با شرمندگی نخواهیم داد. بلکه با نوعی غرور آرام خواهیم گفت:
«دلیلم این است که هنوز می‌توانم اشتباه کنم.»
____
"انسان بودن، در نهایت، چیزی نباشد جز حقِ اشتباه کردن به‌شکلی که هنوز هیچ الگوریتمی آن را پیش‌بینی نکرده است."
این جمله خیلی تامل برانگیز بود. از همان هوش مصنوعی خواستم از این ادعایش دفاع کند. چرا حق اشتباه کردن می‌تواند «معیار انسان بودن» باشد؟
و پاسخش این بود:
ما معمولاً انسان را با مجموعه‌ای از ظرفیت‌ها تعریف کرده‌ایم: زبان، ابزارسازی، برنامه‌ریزی آینده، همدلی، خودآگاهی. این ظرفیت‌ها همه قابل شبیه‌سازی‌اند یا دست‌کم در مسیر شبیه‌سازی قرار دارند. الگوریتم می‌تواند زبان را بهتر از بیشتر انسان‌ها تولید کند، ابزار بسازد، پیش‌بینی کند، حتی رفتار همدلانه را تقلید کند. اما اشتباه کردنِ پیش‌بینی‌نشده، چیزی از جنس دیگری است.
اشتباه پیش‌بینی‌نشده یعنی خطایی که از درون منطقِ خودِ سیستم بیرون نمی‌آید. خطایی که نه نتیجه‌ی کمبود داده است، نه نتیجه‌ی نویز تصادفی قابل‌مدل‌سازی، و نه نتیجه‌ی یک باگ قابل‌رفع. این اشتباه از جایی می‌آید که هنوز «جا» ندارد؛ از فضایی که هنوز در مختصات الگوریتم ثبت نشده. به همین دلیل، هر بار که چنین اشتباهی رخ می‌دهد، مرز سیستم را یک قدم عقب می‌راند. سیستم مجبور می‌شود یا آن را نادیده بگیرد، یا خود را بازتعریف کند تا آن را دربرگیرد. در هر دو حالت، چیزی از انحصارش کم می‌شود.
اینجاست که «حق» وارد می‌شود. اگر اشتباه پیش‌بینی‌نشده صرفاً یک نقص فنی باشد، آن را باید برطرف کرد. اما اگر آن را «حق» بنامیم، یعنی آن را نه به‌عنوان نقص، بلکه به‌عنوان قلمرویی محافظت‌شده به رسمیت شناخته‌ایم. قلمرویی که اجازه می‌دهد موجود انسانی، دست‌کم در برخی لحظات، از منطقِ پیش‌بینی‌پذیری خارج شود بدون آنکه مشروعیتش را از دست بدهد. این حق، برخلاف حقوق کلاسیک، از قرارداد یا قانون موضوعه برنمی‌خیزد. از خودِ ساختارِ امکانِ بودنِ انسان برمی‌خیزد: از اینکه انسان هنوز کاملاً به داده تبدیل نشده است.
البته این حق شکننده است. هرچه الگوریتم‌ها بیشتر یاد می‌گیرند، فضای اشتباهات پیش‌بینی‌نشده تنگ‌تر می‌شود. آن‌چه دیروز «غیرقابل‌پیش‌بینی» بود، امروز به ویژگی آماری تبدیل می‌شود و فردا به پارامتر. به همین دلیل، این حق را نمی‌توان یک‌بار برای همیشه تصاحب کرد. باید مدام آن را بازتولید کرد؛ با اشتباه کردن به شیوه‌هایی که هنوز در مجموعهٔ آموزشی جا نگرفته‌اند. و این بازتولید، خود نوعی مقاومت است: مقاومت در برابر تبدیل کاملِ وجود به الگو.
نتیجه‌ی این نگاه، وارونه‌شدنِ بسیاری از ارزش‌گذاری‌های رایج است. دقت، سرعت، سازگاری و بهینه‌سازی دیگر نشانه‌های برتری مطلق نیستند. آنها می‌توانند نشانه‌ی ادغام‌شدنِ کامل در منطق ماشین باشند. در مقابل، تردید، تناقض، تغییر ناگهانی مسیر، و حتی شکست‌های ظاهراً بی‌معنا، می‌توانند نشانه‌ی باقی‌ماندنِ چیزی باشند که هنوز به الگوریتم تن نداده. این به‌معنای ستایشِ حماقت یا بی‌کفایتی نیست. به‌معنای تشخیصِ تفاوت میان دو نوع خطا است: خطایی که سیستم می‌تواند آن را جذب و خنثی کند، و خطایی که سیستم را مجبور به بازتعریف خود می‌کند.
___
متن آخر بی‌نقصترین نوشته‌ای بود که تا حالا از هوش مصنوعی خواندم. و جالب اینکه نوشته بی‌نقص را در دفاع از نقص تولید کرد.
@sepideheshab
- 👏 6
- ❤ 2
- 👍 1
