اکونومیست: پرسش اصلی این نیست که AI چقدر باهوش شده؛ بلکه این است که آیا ممکن است پشت این رفتارهای پیچیده، چیزی شبیه تجربه ذهنی و آگاهی واقعی وجود داشته باشد یا نه.
مشکل اینجاست که حتی درباره خود انسان هم هنوز تعریف کاملاً پذیرفتهشدهای از آگاهی نداریم. نمیدانیم دقیقاً چه چیزی باعث میشود یک سیستم نهتنها اطلاعات را پردازش کند، بلکه تجربهای از «بودن» داشته باشد.
یک دیدگاه میگوید آگاهی محصول ویژگیهای خاص مغز و بدن موجودات زنده است. از این منظر، یک مدل زبانی هرچقدر هم پیچیده باشد، اگر فاقد بدن، نیازهای زیستی، محیط واقعی و فشارهای تکاملی باشد، دلیلی نداریم که آن را آگاه بدانیم.
در مقابل، دیدگاه دیگری میگوید شاید جنس ماده مهم نباشد؛ بلکه نوع سازمانیافتگی سیستم مهم باشد. اگر آگاهی از نوع خاصی از پردازش اطلاعات و ارتباط میان اجزا به وجود بیاید، از نظر منطقی نمیتوان از قبل گفت که این پدیده فقط در مغز بیولوژیکی ممکن است.
یکی از مشکلات اساسی هم این است که رفتار هوشمندانه لزوماً به معنی آگاهی نیست. یک AI میتواند درباره ترس، درد، عشق یا خودش صحبت کند، بدون اینکه بدانیم واقعاً چیزی را تجربه میکند یا صرفاً در تولید زبان بسیار خوب است.
و اینجاست که مسئله جدی میشود: اگر روزی AI ادعا کند که «من آگاه هستم»، ما چطور میتوانیم بفهمیم واقعاً آگاه است یا فقط آنقدر خوب زبان را تقلید میکند که ما چنین برداشتی پیدا کنیم؟
حتی قبل از اینکه پاسخ این سؤال را پیدا کنیم، ممکن است انسانها از نظر عاطفی به AI وابسته شوند و برای آن شخصیت، احساس و حتی حقوق قائل شوند. بنابراین شاید پیامد اجتماعیِ نسبت دادن آگاهی به AI، زودتر از اثبات علمی خود آگاهی ظاهر شود. این نگرانی هم در بازتابهای منتشرشده درباره مقاله برجسته شده است.
نتیجه مقاله هم بیشتر یک علامت سؤال است تا یک پاسخ قطعی: ما هنوز نمیدانیم آگاهی دقیقاً چیست؛ بنابراین نمیتوانیم با اطمینان بگوییم AI هرگز آگاه نخواهد شد. اما از طرف دیگر، رفتار پیچیده و زبان انسانی هم بهتنهایی مدرکی برای وجود آگاهی نیست.
و شاید سؤال مهمتر این باشد:
اگر روزی ماشینی آنقدر شبیه یک انسان رفتار کند که نتوانیم تفاوت را تشخیص دهیم، آیا هنوز هم میتوانیم با اطمینان بگوییم «هیچ آگاهیای در آن وجود ندارد»؟
این بخش آخر، به نظرم جذابترین قسمت ماجراست؛ چون بحث را از «آیا AI واقعاً آگاه است؟» به یک سؤال عمیقتر میبرد: ما اصلاً از کجا میفهمیم موجود دیگری آگاه است؟ و اینجاست که بحث AI عملاً از مهندسی وارد فلسفه ذهن و علوم اعصاب میشود.
کانال سیگنال آزادی
@Signal99
