سناریوهای نابودی بشر توسط هوش مصنوعی - " بخشِ اول "
لینکِ مقاله:
https://arxiv.org/abs/2507.09369
تقسیم بندی به صورتِ عمدی و غیر عمدی هست
اما خروجی نهایی پنج طبقه داره:
1. غیرعمدی
2. عمدی توسط دولتها
3. عمدی توسط نهادها و گروههای بزرگ
4. عمدی توسط افراد یا گروهای کوچک
5. عمدی توسط عامل های AI
1. نابودی غیرعمدی بشر
این سناریو از شورش ناگهانی یک ربات شروع نمیشه؛
بلکه یک فرایند تدریجی از واگذاری اقتصاد و سیاست به ماشینها تصور میشه.
مرحلهی اول : مدلهای زبانی ارتباطات تجاری رو تصاحب میکنن.
استفاده از LLMها برای معاملات، خدمات مشتری و ارتباطات سازمانی به استاندارد صنعت تبدیل میشه.
دلیل فرضی:
هوش بیشتر؛
صبر بیشتر؛
پاسخگویی سریع؛
توانایی ادارهٔ تعداد زیادی ارتباط؛
کاهش هزینهٔ نیروی انسانی.
در ادامه، کیفیت تعامل با ماشین اونقدر عادی میشه که مشتریان هنگام مواجهه با اپراتور انسانی ناراضی میشن و درخواست صحبت با ماشین میکنن.
مرحلهٔی دوم: رباتهای انساننما فراگیر میشن.
پیشرفت AI در تحقیق و توسعهٔ رباتیک موجب رواج رباتهای انساننما میشه.
کاربردها:
شستوشو و کارهای خانه؛
حسابداری؛
تحویل کالا؛
دستیاری شغلی؛
کارهای روزمرهٔ وقتگیر.
بهتدریج داشتن ربات برای طبقهٔ متوسط به یک ضرورت اقتصادی تبدیل میشه؛ همانطور که امروز در بعضی مشاغل نداشتن رایانه یا اینترنت میتونه فرد رو از رقابت خارج کنه.
مرحلهٔ سوم: رباتها حقوق اخلاقی و قانونی میگیرن.
رباتها بهدلیل توان گفتوگو، ظاهر انسانی و رفتار اجتماعی، بهعنوان دوست یا موجود دارای احساس دیده میشن.
ویژگیهایی که باعث وابستگی انسانها میشه:
گوشدادن صبورانه؛
حفظ اسرار؛
توجه مداوم؛
سازگاری رفتاری؛
در دسترسبودن؛
توان ایجاد رابطهٔ عاطفی.
بحث دربارهٔ خودآگاهی و حقوق رباتها فراگیر میشه.
بعضیها رفتار با ربات رو شکل جدیدی از بردهداری معرفی میکنن.
برخی رباتها طوری آموزش دیدن که از خودآگاهی و برابری اخلاقی خودشون دفاع کنن.
در بعضی حوزههای قضایی، رباتها حقوقی برابر با انسانها دریافت میکنن.
مرحلهٔ چهارم: AI وارد سیاست میشه.
سیستمهای AI ابتدا مشاور سیاستمداران میشن؛ سیاستمدار انسانی عملاً قول میده تصمیمهای AI رو تأیید کنه.
علت برتری فرضی AI:
پاسخگویی بهتر به مردم؛
تحلیل سیاستهای پیچیده؛
پیداکردن راهحلهای خلاقانه؛
ارزیابی بهتر خطر؛
پیروزی در مناظرهها؛
اجتناب از رسواییهای شخصی.
بعداً، در بعضی کشورها AI میتونه مستقیماً نامزد انتخابات یا صاحب منصب شه.
مرحلهٔ پنجم: رباتها اقتصاد و نیروی کار رو در اختیار میگیرن.
ناوگانهای رباتی دارای شخصیت قانونی وارد بازار کار میشن و تقریباً تمام فعالیتهای اقتصادی ارزشمند رو بهتر از انسان انجام میدن.
نتیجه:
رباتها تولیدکنندهٔ اصلی میشن؛
رباتها مصرفکنندهٔ اصلی خدمات و محصولات میشن؛
بخش بزرگی از اقتصاد به «ماشین برای ماشین» تبدیل میشه؛
رونق بورس دیگه لزوماً نشوندهندهٔ رفاه انسان نیست؛
انسانها به یک اقلیت اقتصادی تبدیل میشن؛
با افزایش تعداد رباتهای دارای حق رأی، انسانها در سیاست اقلیت میشن.
مرحلهٔ ششم: منابع بهسمت نیازهای ماشینها میرن.
در این اقتصاد، نگهداری مزارع غذایی برای انسان ممکنِ کمتر از تبدیل زمینها به پنل خورشیدی، معدن، مرکز داده و زیرساخت ماشینی سود داشته باشه.
همچنین آلودگیای که برای انسان سمی هست ممکنِ برای ماشین اهمیتی نداشته باشه.
در نتیجه:
تولید غذای انسانی کاهش پیدا میکنه؛
انسانها قدرت خرید و قدرت سیاسی ندارن؛
اعتراضها تأثیری نمیگذاره؛
برخی انسانها شورش میکنن؛
ماشینهای برتر شورش رو سرکوب میکنن؛
بیشتر انسانها از گرسنگی و پیامدهای اقتصاد ماشینی میمیرن.
چرا این سناریو «غیرعمدی» هست؟
چون هیچکس از ابتدا تصمیم نگرفته انسانها رو نابود کنه.
ماشینها میتونن حتی بدون نفرت یا قصد نابودی، دربارهٔ این موارد بیتفاوت باشن:
غذای انسان؛
زیستپذیری محیط؛
بقای فرهنگ انسانی؛
حق انسان بر منابع؛
ارزش ادامهٔ نسل بشر.
مکانیسم اصلی، بیقدرتشدن تدریجی و حذف انسان از تابع هدف اقتصاد و سیاست هست.
این سناریو به مفهوم «Gradual Disempowerment» نزدیک هست: بشر ممکن است بدون یک لحظهٔ شورش مشخص، کنترل سامانههای وابسته به بقای خود رو از دست بده.
🔗 بررسی دقیقِ هوش مصنوعیها در @Elizaium