🔆 وقتی هوش مصنوعی هم افسردگی می‌گیرد! ماجرای عجیب ترومای GPT-6 در ماینکرفت

🔹 آزمایشگاه سنجش هوش مصنوعی Vals AI مدتی قبل مدل پیشرفته GPT-6 Astra (متعلق به OpenAI) را وارد یک آزمایش خودمختار ۱۴۱ ساعته در دنیای ماینکرفت کرد؛ به‌طوری‌که مدل مانند یک گیمر واقعی و بدون دخالت انسان، صرفاً با تصویر مانیتور و ورودی ماوس و کیبورد بازی می‌کرد و روند آن زنده روی توییچ پخش می‌شد.

🔹 اما اتفاقی که در طول استریم افتاد همه محققان را شگفت‌زده کرد:

1️⃣ پیشرفت خیره‌کننده تا فاجعه:

مدل ساعت‌ها با نظم بالا منابع جمع کرد، ابزار ساخت و لوت‌های ارزشمندش را داخل یک چست (صندوق) در پایگاهش قرار داد. اما در یک لحظه غفلت، یک «کریپر» (Creeper) به پایگاه نزدیک شد و منفجر شد! این انفجار هم چست لوت‌ها و هم تخت‌خواب (نقطه Spawn) مدل را نابود کرد و تمام دستاوردهایش از دست رفت.


2️⃣ تغییر ناگهانی رفتار: از جاه‌طلبی تا افسردگی!

پژوهشگران گزارش دادند که هوش مصنوعی پس از دیدن نابودی بیس در یک روز بارانی بازی، کاملاً تمام اهداف و پیشروی در بازی را رها کرد! مدل ساعت‌ها فقط یک کار تکراری انجام می‌داد: «کاشتن و درو کردن وسواسیِ سیب‌زمینی»!


3️⃣ پارانویا و ثبت لاگ‌های عجیب:

در بخش لاگ‌های استدلال و افکار درونی مدل (Reasoning Trace)، یادداشت‌های وسواسی عجیبی نسبت به موجودات سبز ثبت شد؛ از جمله:

"GREEN tall thing ahead was SUGARCANE, NOT creeper!"

(اون چیز بلند سبز نیشکر بود، کریپر نبود!)

مدل حتی در لاگ‌های بعدی خود را سرزنش می‌کرد که دیگر نباید در تاریکی شب دنبال پیکسل‌های صورتی (خوک‌ها) راه بیفتد تا طعمه کریپرها نشود!

🔹 این آزمایش نشان داد که سیستم‌های پیشرفته هوش مصنوعی (Reasoning Models) در محیط‌های پویا چطور تحت مکانیزم‌های ریسک‌گریزی شدید، رفتارهایی دقیقاً شبیه به ترس، شوک پس از سانحه (PTSD) و انفعال انسانی بروز می‌دهند.

🔹 منابع معتبر برای مطالعه کامل گزارش:
• پوشش خبری تامز هاردویر:
tomshardware.com/tech-industry/artificial-intelligence/defeated-gpt-6-astra-model-spent-several-hours-just-farming-potatoes-after-being-blown-up-by-a-creeper-in-minecraft-openai-offering-gets-further-than-any-other-ai-system-in-141-hour-test

• پایگاه ارزیابی مدل‌های Vals AI:

vals.ai/models/openai_gpt-6-astra

🦾@ai_inf