کاربری از ChatGPT خواست یک عکس از «راک» (دواین جانسون) را ۱۰۱ بار پشت‌سرهم بازتولید کند. نتیجه عجیب بود: تصویر به‌تدریج از اصلش فاصله گرفت تا جایی که کاملاً فروپاشید.

این پدیده به «خراب‌بازی تلفن» یا دقیق‌تر «فروپاشی مدل» برمی‌گردد. هوش مصنوعی کپی‌بردار دقیق نیست؛ بر اساس شباهت حدس می‌زند. هر بار خروجیِ خودش را به‌عنوان ورودی جدید می‌گیرد، خطاها جمع می‌شوند و در نهایت تصویر اولیه می‌میرد.

نتیجه‌گیری ساده است: اگر هوش مصنوعی بدون نظارت رها شود، همین اتفاق می‌تواند در همه‌چیز بیفتد — از پزشکی و آموزش گرفته تا حمل‌ونقل، امنیت و فضا. کنترل مداوم، الزام است، نه انتخاب.