🤯 ممکنه هوش مصنوعی کم‌کم واقعیت رو فراموش کنه؟

💡 فرض کن از یک عکس کپی بگیری. بعد از روی اون کپی، دوباره کپی بگیری، و این کار رو ده‌ها بار ادامه بدی. هر بار یه مقدار از جزئیات عکس از بین می‌ره تا جایی که نسخه آخر دیگه خیلی شبیه تصویر اصلی نیست. تقریبا همین اتفاق می‌تونه برای مدل‌های هوش مصنوعی هم بیفته! به این پدیده میگن Model Collapse یا فروپاشی مدل.
▪️ وقتی نسل‌های جدید مدل‌های AI مرتب با محتوایی آموزش ببینن که خود مدل‌های قبلی تولید کردن، بعضی خطاها، ساده‌سازی‌ها و سوگیری‌ها می‌تونن از یک نسل به نسل بعد منتقل بشن و حتی بیشتر بشن.
▪️ جالب‌تر اینکه معمولاً اطلاعات نادر زودتر از بقیه از دست میرن. مثلاً موضوعات خیلی تخصصی، زبان‌های کم‌کاربرد یا اطلاعاتی که نمونه‌های کمی ازشون در داده‌ها وجود داره، ممکنه کم‌کم کمتر دیده بشن.
⁉️ نتیجه چی می‌شه؟
خروجی مدل‌ها می‌تونه به مرور:
🔴 تکراری‌تر بشه
🔴 تنوع کمتری داشته باشه
🔴 بعضی سوگیری‌ها رو بیشتر تکرار کنه
🔴 و با اینکه همچنان روان و مطمئن جواب می‌ده، فاصله بیشتری از داده‌های واقعی بگیره.
▪️ البته این به این معنی نیست که مدل‌های هوش مصنوعی همین الان وارد فرایند Model Collapse شدن. این پدیده بیشتر یک چالش بلندمدت برای توسعه AI محسوب می‌شه و یکی از راه‌های مقابله باهاش هم حفظ ارتباط مدل‌ها با داده‌های واقعی، منابع معتبر و داده‌های انسانی باکیفیته.
✔️ خلاصه اینکه:
اگه AI فقط از AI یاد بگیره، ممکنه کم‌کم یادش بره واقعیت در اصل چه شکلی بوده.

🤖 بوتکمپ ایجنت‌های هوش‌مصنوعی
🤖 سلسله وبینارهای رایگان AI Agents

📍 کانال هوش‌مصنوعی کافه‌تدریس:
@Cafetadrispro