⚠️ننگ XoR بر دامن شبکه‌های عصبی🤖
❄️زمستان هوش مصنوعی❄️

❄️واقعا زمستونی درکار بوده؟ چرا اصلا زمستون شده؟!

✍ از وقتی تورینگ با تعریف از هوش یک جریان تحقیقاتی رو شروع کرد و مفاهیم مثل پرسپترون بیان شد، بودجه‌های تحقیقاتی زیادی سمت دانشگاه‌ها روانه شد ولی از همون اول خیلیا موافق این جریان نبودند. با به وجود اومدن ADALINE و دادن یه فرمول ریاضی جذاب برای شبکه‌های عصبی هیجان زیادی به پا شد.

ولی راستش یه مشکل اساسی وجود داشت. سال ۱۹۶۰ آدالاین شبکه‌ی عصبی یک لایه رو معرفی کرد. خب مشکلش چیه؟! اون زمان شبکه‌های عصبی سعی داشتند گیت‌های منطقی رو یاد بگیرند. یادتون باشه بحث سخت‌افزار و ساخت کامپیوتر‌ها خیلی داغ بوده و اگر شبکه‌های عصبی مفهوم گیت AND رو یاد میگرفتند، میتونستند خیلی مفاهیم رو شبیه‌سازی کنند.

🔔حالا به شکل‌های پست نگاه کنید. شکل اول یک AND رو نمایش میده، با یک شبکه یک لایه، میتونید یک صفحه جدا کننده بسازید و نقاط رو از هم جدا کنید. این شبکه دو تا ورودی و یک خروجی داره. طبعا میتونید چنین خطی رو پیدا کنید و فقط بحث دقت پیدا کردن این صفحه جدا کنندس.

حالا به شکل دیگه که XoR رو نشون میده دقت کنید. اینجا غیر ممکنه با یک صفحه (بخونید خط) یک‌ها رو از صفرها جدا کنید!! یعنی ۲۰ سال تلاش برای ساخت مفهوم هوش با یک XoR به هدر رفت. گزارش و اثبات اینکه شبکه‌ی عصبی از بازسازی توابع غیر خطی مثل XoR عاجزه ننگی شد بر دامن محققان این حوزه. در همین زمان در انگلیس هم منتقدانی در مورد بزرگنمایی تحقیقات این حوزه مقالاتی نوشتند و بودجه تحقیقاتی این حوزه‌ها از سمت دانشگاه‌ها و دولت‌ها به شدت کاهش پیدا کرد.

در واقع زمستان به خاطر کاهش بودجه تحقیقاتی بود! محققین هم که مثل بقیه باید درامد داشته باشن رفتن به سمت مناطق گرمسیری.
این ماجرا تو اومد مفهوم MADALINE و در نهایت دو لایه شدن شبکه‌های عصبی ادامه داشت. پاک کردن ننگ XoR سالها برای محققین این حوزه طول کشید و شبکه‌ی عصبی دو لایه دوباره آبروی رفته این حوزه رو برگردوند.

ولی واقعیت کل قضیه زمستان سرد، نبود پول و انگیزه برای تحقیقات بود. مهم نیست چه قدر شکل و شمایل هوش مصنوعی عوض میشد، محققین روی این حوزه‌ها کار نمیکردن تا یک مفهوم جدید ارائه بدن. پس هر موقع شک کردید که ممکنه برای یک حوزه زمستانی فرا برسه اول ببینید چه کسانی فلوی مالی اون حوزه رو تامین میکنند.
LinkedIn: Ghandi (Data Scientist)