⚠️برعلیه آورفیتینگ:
تصور کنید یک تیم فوتبال دارید که همیشه به یک بازیکن ستاره تکیه میکند. اگر آن ستاره مصدوم شود، تیم فرو میپاشد. برای جلوگیری از این وابستگی، مربی هر جلسه تمرینی، بهطور تصادفی یک یا دو بازیکن را کنار میگذارد و از بقیه میخواهد بازی را پیش ببرند.
این کار باعث میشود:
· هیچ بازیکنی «تکیهگاه» مطلق نشود.
· بازیکنان یاد بگیرند با هم ترکیبهای مختلفی بسازند.
· تیم در برابر غیبت افراد مقاوم شود.
🧬در شبکه عصبی، نورونها مانند بازیکنان هستند. دراپاوت مانع از آن میشود که یک نورون خاص بار تشخیص یک ویژگی را بهتنهایی به دوش بکشد و بقیه را تنبل کند.
🧬دراپاوت یک تکنیک منظمسازی (Regularization) در شبکههای عصبی عمیق است که از بیشبرازش (Overfitting) جلوگیری میکند.
⚙ایده اصلی آن به طرز شگفتآوری ساده است:
در هر مرحله از آموزش، بهطور تصادفی تعدادی از نورونها (گرهها) را به همراه تمام اتصالات ورودی و خروجیشان موقتاً خاموش میکنیم.
#Overfitting
#DL
#Dropout
@toobabigdatascience
Post #2861
120