👩💻نویسنده: فاطمه بذری
نرمالسازی دستهای یا Batch Normalization به عنوان یکی دیگر از تکنیکهای Generalization در یادگیری عمیق محسوب میشود که بطور مستقیم، در بهینهسازی مدلها نقش دارد. در واقع، پارامترهای ورودی را به کمک Adaptive normalization در مقیاسی مشابه قرار میدهد و اینگونه مشکلات ناشی از تغییر توزیع دادهها، طی مراحل آموزش را کاهش میدهد. اهمیت این تکنیک بهدلیل اینکه بطور همزمان، سه مزیت Preprocessing ، Numerical stability و Regularization را به ساختار مدل تزریق مینماید، بسیار مورد توجه محققان در این حوزه یادگیری عمیق قرارگرفته است. در ادامه، ابتدا به بیان مقدمهای در مورد چالش موجود و ایدهی حل آن توسط این تکنیک میپردازیم. سپس، نکاتی در مورد تفاوتهای استفاده از این لایه در convolutional layer/ layer Dense و پیادهسازی آن به کمک کتابخانه پایتورچ ارائه میدهیم.
⭕️جزییات بیشتر 👇
https://onlinebme.com/batch-normalization-in-deep-learning/
🏢 آکادمی آنلاین مهندسی پزشکی و هوش مصنوعی
@Onlinebme
