✅ گرادیان نزولی و نقش آن در فرایند یادگیری شبکه های عصبی
🧑‍💻محمد نوری زاده چرلو
🗓20 آذر 1402
#PyTorch
💡گرادیان نزولی (gradient descent) یک الگوریتم بهینه سازی است که در شبکه های عصبی با کمک آن وزنهای سیناپسی تنظیم می شوند. به عبارتی با کمک گرادیان نزولی، شبکه های عصبی آموزش دیده و دانش لازم برای حل مئسله را بدست می آوردند.
🔺این الگوریتم با یک مقدار اولیه برای پارامتر بهینه سازی (وزنهای سیناپسی در شبکه های عصبی) شروع می‌کند، و براساس شیب خطا پارامتر بهینه سازی را تنظیم می‌کند.
🔺 گردایان نزولی در طول تکرارهای مختلف، در جهت شیب منفی خطا حرکت می‌کند تا به نقطه بهینه (global minima) همگرا شود. با کمک این رویکرد، شبکه های عصبی، در طول زمان وزنهای سیناپسی خود را برای حل مسئله خاص تنظیم می‌کنند.
🔺در این پست میخواهیم با فلسفه گرادیان نزولی برای حل مسئله، و چالشهایی که دارد آشنا شویم.

🔘جزئیات بیشتر 👇
https://onlinebme.com/gradient-descent/
🏢 آکادمی آنلاین مهندسی پزشکی و هوش مصنوعی
@Onlinebme