مقاله‌ی «Spectral Bias Mitigation via xLSTM-PINN» به بررسی یک روش نوآورانه برای بهبود یادگیری ماشین در حل معادلات دیفرانسیل با مشتقات جزئی (PDEs) می‌پردازد. در ادامه خلاصه‌ای از مقاله:

روش‌های رایج Physics-Informed Neural Networks (PINNs) با سه چالش عمده مواجه‌اند:

1️⃣ سوگیری طیفی (Spectral Bias): شبکه‌ها تمایل دارند فرکانس‌های پایین را بهتر یاد بگیرند و در بازسازی مؤلفه‌های فرکانس بالا ضعیف عمل می‌کنند.

2️⃣ عدم تعادل داده-باقی‌مانده: وزن‌دهی نامتناسب به داده‌ها و معادلات فیزیکی.

3️⃣ ضعف در برون‌یابی (Extrapolation): عملکرد ضعیف در پیش‌بینی خارج از ناحیه آموزش.

👉 @ai_python ✍️

💡 راه‌حل پیشنهادی

نویسندگان یک چارچوب جدید به نام xLSTM-PINN معرفی می‌کنند که شامل:

1️⃣ استخراج ویژگی چندمقیاسی با (Gated Memory): برای درک بهتر ساختارهای فرکانسی مختلف.

2️⃣ برنامه درسی فرکانسی مرحله‌ای (Staged Frequency Curriculum): آموزش تدریجی از فرکانس‌های پایین به بالا.

3️⃣ وزن‌دهی تطبیقی به باقی‌مانده‌ها: برای تعادل بهتر بین داده‌ها و معادلات فیزیکی.

در چهار بنچمارک مختلف، این روش:

خطای طیفی، MSE، RMSE، MAE و MaxAE را به‌طور قابل توجهی کاهش داده است.

پهنای باند قابل حل را گسترش داده و زمان رسیدن به آستانه خطا در فرکانس‌های بالا را کاهش داده است.

گذارهای مرزی تمیزتر و نوسانات فرکانس بالا را کاهش داده است.