آیا علم در آستانهٔ دگرگونی است؟
با ظهور و گسترش هوش مصنوعی، به‌ویژه یادگیری ماشین مبتنی بر شبکه‌های عصبی، این پرسش جدی مطرح شده است که آیا در آینده‌ای نه‌چندان دور، مفهوم «روش علمی» و شاید کلیت علم، دستخوش تحولی بنیادین خواهد شد؟
در روش علمی سنتی، ما با مشاهدهٔ طبیعت به دنبال ساختن مدل‌هایی هستیم که بتوانند رفتار طبیعت را توصیف و پیشبینی کنند. جالب آنکه این دقیقاً همان کاری است که سیستم‌های یادگیری ماشین نیز انجام می‌دهند: داده‌ها را دریافت می‌کنند، بر اساس آنها مدل می‌سازند، و از دل این مدل‌ها پیش‌بینی‌هایی ارائه می‌دهند—و حتی در برخی موارد، چیزهایی خلق می‌کنند که به نظر «نو» می‌رسند.
با این حال، منتقدان تأکید می‌کنند که میان مدل‌سازی علمی و مدل‌سازی توسط یادگیری ماشین تفاوتی بنیادین وجود دارد: مدل‌های علمی معمولاً تفسیرپذیر هستند، در حالی‌که مدل‌های یادگیری ماشین، به‌ویژه شبکه‌های عصبی عمیق، مانند جعبه سیاه عمل می‌کنند. به بیان دیگر مدل سازی علمی به "فهم" ما از طبیعت کمک می کند در حالی که مدل سازی ماشینی به نظر می رسد فهم را فراهم نمی کند.
برای مثال، در فیزیک، ما ممکن است با یک معادلهٔ دیفرانسیل رفتار یک سامانه را پیشبینی کنیم؛ معادله‌ای که قابل تحلیل است، معنا و ساختار دارد، و میتوان برای آن تفاسیر فیزیکی روشنی ارائه داد. اما در مقابل، شبکهٔ عصبی‌ای که همان پدیده را پیشبینی می‌کند، ممکن است میلیون‌ها پارامتر داشته باشد که هیچ‌گونه تفسیر مستقیمی برایشان وجود ندارد.
در اینجا مسئلهٔ «تفسیر» به‌عنوان دغدغه‌ای جدی مطرح می‌شود و این موضوع ما را به حوزهٔ فلسفهٔ علم می‌کشاند:
تفسیرپذیری دقیقاً یعنی چه؟ چگونه میتوان گفت که یک مدل یا یک معادله تفسیر دارد؟ و چه زمانی علم صرفاً به «پیشبینی درست» بسنده نمی‌کند، بلکه به دنبال «فهم» هم هست؟
در این میان، رویکردهایی نیز شکل گرفته‌اند که تلاش می‌کنند از دل داده‌ها، مدل‌های تفسیرپذیر علمی استخراج کنند. یکی از این تلاش‌ها، استفاده از روش‌هایی مانند رگرسیون نمادین (symbolic regression) است که هدف آن یافتن معادلات ریاضی ساده و معنادار از دل داده‌های پیچیده است. اما اینکه آیا این روش‌ها واقعاً می‌توانند جای مدل‌سازی سنتی را بگیرند، و تا چه اندازه در کشف قوانین علمی بنیادی موفق بوده‌اند، همچنان محل بحث است.
مقاله‌ای جدید با عنوان
On the definition and importance of interpretability in scientific machine learning
به این مسائل می‌پردازد. نویسندگان معتقدند بسیاری از تلاش‌ها برای تفسیرپذیر کردن یادگیری ماشین، مانند استفاده از روش‌های «رگرسیون نمادین»، تفسیر را با «سادگی ریاضی» یا «فشردگی» اشتباه گرفته‌اند. آنها پیشنهاد می‌دهند که باید تفسیری *مکانیزمی* از مدل‌ها داشته باشیم، یعنی درک کنیم چگونه و چرا خروجی‌ها تولید می‌شوند، نه فقط اینکه مدل کوتاه و زیبا باشد.
🗞
مقاله@cosmos_physics 
