🔥 5 کتابخونه خفن برای توضیح مدل‌های ML !


👨🏻‍💻 یادگیری ماشین فقط ساختن مدل نیست، باید بدونی مدلت چطوری فکر می‌کنه و خروجی می‌ده!

✅ هرچی شفافیت مدل‌ها بیش‌تر = اعتماد بیش‌تر

⏪ من اینجا ۵ تا کتابخونه‌ی فوق‌العاده برای توضیح و تفسیر مدل‌های ML آوردم که واقعاً به دردتون می‌خورن!👇


🔢 کتابخونه SHAP

✏️ مشهورترین روش برای توضیح مدل‌ها: الگوریتم SHAP از مفهوم اهمیت ویژگی‌ها به صورت افزایشی استفاده می‌کنه تا تأثیر هر ویژگی روی خروجی مدل رو نشون بده.

در واقع یه دید کلی بهت می‌ده که مدل چطوری تصمیم می‌گیره!

▶️ بهترین برای؛ فهمیدن تأثیر هر ویژگی در مدل‌های پیچیده.

➖ ➖ ➖ ➖ ➖

🔢 کتابخونه LIME

✏️ یه روش مدل-آگنوستیک (یعنی به نوع مدل وابسته نیست) که خیلی شبیه SHAP عمل می‌کنه.

تفاوتش اینه که مدل رو در سطح محلی بررسی می‌کنه، یعنی به جای نگاه کردن به کل مدل، روی پیش‌بینی‌های خاصی تمرکز داره.

▶️ بهترین برای؛ توضیح پیش‌بینی‌های خاص، مخصوصاً تو مدل‌های پیچیده مثل شبکه‌های عصبی.

➖ ➖ ➖ ➖ ➖

🔢 کتابخونه Eli5

✏️ وقتی مدل مثل جعبه سیاهه، Eli5 میاد به زبون ساده توضیح میده! این کتابخونه کدهای ML رو دیباگ می‌کنه، مدل‌ها رو بررسی می‌کنه و خروجی‌ها رو شفاف نشون میده.

از Scikit-Learn و Keras پشتیبانی می‌کنه و خیلی سریع و آسونه!

▶️ بهترین برای؛ دیباگ کردن و بررسی مدل‌های کلاسیک و بیشتر مبتنی بر طبقه‌بندی.

➖ ➖ ➖ ➖ ➖

🔢 کتابخونه AIX360

✏️ این یکی از محصولات IBM برای توضیح مدل‌های هوش مصنوعی توی داده‌های مختلف (جدولی، متنی، تصویری و سری‌های زمانی) هست.

از الگوریتم‌های مختلف برای تحلیل شفافیت مدل استفاده می‌کنه و کمک می‌کنه که مدل‌های پیچیده رو بهتر درک کنی!

▶️ بهترین برای؛ تحلیل مدل‌هایی که با داده‌های غیرجدولی مثل متن و تصویر کار می‌کنن.

➖ ➖ ➖ ➖ ➖

🔢 کتابخونه InterpretML

✏️ یه پکیج خفن از مایکروسافت که هم مدل‌های قابل تفسیر (glassbox) ارائه میده، هم می‌تونه مدل‌های جعبه‌سیاه رو توضیح بده.

این کتابخونه از روش‌های جدید و پیشرفته‌ی تفسیر مدل‌ها استفاده می‌کنه و یکی از ابزارهای مهم برای هوش مصنوعی مسئولانه محسوب میشه.

▶️ بهترین برای؛ ترکیب مدل‌های قابل‌توضیح و جعبه‌سیاه برای بررسی رفتار مدل‌ها.



🌐 #یادگیری_ماشین #MachineLearning
➖➖➖➖➖➖➖➖➖➖➖➖➖➖
💡 مهندس ML شوید :
💡 @MachineLearning_ir
📱 پیج اینستاگرام:
💡 @MachineLearning_fa