یه گفته‌ای هست از انیشتین که می‌گه:
اگر نمی‌تونی یه مفهومی رو به مادربزرگت به طور خیلی ساده توضیح بدی، یعنی اون مفهوم رو عمیقا نفهمیدی.
یه نوع دانشی هست به نام:
tacit knowledge
چندتا مثال:
- یه شطرنج باز حرفه‌ای ممکنه یهو بگه فلان حرکت حس خوبی نداره.
- یه پزشک باتجربه، با دیدن بیمار بگه یه چیزی اینجا مشکوکه.
اولا دقت کنین که قیدهای "حرفه‌ای" و "با تجربه" رو داریم اینجا به کار می‌بریم؛
و دوما امکان داره در اون لحظه، این افراد نتونن واقعا بگن برای چی همچین حسی دارن.
اما در بسیاری از این موارد، نتیجه رو که می‌بینیم؛ می‌تونیم بفهمیم که واقعا اون حرف درست بوده.
به این میگن دانش ضمنی.
دانشی که در رفتار و مهارت تو وجود دارد، اما الزاماً در قالب جملات قابل دسترسی نیست.
می‌خوام این مورد رو ربطش بدم به AI.
سوال اینطور پرسیده میشه که:
اگر یک سیستم بتواند درست تصمیم بگیرد، اما نتواند توضیح دهد چرا، آیا می‌گوییم آن سیستم واقعاً مسئله را فهمیده؟
در اصل داستان اینجاست که AI امروزه خیلی تصمیمات زیادی رو داره می‌گیره اما اینکه واقعا کدوم نورون درونی‌ش به این تصمیم منتج شده یا بر اساس اتصال کدوم نورون‌هاش به این نتیجه رسیده، دقیقا برای خود کسی که اون مدل رو طراحی کرده هم مشخص نیست به طور دقیق.
فقط می‌دونیم و می‌تونیم بگیم که ارتباط همه‌ی نورون‌ها به این نتیجه رسیده.
- کدوما بیشتر موثر بودن و چرا؟؟؟
+ دقیق نمی‌دونیم.
- وقتی می‌گیم مثلا چیز MoE (Mixture of Experts) هست، می‌تونیم بگیم کدوم بخشش مربوط به کدوم دانشه؟
+ خیر اینم نمی‌تونیم بگیم. مثل مغز که دقیق نمی‌تونیم بگیم کدوم بخشش داره کدوم دانش و آگاهی و عضلات رو کنترل می‌کنه.
در نهایت هم می‌تونیم بگیم برای فهمیدن با تعریف انسانی سه تا سطح داریم:
1. انجام دادن کاری
2. دونستن اینکه چه کاری داره انجام میشه
3. توضیح دادن اینکه چرا و چطور این کار داره انجام میشه
پ.ن: در این مورد صحبت زیاده؛ مخصوصا وقتی وارد vibe coding و اینطور داستانا می‌شیم. همین که توانایی توضیح دادن، فقط یکی از نشانه‌های فهمه و معیار مطلق آن نیست و موارد دیگری که میشه بسط داد این موضوع رو. بقیه‌ش با خودتون 😉
#quote@RyanHeida
#eyes_open@RyanHeida