🔬این روزها تقریباً هر بار که صحبت از پیشرفت هوش مصنوعی می‌شود، یک پاسخ تکراری می‌شنویم:
مدل بزرگ‌تر، داده بیشتر، پارامتر بیشتر، محاسبات بیشتر.
و طبیعی هم هست؛ مدل‌های بزرگ‌تر معمولاً توانایی‌های بیشتری نشان می‌دهند. اما آیا مسیر رسیدن به #AGI واقعاً همین است؟ یا شاید مسئله جای دیگری است؟
🧐 اول باید بپرسیم AGI دقیقاً چیست؟ اگر بخواهیم خیلی ساده تعریف کنیم:
سیستمی که بتواند در طیف گسترده‌ای از مسائل شناختی، بدون نیاز به آموزش اختصاصی برای هر مسئله، یک مدل قابل اتکا از واقعیت بسازد، آن را با شواهد جدید اصلاح کند و برای رسیدن به هدف، به‌صورت مستقل استدلال و تصمیم‌گیری کند.
اگر این تعریف را بپذیریم، ناگهان مسئله خیلی سخت‌تر از «پیش‌بینی Token بعدی» به نظر می‌رسد.
📌 مسئله از کجا شروع می‌شود؟ ما انسان‌ها واقعیت را مستقیماً به ماشین منتقل نمیکنیم. حتی به یکدیگر هم منتقل نمیکنیم. یک زنجیره تقریباً شبیه این داریم:
Reality → Perception → Thought → Concept → Language → Text → Model
و در هر مرحله ممکن است ابهام وارد شود. یک انسان چیزی را در ذهن دارد. آن را به یک مفهوم تبدیل می‌کند. برای رساندن آن مفهوم، یک کلمه انتخاب می‌کند. ممکن است کلمه دقیق نباشد. ممکن است جمله مبهم باشد. ممکن است مخاطب برداشت دیگری داشته باشد. و تازه در اینجا است که ماشین با متن مواجه می‌شود. بنابراین Language خودِ Reality نیست؛ یک واسط برای انتقال بخشی از برداشت ما از Reality است. و این واسط ذاتاً می‌تواند مبهم باشد.
📌 پس LLM دقیقاً چه چیزی را یاد می‌گیرد؟ مدل زبانی از حجم عظیمی از این واسط‌های انسانی یاد می‌گیرد: متن، جمله، کلمه، ارتباط میان کلمات، الگوهای تکرارشونده و روابط موجود در داده‌ها. و با افزایش ظرفیت مدل، می‌تواند ساختارهای پیچیده‌تری از این داده‌ها استخراج کند. اما یک سؤال اساسی باقی می‌ماند:
آیا یادگیری ساختار زبان، الزاماً به معنای ساختن یک مدل قابل اتکا از واقعیت پشت زبان است؟
به نظر می‌رسد این دو مسئله یکی نیستند. مدل ممکن است بداند که دو مفهوم معمولاً در کنار هم ظاهر می‌شوند؛ بدون اینکه الزاماً بداند چرا. ممکن است یک رابطه را از هزاران نمونه یاد گرفته باشد؛ اما وقتی با شرایطی مواجه شود که در داده‌های قبلی وجود نداشته، نتواند تشخیص دهد کدام بخش از آن رابطه واقعاً مربوط به جهان بوده و کدام بخش صرفاً یک الگوی موجود در زبان.
⏳اینجا شاید مسیر دیگری برای AGI لازم باشد.
شاید مسئله اصلی این نباشد که:
چند پارامتر دیگر به مدل اضافه کنیم؟
بلکه:
چگونه می‌توانیم با ظرفیت کمتر، representation دقیق‌تری از واقعیت بسازیم؟
به جای اینکه ابهام را با افزایش ظرفیت مدل جبران کنیم:
More Parameters → More Capacity
شاید باید به سمت چیزی شبیه این برویم:
Better Representation → Better Relations → Better World Model → Better Reasoning
یعنی به جای اینکه مدل برای هرچه چیزهای بیشتری را در خود جای دهد، بتواند ارتباط دقیق‌تری میان چیزهایی که می‌داند برقرار کند.
در این نگاه، هوشمندی الزاماً به معنای «دانستن بیشتر» نیست.
گاهی ممکن است به معنای دانستن کمتر، اما دقیق‌تر و ساختاریافته‌تر باشد.
⏳ و اینجا یک مشکل حتی عمیق‌تر داریم.
اگر مدل بخواهد واقعیت را صرفاً از زبان انسان یاد بگیرد، همیشه یک واسط مبهم میان مدل و واقعیت وجود دارد.
پس شاید مسئله اصلی AGI این نباشد که:
«چگونه یک LLM بزرگ‌تر بسازیم؟»
بلکه:
چگونه سیستمی بسازیم که از یک واسط مبهم، یعنی زبان، به مدلی قابل اتکا از واقعیت برسد؛ آن مدل را از شواهد یاد بگیرد و اصلاح کند؛ و سپس بتواند بدون آموزش اختصاصی، درباره وضعیت‌هایی که قبلاً ندیده است استدلال کند؟
و شاید سخت‌ترین قسمت همین باشد. کاری که ما در #معمار در Geniuses.Group با ایجاد روش شناختی منسجم، سعی در حل کردنش را داریم ولی قطعا پاسخ قطعی و نهایی براش نداریم.
🤔 حالا یک سؤال برای شما:
اگر دو مدل را داشته باشیم:
مدل A:
۱۰۰۰ میلیارد پارامتر دارد و می‌تواند درباره تقریباً هر چیزی صحبت کند.
مدل B:
۱۰۰ میلیارد پارامتر دارد، اما یک مدل بسیار دقیق‌تر و ساختاریافته‌تر از واقعیت دارد و می‌تواند با شواهد جدید خودش را اصلاح کند.
کدام‌یک به AGI نزدیک‌تر است؟
و سؤال سخت‌تر:
آیا اصلاً می‌توان با افزایش پارامترهای یک مدل زبانی، از «مدل زبان» به «مدل واقعیت» رسید؟
🧠 این بار قبل از پرسیدن از هوشواره (#AI #ArtificialIntelligence)، کمی خودمان فکر (#تفکر) کنیم.
راستی یادمون نره که صرفا در مورد هوشمندی ماشین صحبت نمیکنیم 😉