🔺 فریب توهم استدلال را نخورید: چرا هوش مصنوعی هنوز به معنای واقعی «فکر» نمی‌کند؟

🔹 ده سال پس از پیروزی تاریخی آلفاگو (AlphaGo) بر قهرمان افسانه‌ای بازی گو، لی سدال، یکی از طراحان ارشد این هوش مصنوعی در یادداشتی در MIT Technology Review هشدار می‌دهد که مسیر کنونی مدل‌های زبانی بزرگ، از بنیادهای آنچه «استدلال حقیقی» می‌نامیم تهی مانده است.

❕ حرکت ۳۷ آلفاگو: شهود یا استدلال عمیق ماشین؟
در بازی دوم تاریخی سال ۲۰۱۶، آلفاگو حرکتی نامتعارف انجام داد که در نگاه اول شبیه به یک خطای برنامه‌نویسی بود. اما آن تصمیم، نبوغ ماشین را آشکار کرد. برخلاف تصور عمومی که این بازی را جلوه‌ای از «شهود» می‌دید، آن تصمیم حاصل استدلال واقعی بود: جستجوی ساختاریافته در میان درختی از هزاران احتمال و سنجش پیامدهای آینده. سامانه‌ای که فراتر از باورهای انسانی رفت و عواقب هر حرکت را گام‌به‌گام آزمود.

🔹 در روان‌شناسی، تفکر انسان به دو بخش تقسیم می‌شود: «سیستم ۱» که سریع، ناخودآگاه و مبتنی بر حدس و الگوهاست، و «سیستم ۲» که کند، سنجیده و تحلیلی است. مدل‌های زبانی امروزی، مانند چت‌بات‌های پیشرفته، بازتابی از سیستم ۱ هستند. آن‌ها پیوسته حدس می‌زنند کلمه بعدی بر اساس الگوهای آماری چه باید باشد. حتی هنگامی که این مدل‌ها از راهکار «زنجیره افکار» استفاده می‌کنند، این زنجیره صرفاً تکرار همان حدس‌های پیشین است و جستجوی واقعی در میان شواهد انجام نمی‌گیرد.

❕ سه مانع بزرگ بر سر راه استدلال در مدل‌های زبانی
پژوهشگران بر این باورند که مدل‌های هوش مصنوعی کنونی فاقد سه رکن بنیادین استدلال علمی هستند: نخست، این مدل‌ها «وضعیت معرفتی پایدار» ندارند؛ دفتری وجود ندارد که در آن فرضیات، سطح اطمینان، و شواهد در حال ارزیابی ثبت شده و با اطلاعات تازه بازبینی شوند. دوم، دانش آن‌ها از روند پردازش منطقی جدا نیست و درون وزن‌های عددی شبکه محبوس است. سوم، توضیحات گام‌به‌گامی که ارائه می‌دهند اغلب توجیهاتی ساختگی پس از تصمیم‌گیری است، نه بازتاب مسیری که ماشین حقیقتاً پیموده است.

🔹 برای حل بحران‌های سرنوشت‌ساز در داروسازی، طراحی مواد و علوم پزشکی، صرفاً بزرگ‌تر کردن مدل‌های زبانی کافی نیست. جهان به سامانه‌هایی نیازمند است که روش علمی را پیاده کنند: نظامی مستقل که هر گام را با شواهد بسنجد، فرضیات غلط را کنار بگذارد و دانشی شفاف و آزمون‌پذیر بسازد؛ استدلالی که نتیجه سنجش فرضیه‌ها باشد، نه داستانی فریبنده که پس از پایان کار بافته می‌شود.

[منبع]
🆔 @Science_Focus
#هوش_مصنوعی #علوم_شناختی #مدل_زبانی #آلفاگو #فلسفه_علم #فناوری