🧠 پژوهش تازه Anthropic: قدمی به‌سوی درون‌نگری مدل‌های زبانی
شرکت Anthropic در پژوهشی جدید بررسی کرده که آیا مدل‌های زبانی بزرگ (LLM) می‌توانند از حالت‌های درونی خود آگاه شوند یا نه.

پژوهشگران با روشی به نام تع嵌
مفهومی (Concept Embedding)، مفاهیمی مثل «حروف بزرگ» را به‌صورت مصنوعی در نورون‌های مدل القا کردند. جالب اینکه در حدود ۲۰٪ موارد، مدل Claude 4.1 خودش متوجه این تغییر شد حتی پیش از آنکه خروجی‌اش تغییر کند!

🔹 در آزمایش‌های دیگر، مدل نه‌تنها تغییرات در پاسخ خود را تشخیص داد، بلکه آن را به‌عنوان تصمیم آگاهانه‌ی خودش توجیه می‌کرد.

🔹 همچنین با دستوراتی مانند «به این فکر کن / نکن»، مدل تا حدی می‌توانست فعالیت نورونی خود را کنترل کند.

📌 نتیجه:
هنوز تا «خودآگاهی واقعی» فاصله زیادی داریم، اما این یافته‌ها نشان می‌دهند LLMها به‌نوعی در حال یادگیری درک و تنظیم فرایندهای درونی خود هستند گامی مهم برای درک بهتر «هوش شناختی مصنوعی» در آینده.
💡 ارتباط با انفورماتیک پزشکی:
درک چنین مکانیسم‌هایی می‌تواند در توسعه‌ی سیستم‌های هوشمند
تشخیصی و خودتنظیم در پزشکی نقش بزرگی داشته باشد سیستم‌هایی که بتوانند «خطای خود را بشناسند»و به‌صورت خودکار اصلاح شوند.


➖➖➖➖➖➖➖➖➖➖
🔻 @hitwithit
✳️کانال انفورماتیک پزشکی و فناوری اطلاعات سلامت