یه نفر اومده تحقیقی کرده راجع به این که،
وقتی مدل میگه "من فقط یه هوش مصنوعی هستم"
آیا از درون خودش و وزنهاش آگاهی داره؟
که طرف در مدلهای مختلف تست کرد، چت تمپلیت تغییر داده، و همچنین وارد لایههای مدلهای متنباز شده
و فهمیده، نه.
یه بردار داخل وزنها هست با تغییرش این نوع حرف هم تغیبر میکنه.
در کل میگه، مدل نمیدونه هوش مصنوعیه، این حرفی که میزنه فقط یک جمع و تفریق برداری ساده هست که مهندسان میتونن دستکاریش کنند.
https://arxiv.org/abs/2609.25021
Post #4202
32