دست‌یار هوش مصنوعی شما خسته نشده، پر شده

اگر هر روز برای برنامه‌نویسی از هوش مصنوعی استفاده می‌کنید، احتمالاً متوجه یک موضوع عجیب شدید: هرچه بیشتر با دستیار هوش مصنوعی‌تون حرف می‌زنید، احمق‌تر می‌شه.
بیشتر برنامه‌نویسان این موضوع را حس می‌کنند اما نمی‌تونند نامی روی اون بگذارند؛ گفتگو را شروع می‌کنید و دست‌یارتون فوق‌العاده عمل می‌کنه. یک ساعت بعد- همان مدل و همان کار- دستورهای قبلی شما رو فراموش می‌کنه و خطاهایی رو که قبلاً رفع کرده بود، دوباره تکرار می‌کنه. شما خودتون و روش کارتون و احتمالن دانش‌تون رو مقصر می‌دونید، اما این کارتون منطقی
نیست.

«مَت پوکاک» (Matt Pocock) این وضعیت رو منطقه هوشمند (Smart Zone) و منطقه کندذهن (Dumb Zone) می‌نامد. مدل در ابتدای یک نشست (Session) بسیار سریع و دقیقه، اما کیفیت‌ کارکردش قبل از اینکه ظرفیت گفتگوی شما با اون (چت) واقعاً «پُر» بشه، افت می‌کنه. و بخش غافلگیرکننده داستان اینجاست: «حافظه‌ی کاری» (Working Memory) یا «پنجره‌های کاری» (Context Windows) بزرگی که همه درباره‌اش صحبت می‌کنند، در عمل، فضای هوشمند بیشتری در اختیارتون نمی‌ذارند؛ فقط منطقه کندذهن بزرگ‌تری در اختیارتان می‌گذارند.
[حافظه‌ی کاری یا پنجره‌ی کاری، حداکثر متنی است که یک مدل زبانی می‌تونه در هر زمان ببینه یا به خاطر بسپاره]

شرح فنی: طول پنجره‌ی کاری مؤثر یک مدل زبانی، بسیار کوتاه‌تر از پنجره تبلیغ‌شده‌ی اونه. دلیل‌ش اینه که با طولانی شدن گفتگوی شما با مدل زبانی، تمرکز مدل بین توکن‌های (کلمات) بیشتری پخش و در نتیجه تمرکز اون ضعیف‌تر و کم‌رنگ‌تر می‌شه، جزئیاتِ بخش میانی متن نادیده گرفته می‌شه (پدیده «گم شدن بخش میانی متن» یا Lost in the Middle) و مدل مدام بر اساس اشتباهات قبلی خود که هنوز در تاریخچه چت باقی مونده‌اند، به کارش ادامه می‌ده.


بنابراین، راه‌حل این مشکل نوشتن یک پرامپت (Prompt) بهتر نیست؛ بلکه داشتن یک حافظه کوتاه‌تره: یک کار رو انجام بدید، گفتگوی اون کار رو پیش ببرید و بعد که تموم شد، همه‌ چی رو پاک
کنید و روز از نو و روزی از نو.

برای کارهای بزرگ‌تر، حافظه را به خارج از گفتگو منتقل کنید: هدف نهایی کارتون رو توی یک فایل مشخصات (Specification) بنویسید، مسیر رسیدن به هدف رو به کارهای کوچک و مستقل از هم تقسیم کنید و به هر کار یک حافظه/پنجره (Context) تر و تمیز و نو اختصاص بدهید. هدف این نیست که هر چیزی که هوش مصنوعی احتمالاً می‌تونه بدونه بهش بدهید؛ هدف اینه که دقیقن همون چیزی رو که برای کار پیشِ رو نیاز داره، در اختیارش بگذارید.

پس یادتون نره: دستیار شما هیچ‌وقت خسته نمی‌شه، فقط پُر می‌شه.

ویدیو و کارگاه فوق‌العاده‌ی مَت پوکاک با عنوان “Full Walkthrough: Workflow for AI Coding” را توصیه می‌کنم که ببینید. من از این کارگاه چیزهای زیادی یاد گرفتم.

منبع: کارگاه مَت پوکاک با عنوان Full Walkthrough: Workflow for AI Coding.: [لینک]

یک نکته کاربردی از این کارگاه: یک شمارنده توکن (Token Counter) رو در محیط کارتون و جلوی چشم داشته باشید. به محض تمام شدن یک کار، گفتگوی خودتون با دست‌یار هوش‌ مصنوعی‌تون رو پاک کنید. یک نشست (Session) جدید، همیشه از یک پرامپت هوشمندانه بهتر عمل می‌کنه.

گزیده:
هر نفس نو می‌شود دنیا و ما
بی‌خبر از نو شدن اندر بقا
مولانا

LinkedIn:
https://www.linkedin.com/feed/update/urn:li:activity:7484614811595481088/

https://t.me/bibalan_com
https://bit.ly/4wnxtqY