پرامپت‌های سیستمی خیلی بزرگ، بیشتر از اینکه به ایجنت‌های هوش مصنوعی کمک کنن، خرابشون می‌کنن.

یه نکته جالب که موقع ساخت ایجنت‌های واقعی معلوم شده اینه که هرچی دستور و قانون بیشتری رو توی یه پرامپت بچپونی، مدل بدتر می‌تونه هر کدومشون رو درست اجرا کنه. محقق‌ها به این می‌گن "نفرین دستورالعمل‌ها". راه‌حلش اینه که دستورالعمل‌ها رو بسته به شرایط بارگذاری کنی.

یعنی به‌جای اینکه یه متن 2000 کلمه‌ای به مدل بدی، دستورها رو به بخش‌های کوچیک تقسیم می‌کنی که فقط وقتی لازم باشه فعال می‌شن. هر بخش دو تا قسمت داره:

شرط: کی این دستور باید اجرا بشه؟
اقدام: وقتی اون شرط برقرار شد، ایجنت دقیقاً باید چی کار کنه؟

مثلاً اگه مشتری درباره بازپرداخت پول سؤال کرد، فقط دستورالعمل‌های مربوط به بازپرداخت لود می‌شن. این‌طوری مدل به‌جای اینکه هم‌زمان حواسش به ۵۰ تا قانون مختلف باشه، فقط روی همون 3 یا 4 قانونی که همون لحظه به درد می‌خورن تمرکز می‌کنه و خیلی بهتر از دستورها پیروی می‌کنه.

به این روش Alignment Modeling می‌گن و توی Parlant، یه فریم‌ورک متن‌باز و محبوب، ازش استفاده شده:

github.com/emcie-co/parlant

@Linuxor