یکی از مسائلی که اگر با مدل‌های زبانی بزرگ (LLMها) یا ایجنت‌ها کار کرده باشید حتماً با آن روبه‌رو شده‌اید و احتمالاً گاهی هم آزارتان داده این است که وقتی از مدل خروجی را در قالب JSON می‌خواهید، همیشه دقیقاً همان‌طور تحویلتان نمی‌دهد.

گاهی ابتدای خروجی یا انتهای آن ``` یا ```json می‌گذارد، گاهی هم ساختار JSON را درست رعایت نمی‌کند و چیزی کم یا زیاد دارد که رفع کردن آن آزاردهنده است.


یکی از راه‌حل‌هایی که ما در شرکت چند ماهی است از آن استفاده می‌کنیم و نتیجه‌ی خیلی خوبی هم گرفته‌ایم، استفاده از کتابخانه‌ی json_repair است.

این کتابخانه خروجی مدل را می‌گیرد و اگر مشکل داشته باشد، آن را به‌صورت خودکار اصلاح می‌کند.

ممکن است بپرسید خودمان نمی‌توانیم چنین کدی بنویسیم؟


چرا، می‌شود. اما نکته‌ی جالب در مورد این کتابخانه این است که از دید نظری به مسئله نگاه کرده است. اگر درس نظریه‌ی زبان‌ها و ماشین‌ها را گذرانده باشید، می‌دانید که هر زبانی از جمله ساختار JSON را می‌توان با یک گرامر (Grammar) توصیف کرد.


این کتابخانه هم دقیقاً از همین ایده استفاده کرده: سعی می‌کند خروجی مدل را طوری اصلاح کند که با گرامر JSON سازگار شود.


در پست قبلی درباره‌ی Guardrails و به‌ویژه قابلیت Callback‌ها صحبت کردیم. یکی از بهترین جاها برای فراخوانی این کتابخانه، همین Callbackها هستند.


راستی، این پست آخرین مطلب از بررسی کتاب Agentic Design Patterns است. باقی فصل‌های کتاب مذکور به نظرم چندان ارزش بررسی بیشتر ندارد و کتاب‌های موجود دیگر بهتر آن مطالب را بیان می‌کنند.

ادامه پست‌های این کانال بررسی کتاب‌های دیگر خواهد بود.


#ADP_AG_CH_18

@metapageai