‏🚀 تبدیل مدل‌های LLM به سیستم‌های تصمیم‌گیر با AnyJev

‏اگر به دنبال استفاده از مدل‌های زبانی متن‌باز برای استخراج دقیق قضاوت‌ها، امتیازدهی و احتمالات هستید، کتابخانه AnyJev ابزاری کاربردی است. این کتابخانه به شما اجازه می‌دهد خروجی‌های مدل‌های Causal LLM را به شکلی ساختاریافته دریافت کنید. برای جزئیات فنی و توضیحات بیشتر، جزئیات کامل در سایت را ببینید.

‏مهم‌ترین سطوح عملکردی این ابزار عبارتند از:

‏- سطح L0: بدون نیاز به داده‌های برچسب‌دار، با چرخش گزینه‌ها، سوگیری موقعیتی را کاهش می‌دهد.
‏- سطح L1: با استفاده از ۱۰۰ تا ۵۰۰ نمونه برچسب‌دار، احتمالات را از طریق Temperature Scaling کالیبره می‌کند.
‏- سطح L2: با استفاده از ۱۰۰ تا ۳۰۰ برچسب، یک لایه نهایی روی وضعیت‌های پنهان (Hidden States) مدل قرار می‌دهد که دقت بالایی در تصمیم‌گیری ایجاد می‌کند.

‏نکته کلیدی این است که AnyJev برای کارکرد صحیح به دسترسی به Logits یا وضعیت‌های پنهان مدل نیاز دارد؛ بنابراین برای مدل‌های متن‌باز بهینه شده است. این ابزار به شما کمک می‌کند تا بدون تغییر در وزن‌های اصلی مدل، قابلیت اطمینان خروجی‌ها را به میزان چشمگیری افزایش دهید.