ابزار Mellea: کتابخانه پایتون برای ساخت برنامه‌های LLM قابل پیش‌بینی

فراخوانی معمولی LLM  همیشه موفقیت آمیز نیست ؛ مدل ممکنه فرمت را رعایت نکند یا یه چیز ضروری را از قلم بیندازد، یا پاسخی بدهد که بررسی‌اش سخت باشد.

کتابخانه Mellea پیشنهاد می‌دهد چنین سیستم‌هایی را به‌صورت برنامه‌های generative تایپ‌شده بنویسید.

کافی است یک تابع پایتون توصیف کنید:

from pydantic import BaseModel
from mellea import generative, start_session

class UserProfile(BaseModel):
    name: str
    age: int

@generative
def extract_user(text: str) -> UserProfile:
    """نام و سن کاربر را استخراج کن."""

m = start_session()
user = extract_user(
    m,
    text="Alice is 31 years old."
)

کتابخانه Mellea عبارت docstring را به دستورالعمل تبدیل می‌کند، annotationهای نوع را به ساختار پاسخ، و سپس نتیجه را اعتبارسنجی می‌کند و در صورت نیاز، تولید پاسخ را به‌طور خودکار تکرار می‌کند.


لینک پروژه
https://github.com/generative-computing/mellea


🆔 @python4all_pro


🧩لینک کانال در بله 👇👇
https://ble.ir/Python4all_pro