این پروژه هم جدیدا خیلی سرو صدا کرده یه مدل زبانی خیلی خیلی کوچیکه مخصوصاً اگه هدفتون اینه که یه AI خیلی سبک برای Tool Calling / Agent داشته باشی که روی موبایل، لپتاپ، Raspberry Pi، دستگاههای IoT و حتی سختافزارهای ضعیف اجرا میشه.
دقت کنید needle الان نسبت به اوایلش، جلوتر رفته و Needle 2 شده. نسخه فعلی یه مدل حدود 45M پارامتریه که بهصورت یک فایل حدود 14MB قابل اجراست و برای tool calling، device use و structured extraction ساخته شده.
استفادش هم با پایتون خیلی سادس فقط کافیه از اینجا بخونید دربارش روی همه زبان های برنامه نویسی میتونید تستش کنید :
docs.cactuscompute.com/latest/docs/quickstart
@Linuxor
Post #4911
9.62K
