ـ needle از cactus-compute یه مدل پایه برای دستگاه های خیلی کوچیکه که برای tool calling و استخراج ساختارمند و embedding ساخته شده
از گوشی و ساعت گرفته تا خونه هوشمند و ربات و ماشین و میکروکنترلر میتونه بره سراغ کارایی که معمولا مدل های بزرگتر میخوان
نکته جالبش اینه که با 2-bit و اندازه 8 تا 29 مگابایت اومده جلو پس بیشتر به درد جاهایی میخوره که جا و منابع شوخی ندارن
اگر دنبال یه گزینه سبک برای edge ai هستی که هم با داده ساختارمند سر و کار داشته باشه هم روی دستگاه بمونه این یکی ارزش نگاه کردن داره

https://github.com/cactus-compute/needle

#Dev #GitHub #OpenSource #Tools #Geek #AI
#hosssssein @sun_geek