رقابت توی مدلهای امبدینگ زیر ۳۰۰ میلیون پارامتر خیلی جذاب شده. با اینکه گوگل با EmbeddingGemma-300m سر و صدای زیادی کرد، ولی جینا با مدل V5 Nano نشون داد که توی Production برنده کیه.
چند تا دلیل فنی که چرا جینا برای کارهای عملیاتی و RAG بهتره:
کانتکست ۸ هزارتایی در مقابل ۲ هزارتای گوگل، دست آدم رو برای پردازش داکیومنتهای طولانی و … میذاره.
استفاده از LoRA adapterهای اختصاصی برای تسکهای مختلف مثل retrieval یا classification باعث میشه دقت خروجی توی سناریوهای واقعی خیلی بالاتر از یه مدل عمومی باشه.
قابلیت Binary Quantization جینا هم حجم ایندکسهای دیتابیس رو به شدت میاره پایین بدون اینکه افت کیفیت محسوسی داشته باشیم. برای کسی که دنبال پرفورمنس بالا با هزینه inference و نگهداری کمه، این مدل جینا فعلاً بهترین گزینهست.
https://huggingface.co/jinaai/jina-embeddings-v5-text-nano
Post #355
1.56K
- 👍 8
- ❤ 4