🤖 بزرگ‌تر بودن همیشه بهتر نیست!

یکی از مشارکت‌کنندگان digiKam (نرم‌افزار ساماندهی تصاویر کی‌دی‌ای) بررسی کرد که کدوم مدل زبانی(llm) کوچک بهتر میتونه عبارت‌های انسانی مثل "all 5 star landscape photos" رو به فیلترهای قابل‌فهم برای رایانه تبدیل کنه.

نتیجه جالب بود: مدل ۱٫۵ میلیاردی Qwen2.5 دقیق‌تر از مدل ۳ میلیاردی عمل کرد و ۱۰ برابر سریع‌تر هم پاسخ داد!

دلیلش این بود که مدل بزرگ‌تر بیش از حد فکر می‌کنه و کار ساده رو پیچیده می‌کنه؛ کلی توضیح و ساختارهای اضافی می‌نویسه، در نتیجه خروجی‌اش از حالت تمیز و دقیق فاصله می‌گیره. در حالی که مدل ۱٫۵ میلیاردی دقیقاً همون چیزی که لازمه رو تولید می‌کنه، بدون هیچ زیاده‌روی.

نسخه کامل این مطلب رو از اینجا بخونید.

@KDE_fa | @KDEFarsi