گوگل یه چالش هکاتون برای مدل جدیدش Gemma 3n گذاشته که ۱۵۰ هزار دلار جایزه داره و حدود یک هفته دیگه تموم میشه. هدف، ساختن محصولی برای حل یه مشکل واقعیه، نه صرفا یه چتبات دیگه. تمرکز اصلی روی محصولاتیه که تأثیر واقعی دارن و از قابلیتهای خاص این مدل استفاده میکنن.
مدل Gemma 3n چندتا ویژگی کلیدی داره که کار رو متفاوت میکنه:
اجرا روی دستگاه (On-Device): معماریش برای موبایل و دستگاههای با منابع محدود بهینه شده. با تکنیکی به اسم Per-Layer Embeddings یا PLE، مدلهای 5B و 8B، حافظهای معادل مدلهای 2B و 4B مصرف میکنن که برای اجرا روی دیوایس عالیه.
معماری انعطافپذیر: یه قابلیت mix’n’match داره که اجازه میده یه مدل 4B به عنوان یه سابمدل 2B هم استفاده بشه. اینطوری میشه بین پرفورمنس و کیفیت، بالانس ایجاد کرد.
آفلاین و خصوصی: چون مدل به صورت محلی اجرا میشه، میشه اپهایی ساخت که بدون اینترنت کار کنن و حریم خصوصی کاربر رو حفظ کنن.
چند وجهی (Multimodal): این مدل میتونه ترکیبی از صدا، متن و تصویر رو به صورت interleaved پردازش کنه و درک ویدیوی بهتری هم داره.
جوایز به دو بخش تقسیم میشن:
جوایز اصلی: ۱۰۰ هزار دلار در کل، که ۵۰ هزار دلار برای مقام اوله.
جوایز تکنولوژی خاص: پنج جایزه ۱۰ هزار دلاری برای بهترین پروژهها که از ابزارهای مشخصی استفاده کردن:
LeRobot:
برای تبدیل Gemma 3n به یک action model.
NVIDIA Jetson:
برای بهترین پیادهسازی روی دستگاه Jetson.
Ollama:
برای بهترین پروژه که مدل رو با Ollama اجرا کرده.
Unsloth:
برای بهترین fine-tune با استفاده از Unsloth.
Google AI Edge:
برای بهترین پروژه با این ابزار.
به نظر من، این که بخش اصلی ارزیابی روی ویدیو دمو هست، یعنی مهارت ارائه محصول و داستانسرایی به اندازه مهندسی اهمیت داره. این یه مسابقه کدزنی محض نیست. وجود جوایز مجزا برای ابزارهایی مثل Ollama و Unsloth هم عالیه، چون یعنی لازم نیست حتما به زیرساختهای بزرگ دسترسی داشته باشین. میتونین با Unsloth روی GPU های معمولی fine-tune کنین و شانس برنده شدن داشته باشید. با توجه به زمان کم، باید روی یه Proof-of-Concept قوی با یه ویژگی کلیدی تمرکز کرد و همون رو خوب نمایش داد.
📃 جزئیات چالش و نوتبوکهای نمونه برای فاینتیون:
google-gemma-3n-hackathon
gemma-3n-4b-multimodal-finetuning-inference
🛠 Join @LLMEngineers Community
Post #88
936