آنتروپیک ادعا کرده که یه مدل هوش مصنوعی 26 میلیارد پارامتری رو روی 15 تا اندروید تی‌وی باکس 55 دلاری اجرا کرده!
مشخصات این آزمایش:

- تعداد دستگاه‌ها: 15 تا اندروید تی‌وی باکس از برندهای متفرقه
- رم هر دستگاه: 4 گیگابایت
- قیمت هر دستگاه: حدود 55 دلار
- مدل هوش مصنوعی: Gemma4-26B-A4B
- سرعت پردازش: حدود 0.39 توکن در ثانیه
- هزینه کل سخت‌افزار: حدود 825 دلار.

برای اجرای مدل، اون رو با استفاده از روشی به اسم موازی‌سازی خط لوله‌ای (Pipeline Parallelism) بین چندین دستگاه تقسیم کرده بودن. به این ترتیب، هر دستگاه کوچیک فقط لازم بود بخشی از شبکه عصبی مدل رو توی حافظه نگه داره و همون بخش رو اجرا کنه.
بله، سرعت 0.39 توکن در ثانیه واقعاً خییییییییلی کُنده!

اما نکته مهم اینجاست که این مدل 26 میلیارد پارامتری واقعاً روی مجموعه‌ای از دستگاه‌های ارزون‌قیمت و مصرفی اجرا شده:

anthropic.com/research/self-replicating-ai

@Linuxor