این واقعا محشره، یه دولوپر به اسم slvDev تونسته یه مدل زبانی با 28.9 میلیون پارامتر رو روی ESP32-S3 اجرا کنه؛ چیپی که حدود $10 قیمت داره و معمولاً برای چیزهایی مثل سنسورها، وسایل هوشمند و IoT استفاده میشه. مدل بدون اینترنت و کاملاً روی خود چیپ، حدود 9.88 توکن در ثانیه تولید میکنه
اگه خواستین خودتون هم میتونید تستش کنید :
github.com/slvDev/esp32-ai
@Linuxor
Post #4817
10.5K