یه ایجنت کدنویسی به اسم Pi که کاملاً داخل مرورگرت اجرا میشه و برای اجرا از یه مدل 2B روی WebGPU استفاده میکنه
این پروژه از MiniCPM5-2B + Pi ساخته شده و قدرتش رو از ترکیب Transformers.js + WebGPU + وزنهای ONNX چهاربیتی (4-bit) میگیره.
تمام تلاشهای قبلی برای ساخت همچین چیزی شکست خورده بودن، ولی به نظر میاد MiniCPM5 بالاخره باعث شده این ایده واقعاً قابل استفاده بشه.
همین الان روی Hugging Face در دسترسه:
huggingface.co/spaces/victor/MiniCPM5-2B-WebGPU-Pi
@Linuxor
Post #5300
8.88K