В браузере запустили полноценного агента для программирования на модели всего с 2 млрд параметров.

Pi полностью работает внутри браузера через WebGPU. В основе лежит MiniCPM5-2B, Transformers.js и четырёхбитные веса ONNX.

Все предыдущие попытки создать подобного агента провалились, но MiniCPM5 оказалась достаточно мощной, чтобы сделать его пригодным для реальной работы.

Модель загружается один раз и занимает около 1,84 ГБ. После этого агент может работать с вашими файлами прямо в браузере.

Попробовать уже можно на Hugging Face. 🤖