openTPU: открытый ИИ-ускоритель на FPGA

openTPU — это проект ускорителя для ИИ, который можно изучить от и до: от дизайна «железа» на SystemVerilog до компилятора и ПО для PCIe-карт. Система позволяет запускать современные модели, такие как Qwen3, Qwen3.5 и LFM, прямо на FPGA-платах Kintex-7.

Весь проект собран в одном репозитории и включает:
• Аппаратный дизайн (RTL)
• Набор инструкций (ISA)
• Точный симулятор
• Компилятор ядер
• Хост-софт для управления картой

Проект наглядно показывает, как работает ИИ-ускоритель — от матричного умножения в Python до передачи данных по проводам. Разработчики реализовали поддержку моделей с квантованием, что значительно ускоряет генерацию токенов. Все исходники открыты, а для экспериментов с кодом достаточно Python и Verilator.

рекомендуем:
@TheVergeRussia