whatcanirun

Этот инструмент показывает, какие локальные языковые модели реально запустятся на твоём железе.

Он использует реальные бенчмарки из тысяч прогонов и показывает: токены/сек, потребление памяти и какие модели нормально работают на конкретном чипе.

Полностью бесплатный.

📁 Language: #TypeScript 99%

⭐️ Stars: 188

➡️ Cсылка на GitHub

📱 @git_developer