Узнаём, какие нейронки сможет запустить ваш ПК локально — нашёл мегаполезный сайт WhatModelsScaniRun

Забиваем свою конфигурацию — GPU, VRAM и RAM, а далее сайт выдаст полный отчёт по всем популярным локальным нейронкам — какую модель сможете запустить, какое квантование будет доступно, какая скорость и какое контекстное окно. Поддерживает NVIDIA, AMD, Intel и Apple. Удобная штука для разработки ИИ-агентов или проектов.

Сохраняем полезнятину.

Пет-проект