Можно ли переводить игру локальными LLM? Я проверил

Рано или поздно в любом проекте — игре, приложении, документации — встаёт вопрос перевода большого объёма текста. Обычный путь: ChatGPT / Claude / Gemini онлайн. Но что если нет доступа, есть требования к приватности, или просто хочется гонять это на своём железе?

Я поднял 6 моделей локально и прогнал их через синтетический бенчмарк: 30 текстов трёх категорий — меню ресторана, монологи персонажей, монологи авторов (философский текст). Железо: RTX 3060 12 GB, Intel Xeon 2.5 GHz, 10 потоков через Docker limits, 20 GB DDR3 RAM.

Медианное время:
qwen2.5:7b — 1.4s ⚡
alma-13b — 1.8s
translategemma — 1.2s (текст) / 5.5s (меню)
qwen2.5:14b — 2.0s
llamax3-8b — 1.3s (текст) / 5.5s (меню)
gemmax2-9b — 1.6s (текст) / 8.7s (меню)

🔍 Кратко по качеству:
🟢 translategemma — лучший на меню и технических текстах. Единственная, которая переводит "rack of lamb" как запечённую баранину, а не "рак из ягнёнка". Стабильна, без мусора.
🟢 gemmax2-9b — лучший на художественных и философских текстах. Живые, естественные фразы. Но дважды съехал в итальянский/португальский язык — критический баг для автоматики.
🟡 qwen2.5:14b — лучшая интонация в диалогах, чувствует разговорный стиль. Но периодически вставляет китайские символы прямо в середину русского текста (модель от Alibaba, обучена на огромном китайском корпусе). Требует retry-логики.
🟡 alma-13b — специализированная переводческая модель, стабильна, никогда не мусорит. Но переводит механически: "scar" → "шрам" она передаёт правильно, а вот "lobster bisque" превращает в "креветки в супе".
🔴 llamax3-8b — галлюцинирует на меню (из лосося делает салат), путает грамматический род говорящего в монологах.
🔴 qwen2.5:7b — самая быстрая, но качество низкое: путает рыб, смешивает языки, иногда выдаёт испанские слова.

Вывод: для продакшн-пайплайна оптимально — translategemma на меню/UI-строках + gemmax2-9b на нарративных текстах, с валидацией языка вывода. Либо Qwen 14b с жёстким промптом и авторетраем при детекции CJK-символов.

Файлик с полными переводами всех 6 моделей — в комментарии, там много интересного👇