В этом гайде разберём модели для прокси, какие неплохие, какие идеальные, а какие не стоят внимания. Начнём же!
Из-за ограниченности бюджета, я использую Nvidia NIM. Там все модели открыты, и их можно посмотреть на Hugging Face, и при надобности использовать модели локально на пк.(Читайте гайд по подключению локалок тут)
И так, будет топ моделей от каждого производителя. Я в кратце расскажу про нейросети этой компании, плюсы и минусы, и топ моделей. Все нейронки из списка на 22 мая 2026 года есть в Nvidia NIM.(Гайд как использовать Nvidia как прокси читайте тут)
1) DeepSeek.
База рп. Самая топовая модель, которая подорвала рынок нейросетей. Самые ярые любители ролеплея с LLM молятся на неё. Дешёвая, шустрая, а главное открытая. Галлюцинаций мало, логика почти как у человека, что нужно для счастья?
DeepSeek 4 Flash - быстрая, юркая, и лёгкая. Самое то для рп.
DeepSeek 4 Pro - Тяжёлая модель. Медленней, но разницы в рп не замечено. Что нравится, то и используйте.
У обоих моделей честное контекстное окно в миллион токенов, что позволит проролить пол жизни, и ещё на детей останется.
2) Moonshotai.
Неодоценённые модели в рп. Крайне редко вижу в рекомендациях, что расстраивает, ведь на самом деле отличные нейронки. Умная, живая, и логика неплохая. Галлюцинации не наблюдал за ней. Единственный минус: Занята почти всегда. Спасибо, что открытая.
Kimi K2.6 - единственная модель, которая осталась на Nvidia. Мультимодальная, то есть понимает и изображения. Качество рп на уровне DeepSeek, а контекстное окно в 256к токенов позволит вам воссоздать жизнь с вашим любимым персонажем, ну до развода точно.
3) Google.
Нежданно не гадано, но факт: Нейросети от гугл в рп отличные. Что 2.5, что новые 3.1 и 3.5. Но это закрытая серия Gemini. Ну и ещё минус: любимые, и не заменимые фильтры. Если вы любитель поломать кровать с ботом, то гугл мимо. Есть и открытые модели. Их не так много, но лучше чем ничего.
Gemma 4 31b - открытая, мыслительная, мультимодальная модель. Особо нечего сказать, кроме фильтра, и контекста в честные 256к токенов.
Gemma 3 e4b - общая мультимодальная модель. Понимает и видео, и фото, и аудио. Однако контекстное окно в 32к токенов и вместе с этим фильтр не позволит вам в эту память уместить даже прелюдия.
4) Qwen.
Китайские собратья DeepSeek тоже работают. В отличие от гугл, у них нет фильтров, а модели из серии Qwen 3.5 в тестах показывают неплохую имитацию эмоций, но иногда может переигрывать. Ну и частая проблема этих моделей: Китайские иероглифы.
Qwen3 coder 480b a35b - не смотря на название, она лучше подходит для рп, а не кода. Неплохо соблюдает роль и настройки. Да, иногда может переигрывать, особенно с эмоциями, но всё равно отличная модель. 256к токенов для создания семьи будет с запасом.
Qwen3.5 397b a17b - как я и говорил, эта серия отличается неплохой имитацией эмоций. 256к царских токенов хватит для всех ваших влажных и сухих фантазий.
5) Llama.
К сожалению, из-за правил, название организации написать не могу, поэтому сразу перейдём к модели:
Llama4 Maverick - мультимодальная модель. Понимает и русский, что гуд, но проблема: пока ты ей прямо не скажешь, она будет писать на английском. Если остальным нейронкам достаточно в системных промптах указать приоритетный язык, этой нужно сказать в сообщении. Так же не очень хорошо пишет на русском. Как заявлено на HF, контекстное окно 1 миллион токенов, а правда ли не знаю, особо не тестировал.
6) Mistral.
Опенсорс жители. Встретить можно под разными именами: Devstral, Ministral, Magistral... Будет ли Nanostral? Нет фильтров, а самих моделей очень много, и это проблема. Их крайне много, и у каждой свои нюансы... Поэтому назову те, на которые стоит обратить внимание: Large 3, Medium 3.5, Small 4. У всех 256к токенов контекста, что будет за глаза.
Много рассказать не могу, мало символов даёт тг. Гайд по настройкам будет позже, поэтому наберитесь терпения... А пока, до встречи.
#Гайд@janitorAiCF ⋮ @janitorAiCF ෆ
take bot→@SuggestionJAiCfBot