🤩Новый прокси: inference.

Важно! Тут нет модели дипсика. Провайдер предоставляет модели от гугла, немного llama и мистрал.

Сайт: https://inference.net

Лимиты: за регистрацию дают 1 доллар, его тратьте как хотите, прикинуться по ценам можно на вкладке моделей.

Инструкция по созданию апи ключа:
1. Клик клац по Start for free
2. Выбираем удобный способ регистрации: через Google или Github
3. Оказываемся в менюшке. Клик клац по API keys или ссылка
4. Копируем наш ключик!

Переходим в janitor.

Proxy URL: https://api.inference.net/v1/chat/completions
Model: google/gemma-3-27b-instruct/bf-16 ୨୧ qwen/qwen2.5-7b-instruct/bf-16

Контекстный лимит у обоих моделей 125к токенов. После теста этой геммы 3 у Шута на балансе осталось 0.999 долларов. (не шутка)

Список всех моделей, их цен, лимитов и так далее

Удачи в тестах, надеюсь на ваши отзывы!! А пример генерации от Шута будет в комментариях, как обычно говорю, что это не показатель качества.

Список моделей для копи-паста + контекстный лимит

google/gemma-3-27b-instruct/bf-16 – 125к
qwen/qwen2.5-7b-instruct/bf-16 – 125к
meta-llama/llama-3.2-11b-instruct/fp-16 – 16к
meta-llama/llama-3.1-8b-instruct/fp-8 – 16к
meta-llama/llama-3.2-1b-instruct/fp-16 – 16к
meta-llama/llama-3.2-3b-instruct/fp-16 – 16к
mistralai/mistral-nemo-12b-instruct/fp-8 – 16к
osmosis-ai/osmosis-structure-0.6b/fp-32 – 4к
qwen/qwen3-embedding-4b – 32к

✧°˖─────── ・・・・・ . ☽ ‧₊˚ ···╮
Полезные посты:
.𖥔 ݁ ˖𓂃. ݁˖ Навигация
Частые ошибки и их решения!
Основы janitorai – generation settings
У меня ошибка!
Помогите с промтом!
Хочу поделиться своим ботом!

❤ Анонимка: @Iigrrd_anon_bot

╰┈ ‧₊˚ ☾. ⋅ ・・・・───────°˖✧