Сегодня на повестке дня еще одна альтернатива Дипсику! Это совсем другие модели! 🙏

Провайдер: https://jina.ai/

Важное уточнение: ни одна из моделей не предназначена для ролевой. Одна из моделей тут вообще должна рейтинг давать, а не посты. В комментариях будут модели у которых контекст меньше 32к!

➕Плюсы провайдера:
- Модели работают быстро
- Выдают приличные ответы(но тут все зависит от того, как прописали бота)
- не нужно регестрироваться чтобы получить api-ключ

➖Минусы:
- custom promt не оказывает НИКАКОГО влияния
Решение: пишите промт в начале своего сообщения.
- У многих моделей маленький контекст (но модель на 512 токенов что-то не психовала в контексте на +8к токенов... Сложно с лимитами ахха. В общем тестируйте, всю информацию обновлю по мере поступления информации)

+- лимит на 10 миллионов токенов – тратятся не сильно быстро, поэтому сложно сказать плюс это или минус. Особенно для бесплатного ключа)

Все модели с размышлениями(<think>). Это никак не скрыть на яниторе! А еще на яниторе в любом случае контекст больше 128к токенов поставить нельзя.

Как подключить на янитор?
1) заходим на сайт https://jina.ai/api-dashboard/reader
2) create api key
3) подождите чуток и скопируйте появившийся ключик.

Готово! переходим в янитор.

Api/proxy url: https://deepsearch.jina.ai/v1/chat/completions

🟣 Лист моделей:

ReaderLM-v2 | контекст: 512к

Устаревшие модели(но они работают, поэтому тестите):

reader-lm-1.5b | контекст: 256к
reader-lm-0.5b | контекст: 256к

❗️Шут не тестил на наличие цензуры/каноничности/чего-либо. Он просто проверял работоспособность! Ваши отзывы помогут другим людям выбрать подходящую модель и стоит ли этот способ свеч.

Мой вывод – попробовать стоит, модельки хоть и предназначены для совсем других целей, показывают себя неплохо. В коммы скину промт, который добавила в свое соо на время теста.

Неприятности в ходе теста:
– некоторые модели пишут за юзера.
Решение: промт в начале сообщения, где это регулируется.

Пост будет обновляться с отзывами! Приятного ролплея, соискатели 🤩

У Шута после тестов всех моделей осталось 9,763,463 токенов из 10 миллионов. Но не думаю, что это показатель)

Примеры от Шута
Промт
Модели с контекстом < 128к

👾 Отзывы:
Отзыв 1
Отзыв 2
Отзыв на reader-lm-1.5b

Полный список моделей и их описаний