Сайт: https://nebius.com/
При регистрации даётся целый 1$. Не бесплатно конечно, но хоть что-то!😳
Proxy URL:
https://api.studio.nebius.com/v1/chat/completionsModel:
deepseek-ai/DeepSeek-V3-0324 ୨୧ deepseek-ai/DeepSeek-R1-0528 ୨୧ deepseek-ai/DeepSeek-R1-Distill-Llama-70B
API Key: генерируется здесьКонтекстные лимиты:
deepseek-ai/DeepSeek-V3-0324 – 128к токенов
deepseek-ai/DeepSeek-R1-0528 – 128к токенов
deepseek-ai/DeepSeek-R1-Distill-Llama-70B – 128к токенов
Что это за Distill-Llama-70B? Возможно, что вы уже замечали, что на некоторых сайтах есть модели с припсикой Distill. Они дешевле обычных моделей в несколько раз. Прикол в том, что такие модельки это дистиллированные версии основной модели DeepSeek R1.
Что такое дистилляция? Это техника обучения, где большая, мощная модель (в этом случае дипсик) передает свои знания меньшей, компактной модели (в этом случае ллама). И так получаются экспериментальные быстрые и легковесные версии, созданные путем "сжатия" знаний большой R1 в модели на основе популярных архитектур LLaMA или Qwen.
Можете попробовать, я лично пока не успела😒
Из-за работы не смогла толком потестить, кроме того, чтобы все работало, так что полагаюсь в этом деле на вас😃