🖱Где найти это меню?
Около таблички с using proxy(использование прокси) есть три горизонтальных палочки. Тык на них!
Данная вкладка очень полезна и каждому, кто использует янитор стоит на нее обратить внимание. Шут заметил, что у некоторых появляются вопросы что такое температура и решил, что стоит разобрать настройки немного детальнее.
•─────⋅ ༺ ঌ ༻ ⋅─────•
Temperature — температура. Варьируется от 0 до 2.
Температура контролирует логику и фантазию! Чем ближе к нулю тем более предсказуемые и логичные ответы будут, чем ближе к 2 тем более креативными они станут.
Однако, температура выше 1.05 не рекомендуется(именно в яниторе), так как дипсик может начать говорить иероглифами!
Недавно был небольшой опрос по тому, какие температуры люди предпочитают, и прежде, чем мы перейдем к небольшой статистике… Температуру НАДО менять переодически, чтобы добиться хороших результатов(например если вы застряли на одном моменте или просто бот выдает что-то странное). Однако, у каждого человека свои предпочтения и идеального выхода не существует. Эксперименты – ключ к успеху!
Попробуйте сначала температуру 0.7-0.8, по ситуации уменьшите или увеличьте! Многие рекомендуют использовать дипсик именно на этом радиусе.
Низкая температура может давать сухие ответы, высокая – сильно нарушать логику. Так же очень много зависит от провайдера, разные провайдеры = разное качество ответов. И никакие настройки не спасут от плохого провайдера.
Вот варианты температур и их промежутки от наших любимых комментаторов:
0.9-0.95 ┃ 0.2-0.5 ┃ 1-1.1
0.7 ┃ 1.2 ┃ 0.35
•─────⋅ ༺ ঌ ༻ ⋅─────•
Max tokens — Максимальные токены. От 0 до 1к. 0 значит без лимита. Однако провайдеры все равно ставят ограничения на длину ответа бота за 1 раз. Например в openrouter у chutes у модели DeepSeek V3 0324 (free) лимит генерации ответа 164к токенов, а у atlas – всего 16к. Не то, чтобы это критично, но знать стоит.
Данная настройка отвечает за длину ответа бота. Она работает по принципу обрезания ответа, но не гарантирует, что бот использует все доступные токены для генерации. Шут рекомендует поставить на 0 или 1к и не мучаться.
В гайдах от Molek есть следующие советы:
Динамичные диалоги или бытовое взаимодействие: 300–500 токенов;
Детализированное повествование, эмоциональные сцены: 600–900 токенов;
Исследование или ответы с открытым концом: до 1000 токенов;
Без ограничений(на 0): используйте с осторожностью для длинных форм или резюме, но ожидайте большей вариативности
•─────⋅ ༺ ঌ ༻ ⋅─────•