Причина в токенах. Модели считают текст именно в них, и на разных языках соотношение разное. Русский "весит" больше: один и тот же текст на английском может занимать в 2–3 раза меньше токенов
Чем меньше токенов -тем лучше. У ботов ограничена память (даже с прокси), поэтому экономия важна
Обычно ориентируются на 1.5–2k постоянных токенов. В персоналити оставляйте только самое важное, остальное переносите в лорбук.
Речь именно о постоянных токенах. Временные не так критичны: общий объём может быть хоть 10k, но постоянные лучше держать в пределах 1.5–2k.
И то что вы напишите бота на английский не значит,что вы не можете общаться с ним на русском. Нет,на каком языке написан бот не влияет на то на каком языке он общается. Вы спокойно можете в промте прописать чтобы бот шптикал на русском. Или через ООС
#гайд@janitorAiCF ⋮ @janitorAiCF ෆ
take bot→@SuggestionJAiCfBot