Вы знаете, что у языковых моделей есть стандартные ручки настройки? Влево – получаешь скучного робота, вправо – поэтический поток сознания. Эти тумблеры помогают сделать текст более точным, творческим или сжатым. 🎚🎚🎚
1️⃣ Temperature – определяет степень вариативности и креативности ответа. 0 → минимум фантазии, 2 → высокая креативность.🔥
2️⃣ Top-p – ограничивает количество вариантов слов, из которых выбирает модель. 0.3 → текст более предсказуемый, 1.0 → весь словарный запас 🎯
👆 Обычно настраивают либо temperature, либо top-p, а не оба параметра одновременно.
3️⃣ Max tokens – максимальная длина ответа. 50 → коротко и точно, 500+ → развернутый текст 📏
4️⃣ Stop words – задает слова или символы, на которых модель должна остановиться ⛔️
5️⃣ Repetition penalty – снижает вероятность повторения одних и тех же слов и фраз (тавтологию). Оптимальный диапазон 1.1 – 1.5. 🔄
Включение в промпт или API запросы этих параметров позволяет сделать нейросеть более предсказуемой и адаптировать её под конкретные задачи.
И помни:
Чёрствого корпоративного юриста от романтичного мечтателя отделяет щелчок тумблера 🎛
Написано человеком на канале ПРОМПТ-ИНЖЕНЕР 🧠