добрый вечер кф, сегодня расскажу, почему длинные промты херь, и если он у вас длинный, то как правильно его кидать.
большую часть разбираемых тем, я уже объясняла в комментариях под тейками, голосовыми, но сейчас буду охватывать это более обширно и подробно, с аргументами.
первая проблема: «потери середины» (lost in the middle)
у всех больших языковых моделей есть доказанная исследователями особенность: они отлично помнят то, что написано в самом начале промпта, и то, что написано в самом конце. но если ты вываливаешь на модель кучу текста, информация из середины часто замыливается, и нейросеть её игнорирует.
решение: дробление текста решает эту проблему. токены тратятся, но и это можно фиксануть: «я сейчас загружу в тебя контекст для задачи несколькими сообщениями. пока я просто кидаю информацию, ничего не анализируй и не пиши в ответ, кроме фразы "Контекст принял, жду продолжения". вот часть 1: [ваш текст]» чтобы проверить, можете попросить короткую выжимку.
аргумент: фокус внимания (attention mechanism)
доказательство: когда ты кидаешь информацию частями, ты заставляешь модель концентрироваться на конкретном куске. она обрабатывает его изолированно, выдает качественный промежуточный результат, а потом ты наслаиваешь следующий контекст. так внимание модели не рассеивается.
вторая проблема: экономия контекстного окна
хотя у DeepSeek (особенно у версии V3 или R1) гигантское контекстное окно, если скормить ему всё сразу, он может выдать слишком обобщенный или скомканный ответ, пытаясь учесть 50 требований одновременно.
решение: пошаговый диалог позволяет управлять логикой рассуждения модели.
вы сами решаете, как и что вам делать. я лишь наставляю.
следующий тейк, как и обещала, про литературные приемы.
есть вопросы - задавайте.
#дейлисоветотвеилчен
( ◠‿◠ ) ~ #тейк |\ #DEEPSEEKcf
> > @DEEPSEEKconfa_bot
Post #11685
166
- ❤🔥 8
- 🔥 3