Щитпост от шугара. Решил я протестировать пять разных промптов которые делал для расширения написанные под фентези/средневековье. Яваскрипт-френдли промпты часто имеют свои подводные камни, образно есть на 2100, 1800, 1300, 1000 и 800 токенов, самые стабильные результаты, конечно же, показывают большие промпты - в них расписано что и как делать с балансом на технический каркас, потому что даже самые умные модели ленивы и в маловесных промптах чаще ломается конечный результат из-за недостаточного количества расписанных очевидных вещей. Это происходит из-за:
1) современные модели обучены на тоннах кода и когда видят короткие указания "делай так: высота (400пх)" они игнорируют это, потому что правильнее будет написать высота: 100% (и это создаст бесконечную страницу) - им нужно объяснить почему именно нельзя использовать технически верную реализацию и "профессиональный" подход.
2) модели ленивы как мы на выходных, если они могут схалтурить - они это сделают, даже полностью проигнорировав весь тогл для хтмл/ксс (потому лучше инжектить их на глубину 2, к примеру)

К чему я это вообще? Я обязательно найду какой-то компромисс чтобы оно работало как часы, но у меня есть вопрос к заинтересованным.

Как вы считаете, лучше маленький промпт (пусть будет 800-900 токенов) с периодически нестабильными результатами генерации или полностью стабильное решение (1900-2200 токенов) в тогле? Давайте еще уточним что в обоих случаях:
1) будет регекс который стабильно вырезает весь код из промпта и при отправке сообщений ИИ не увидит код который был в чате до этого момента.
2) генерация будет в каждом сообщении, то есть постоянно включенный тогл оправдывает свое наличие.