Произошел маленький фикс в скрипт. Обновленный файл будет в комментариях под постом, после серии тестов - стабильно вырезает все и не отправляет содержимое блока с кодом вместе с промптом.
А это значит:
🥉 - Исходящих токенов в моменте будет меньше. В долгосрочной перспективе это не убьет ваше контекстное окно, когда из 100к контекста будет 50к токенов кода в лучшем случае. ИИ точно не видит было что-то раньше в этом чате или нет помимо вашего сюжета.
🥈 - Модель не переобучается, если кто-то замечал, в длинных чатах шаблоны становятся однотипными и повторяют друг друга, постепенно теряя в визуале и становясь копипастом. Это фиксит данную проблему.
🥇- И самое важное, модель при постоянном прогоне кода видит что в чате 30-40% текста и 60% кода, затем чат глупеет, появляется эхо.
Напоминаю, данный Регекс подходит исключительно для работы с расширением.
Post #111
180
itsfantomas lab🎪 На всякий случай, если используете расширение, временное решение - Regex Script, удаляющий все содержимое фрейма с доктайпом. То есть если вам образно пришел ответ на 6к токенов из которых 3к это код - все будет чисто удалено при отправке. Проверьте по скрину…
- 🔥 5
- ❤🔥 2
- ❤ 2