AI-чаты плохо работают с контекстом

Пару недель назад в ChatGPT добавили довольно полезную фичу: возможность создать временный чат без учёта персонализации. Теперь это моя любимая функция в ChatGPT.

Принято считать, что нам нужно давать моделям как можно больше контекста: чем больше AI знает про нас, тем точнее и эффективнее ответы. Поэтому пользователям предлагают включать память, сохранять историю разговоров, подключать документы, почту, календарь и другие источники данных. Понятно, зачем это нужно Open AI - через одну кнопку пользователи начинают автоматически сегментироваться в режиме реального времени. Таргетологи и не мечтали о таком.

Для пользователя, на первый взгляд, логика тоже простая. Если системе известны предпочтения пользователя, проекты, предыдущие решения и рабочий контекст, пользователю не приходится каждый раз объяснять всё заново. Контекст в таком случае действительно экономит время.

Но здесь происходит довольно резкий переход от “экономии времени” к “улучшению качества решений и ответов” - и это то, что нужно поставить под вопрос.

Недавно я разбирался в новом музыкальном синтезаторе и просил объяснить инструкции у ChatGPT. В ответ я получил кучу рекомендаций, какую музыку я могу с ним писать, какие идеи креативного использования могут рождаться, как этот синтезатор встроить в остальной сетап и играть с остальными девайсами.

Со стороны эти ответы казались даже полезными - ну, правда, интересные комбинации, лайфхаки. Проблема только в том, что я не просил этих советов. Процесс музицирования для меня - достаточно интимный по своей природе и никакие языковые модели я к нему стараюсь не подпускать, а LLM использую только в качестве технической поддержки по девайсам. Но, стоило мне один раз спросить “как сделать эмбиентные текстуры на сэмплере”, так он почему-то решил, что мне это важно и начал предлагать комбинации эмбиент подходов в каждом ответе.

С книгами и философией ещё большая беда - один раз интересуюсь биографией автора и после этого в каждом чате получаю гипотезы, найденные скрытые смыслы и связи между идеями разных мыслителей.

Помню, что на старте взаимодействия с AI я оценивал это даже как классное преимущество. А потом это всё начало превращаться во что-то навязчивое и навязанное.

Поэтому за последнее время я отключил память, продолжаю удалять диалоги, вести разные темы в разных папках и всё чаще использую временные “чистые” чаты. Кажется, пока я могу сам решить, какой контекст давать для ответов на мои вопросы. А если вдруг захочу дать больше - я всегда смогу догрузить нужные заметки из базы знаний. Во временный чат, конечно.