Контекст решает. Часть 1: как устроено у меня

Один из самых частых вопросов, которые мне задают: с чего вообще заходить в AI. За последний год я провел оч много обучений для разных людей, в том числе, далеких от IT, и вижу, что затык у большинства один – инфы оч много, непонятно, за что браться.

Я выделил для себя четыре направления, прокачка которых дает максимум пользы от AI:

1. Настройка окружения – коннекторы к разным сервисам, работа голосом, персонализация и тп
2. Работа с контекстом – чтобы AI больше знал про тебя и твои задачи
3. Автоматизация рутины – использование скиллов и создание повторяющихся циклов вокруг них
4. Автономные штуки – от ботов и ассистентов до полноценных продуктов, навайбкоженных под свою задачу

Если бы меня попросили выбрать что-то одно, я бы выбрал работу с контекстом. Я уверен, что модели, продукты и подходы вокруг AI будут постоянно меняться, а контекст, который ты собрал и поддерживаешь в актуальном состоянии, нужен будет всегда – даже самый крутой AI-агент будущего будет работать не так круто без хорошего контекста.

Сегодня, как обещал в прошлом посте, расскажу про то, как я пришел к своему текущему сетапу.

Как и все, начинал просто с чата. Тут в лучшем случае можно надеяться, что чатджпт/клод сам запомнит какую-то информацию и в нужный момент ее подтянет. К слову, в последнее время они с этим справляются заметно лучше, чем раньше, но у вас тут минимальный контроль.

Следующий апгрейд у меня случился, когда я начал пользоваться встроенными проектами в чатджпт/клод. Я написал инструкции, закинул туда релевантный контекст в markdown-файлах и создавал чаты внутри этих проектов. Так я перестал объяснять каждый раз одно и то же и заметил ощутимую разницу при работе над задачами. Из минусов – файлы приходилось добавлять и обновлять руками, а это слишком запарно.

Потом клод код научился встраиваться в другие программы, в том числе в курсор, который у меня был установлен. Так агент дотянулся до локальных файлов: теперь он сам создавал и обновлял мой контекст, а мне оставалось только направлять. Раз все лежало локально, я мог очень гибко настраивать папки и то, что в них хранится. В сумме это дало агенту сильно больше контекста, а мне – заметно более качественный результат работы. Основной минус – все было локально, я не мог быстро добраться до всего этого с телефона.

Так я придумал добавить в эту цепочку гитхаб. По сути мои папки переехали в облако, плюс появилась возможность "сохраняться" – возвращаться к тому, что уже изменено или удалено (такие кейсы, кстати, нередко бывают). Благодаря этому я подцепил свой контекст куда угодно: и в клод, и в кодекс, и даже просто в телеграм-бота. Минус – надо следить за актуальностью файлов и вовремя синхронизировать все с облаком.

Если не вдаваться в подробности, как именно я заношу новый контекст и держу его свежим, то уже почти год я работаю примерно так и не представляю теперь как можно без этого. Правила работы с контекстом за это время сильно переделывал трижды, плюс регулярно создаю и обновляю разные инструменты и ритуалы вокруг. Настроить то же самое под себя с одного раза нереально, поэтому надо начать хоть с чего-то, а затем каждый день улучшать систему.

Несмотря на то, что мой подход вполне рабочий на моем масштабе (у меня сейчас почти 4000 файлов), я замечаю, что чем больше контекста, тем сложнее становится всем этим управлять. Я понимаю за счет чего можно улучшить мою систему и в следующем посте разберу альтернативный подход – векторную базу, развернутую на своем сервере, а также поразмышляю в чем плюсы и минусы каждого подхода.

Кстати, весь свой опыт сейчас упаковываю в формат, где можно будет настроить и адаптировать что-то подобное под себя, так что поделюсь в ближайшее время 🙌