Начните брифовать ИИ: почему контекст важнее промпта

В нашей лаборатории в какой-то момент мы переключились с объяснения prompt на context engineering.

Раньше, чтобы получить от нейросети хороший результат, нужно было писать детальные инструкции, назначать роли, указывать формат. Это все еще работает, но теряет актуальность.

Почему? Reasoning-модели прекрасно справляются с этим сами.

Новые ИИ не просто следуют инструкциям, а осмысляют ваш запрос. Когда модель размышляет она генерит себе контекст, чтобы лучше понять задачу и может догадаться о важных не упомянутых деталях. Если вы скажите, что готовите презентацию для совета директоров, модель сама выберет критерии, которые интересны топам.

На первый план выходит контекст-инжиниринг.

Промпт — это лишь часть контекста. Полный контекст — вообще всё, что происходит в вашем диалоге с моделью:

• Ваши предыдущие сообщения и ответы модели.
• Системный промпт («вшитые» директивы).
• Результаты работы инструментов, напр. поиск в интернете.
• Загруженные файлы.
• Reasoning, который модель генерирует для себя.

Вся эта информиация влияет на ответ.

Подставьте себя на место модели, когда вас брифуют на задачу. Вы умный специалист — вы хотите получить нужный контекст, а как делать вы придумаете сами. Если от вас утаить важные детали и дать жесткие инструкции, вы не сможете сделать задачу хорошо.

Есть 5 практик управления контекстом:

• Писать (Write): Предоставление знаний в текстовом виде.
• Курировать (Curate): Добавлять только нужные данные, обогащая контекст. Убирать ненужные.
• Конфигурировать (Configure): Включать и выключать инструменты, например, доступ к интернету.
• Сжимать (Compress): Суммировать длинные диалоги, чтобы не потерять его из-за ограниченного «окна контекста».
• Фильтровать (Filter): Редактировать диалог, чтобы отсечь неудачную ветку диалога и направить ИИ в нужное русло.

Что еще важно:

Контекст может «отравиться». Если модель ушла не туда из-за ненужных данных, она будет выдавать плохие результаты. Нужно «отрезать» бесполезную часть, а ценную информацию перенести в новый чат.

Задумайтесь, как вы управляете контекстом в проектах. Многие встречи жизненно необходимо записывать, чтобы превращать их в документы. У меня по важным проектам есть «файлы контекста», где описаны все важное.

Сервисы еще не перестроились и приходится танцевать с бубном. Сегодня я удивился, что Trello не позволяет одной кнопкой скопировать все данные тикетов из колонки. Контекст принадлежит пользователю — многие этого еще не поняли.

Контекст инжиниринг с нами надолго. Разрыв между нашими намерениями и машинным пониманием будет сокращаться. Технологии будут стремиться сделать этот процесс менее трудоёмким, а так же более нюансированным — добавлять в него социальные сигналы, эмоции, данные с датчиков здоровья и прочее.

Context is a king.