⚪️ Промптинг поколения 5.6


Все уже пощупали 5.6-трио. Что можно сказать, помимо расхода токенов Sol? Промптинг определенно стоит тюнинговать под это поколение

Мои наблюдения:
• модель довольно глубоко может порассуждать, довольно глубокие моменты выкапывает
• модель следует в русле того, что ты ей сказал
• не всегда следует говорить что модели делать, чаще лучше спросить чего она предлагает исходя из набора моих пожеланий;
• ограничения и ясная конечная цель и раньше были важны
• агентность модели вполне высокая, учить переставлять ноги не обязательно

Ну и можно почитать что сам вендор рекомендует как гайд для промптинга:

• советуют устанавливать рамки, sandbox в котором рабоатет модель
• ясно обозначить конечную цель
• любые неопределенности или двусмысленности сильно повышают расход токенов на блуждание модели

❓ Успели отметить что то полезное и примечательное про промптинг новых моделей?

——

Upd 1️⃣ : моментик - все отследили что контекст в кодексе теперь на 5.6 поколении в 353к показывается, а на 5.5 было 253к? То есть компакт на 100к токенов позже и каждый запрос/тулюз - это +100к токенов кеша дополнительно жгёт. Это тоже фактор повышенного расхода в агенте.

——

Upd 2️⃣ : дока от вендора, кому надо - но мне не показалась сильно полезной, про новые модели специфика неявная: https://learn.chatgpt.com/docs/prompting

про 5.6 немного тут: https://developers.openai.com/api/docs/guides/latest-model#prompting-best-practices


@deksden_notes