Модель в курсе, что она не в курсе? Как психология 70-х прокачивает твой prompt engineering

На VC.ru разобрали, как Тарик Шихипар, инженер из Anthropic, работает с Claude: перед крупной задачей он раскидывает знание по четырём кучам — то, что мы знаем; то, о чём честно в курсе, что не знаем; то, что вбито настолько крепко, что вслух уже не проговариваем; и то, о чём вообще ни сном ни духом. Последняя категория — самая паскудная: попробуй задай нормальный вопрос про штуку, о которой ты даже не подозреваешь, что про неё стоило спросить.

У автора случилось дежавю — схема явно откуда-то из старой психологии. Копнул глубже и улетел в кроличью нору: из prompt engineering в работы 70-х про метакогницию, оттуда в исследования о том, способны ли языковые модели оценивать собственные знания, а затем обратно в Anthropic — уже к introspection и mechanistic interpretability.

Совет «сначала разберись, чего ты не знаешь» оказался только верхушкой: в работах Anthropic последних лет сквозит одна и та же тема — как нащупать границы знания системы и разглядеть то, чего мы о ней сами не знаем. Но стартовала вся история не с Claude.

Просветиться

👉 Telegram | Max