Промпт-инжиниринг: рабочая схема или карго-культ? 🤨

С одной стороны, инфоцыгане продают «секретные библиотеки промптов», с другой кричат, что всё это чушь, и возможности модели приколочены гвоздями намертво. Кто прав?

Истина в том, что промпт не добавляет модели новых знаний, которых не было в датасете. Хороший промпт может лишь повысить вероятность получения подходящих токенов (в нашем случае - кода). Но как именно?

Упрощённо, LLM — это гигантская статистическая машина. Она училась на всём интернете, где на один вылизанный коммит из ядра Linux приходятся тысячи от индусов-самоучек и заброшенных пет-проектов с GitHub.

В случае, когда мы даем слишком короткий промпт без важных деталей, модель отдаст нам "среднее по больнице". В её вероятностном облаке одинаково возможны как современные логичные паттерны, так и шизофринические костыли прошлой эпохи.

Системный промпт работает не как заклинание, а как смещение распределения вероятностей. Промптом в первую очередь мы хотим добиться:

- Сужения контекстного окна: Указывая Python 3.12+ и FastAPI, мы заставляем модель игнорировать пласты данных по старым версиям. Это не «забывание», а понижение весов (вероятности) для неактуальных токенов.

- Активации экспертных слоев: Если промпт требует соблюдения SOLID и Dry, модель с большей вероятностью будет выбирать токены, которые чаще встречаются в качественной технической литературе и документации, а не в случайном коммите с гитхаба.

- Отрицательных ограничений: Фраза «не используй глобальные переменные» — это прямой запрет на выбор определенных путей в дереве генерации.

Благодаря тому, что в том же Cursor уже прикручен системный промпт заточенный на разработку, генерация "из коробки" работает вполне приемлемо даже на базовых модельках. Добавим сверху полноценный контекст проекта и получим вполне сносный результат.

Итого: Промпт — это не способ сделать модель умнее, а способ заставить её заглянуть за пределы среднестатистической помойки для поиска лучших решений.

Так что завязывайте верить в магические заклинания. Промпт — это ТЗ. А если ТЗ через жопу, то и на выходе будет говно, даже если его сгенерировал тензорный суперкомпьютер за миллиард долларов.

🔛 @kisel_it

#ai@kisel_it #it@kisel_it