TGViewer
Кибериммунная разработка Кибериммунная разработка @learning_cyberimmunity · 849 subscribers
Post #641 230
Продолжение цикла про агентную разработку конструктивно безопасных решений (начало ТУТ)

Не улучшайте промпт бесконечно.
Дайте агенту рамку


Если агент ошибается, не всегда нужен новый промпт. Часто не хватает рамки задачи.

Контекст тот же: городские очистные и аварийный сброс. Здесь лишняя правка может пахнуть не метафорически.


Перед запуском укажите: что нельзя менять, какие файлы разрешены, какой пример считать правильным, какие проверки обязательны, где нужен человек.

Так агент работает внутри процесса, а не строит процесс за команду.

Практический CTA: Рамку пишите не для «всего агента», а для выбранной опасной точки. Сначала подтвердите у человека, что аварийный сброс действительно важнее соседних кнопок. Потом задайте агенту границы работы.

Вспомогательный запрос: Для сценария «аварийный сброс» предложи рамку задачи: какие файлы можно менять, какие запрещены, какой существующий экран взять за образец, какие проверки обязательны, где решение принимает человек. Не предлагай менять датчики, обходы и соседние задвижки без отдельного разрешения инженера.

Решение: после кнопки «Аварийный сброс» агент два раза «улучшал» экран и каждый раз трогал лишнее: датчик уровня, аварийный обход и соседнюю задвижку. Это уже не косметика: один лишний обход — и утренний центр города встречает фонтан нечистот. На третий запуск рамка такая: менять только экран кнопки и тест отказа; датчики, обход и соседние задвижки не трогать; образец — существующая кнопка «Промывка фильтра»; проверка — человек видит в диффе одно условие tank_overflow == true и два состояния на мнемосхеме: без переполнения кнопка серая, при переполнении — доступна.
More from @learning_cyberimmunity
  1. Sep 24, 2026🔥29 лет мы формируем культуру кибербезопасности. Её часть — системная подготовка специали…
  2. Sep 20, 2026В 3️⃣серии микросериала «Многое в малом» с названием «Зомби 🤩, постапокалипсис и киберимм…
  3. Sep 16, 2026Сначала коротко о главном термине. Ноосфера — это, по Вернадскому, сфера разума, которая в…
  4. Sep 12, 2026Представьте операционную систему как космическую станцию 🛰: если один отсек поврежден, ос…
  5. Sep 8, 2026🛡Безопасность микроядра: где заканчивается трюизм и начинается инженерия Безопасность мик…
  6. Sep 4, 2026❓ Что общего между стратегией Юлия Цезаря и безопасной ОС? — отвечает Андрей Наенко, старш…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →