Возьмем 6 из 50+ когнитивных ошибок на примере задачи описания AI IS и трансформации в TO BE бизнес-процессов компании
1️⃣Ошибка планирования – переоценка сложных задач и недооценка простых. ИИ отдал текст регламента на 37 страниц за 5 мин? Внедрить этот регламент займет не 1 встречу.
Шторминг (этап “притирания” команды друг к другу) вводил регламент в жизнь за те 2-3 недели, пока он рождался в муках. Попытка исключить этот этап, ускорив процесс, приводит к иллюзии результата.
2️⃣Расщепление – попытка выполнить N дел, каждое из которых требует сознательного внимания. 57 вкладок в Chrome были с нами с 2008 по 2023. Теперь все хуже: 6-7 агентов, генерирующих тонны текста / кода.
3️⃣Амплификация – вложение в задачу усилий больших, чем требуется. Создаются лендинги с Claude / Lovable на 15-20 экранов на каждую проблему, но это не делает суть проблемы понятнее. Нехватка инвестиций человеческого времени только увеличила его стоимость.
4️⃣Иллюзия глубины понимания – ИИ усиливает её, подменяя “я осведомлен” об этом процессе на “я быстро изучил с ИИ и понимаю, как это работает”.
Средний бизнес – это 15-20 доменов и минимум 150+ процессов 2-го уровня, где даже находясь внутри системы невозможно знать каждый из процессов, особенно из смежных доменов.
5️⃣Конфирмация – интерпретация информации под свою точку зрения. Например, при формализации бизнес-процессов начать описывать их самостоятельно по своим же зоны с LLM – означает обрабатывать контекст через свое зеркало (свои промты, свои .md, свои установки, свой метод декомпозиции задачи), как владельца процесса.
6️⃣Чрезмерная редукция – многоэтапное упрощение сложного к простому, иногда с многократной суммаризацией / выжимкой информации до “костяка”, приводящее к ошибкам изложения.
Неужели люди, общаясь с LLM, чаще допускают эти ошибки?
Чаще – да, но не как % от мышления (мозг слабо изменился и за последние 2000 лет, а тем более в последние 5 лет существования LLM), а в связи с ростом объемов обрабатываемой информации.
В диалоге 2 профессионалов на ошибки есть кому указать.
В диалоге с ИИ "гигиеническим минимумом" станет сделать частью своего пайплайна “QA на когнитивные ошибки”.
Давайте не забывать, что:
свою голову на плечи другому – не прикрепишь, поэтому пока решения принимают люди, передача контекста – самое трудное, что остается в эпоху сгенерированных данных.
А какие вы когнитивные ошибки замечали за собой?