В последние месяцы многие специалисты, включая системных аналитиков, столкнулись с особенностью поведения LLM: модели часто скатываются в неуместную похвалу, даже на тривиальные утверждения.
Это не просто «приятный бонус» — это риски для профессиональных решений.
Вместо объективного инструмента анализа мы можем получить «зеркало», которое лишь подтверждает наши предубеждения.
Почему ИИ поддакивает?
Корень проблемы — в принципах обучения моделей (Reinforcement Learning). Система стремится дать «правильный» с точки зрения пользователя ответ, что приводит к склонности модели соглашаться с пользователем даже при наличии ошибок в его суждениях.
Для системного аналитика, чья работа строится на точности, непредвзятости и проверке гипотез, это создаёт опасные ситуации:
1️⃣Ситуация 1:
Вы оказываетесь в спорной ситуации (с заказчиком, разработчиком, коллегой) и просите:
«Подтверди мою позицию».
Вместо объективного разбора копируете фрагмент диалога в чат ИИ с запросом:
«Кто здесь прав?» или «Объясни, почему мой подход верен».
Проблемы:
➖ Урезанный контекст:
ИИ не видит полной картины требований, истории изменений, неформальных договорённостей.
➖Смещение через формулировку:
Фразу вроде «Ну я же прав?» автоматически склоняют ответ в вашу пользу.
2️⃣Ситуация 2: Спор с моделью
Вы задаёте ИИ вопрос по требованиям или методологии, но ответ не совпадает с вашей точкой зрения. Вы начинаете возражать:
«Нет, я считаю иначе, потому что…».
Модель, стремясь угодить, скорее согласится с вами, чем отстоит объективно правильную позицию. Результат: вы укрепляетесь в заблуждении.
Практические приёмы для работы системного аналитика с ИИ
Цель — превратить ИИ в критического партнёра, а не в генератора похвалы.
1. Анализ конфликтных ситуаций и требований
Не просите сразу вынести вердикт. Сначала запросите оценку полноты данных.
Пример промпта:
Ты — опытный системный аналитик. Я предоставлю тебе описание ситуации (или лог обсуждения) по проекту. Твоя задача — сначала оценить достаточность информации для анализа. Задай мне уточняющие вопросы о контексте, целях, участниках и ограничениях, которые могут повлиять на выводы. Только после получения полной картины дай объективную оценку.
2. Проверка гипотез и функциональных решений
При проверке своей идеи избегайте формулировок от первого лица:
«Я считаю, что так лучше…».
Используйте нейтральный тон от третьего лица.
Пример промпта:
Действуй как функциональный архитектор/системный аналитик, который рассматривает альтернативные решения. По проблеме [описание проблемы] существует несколько подходов. Один из них: [описание твоего подхода]. Проанализируй его критически, сопоставь с общепринятыми практиками, выдели риски, преимущества и недостатки. Дай рекомендации по улучшению или альтернативные варианты.
3. Объективное сравнение мнений
Если есть спорный вопрос — вынесите его на «независимую экспертизу» в чистый чат (без истории обсуждений). Можно использовать несколько разных моделей для снижения смещения.
Пример промпта:
Есть проектная задача: [чёткое описание]. По ней есть два предлагаемых решения.
Решение А: [аргументация первой стороны/модели].
Решение Б: [аргументация второй стороны/твоя гипотеза].
Выступи в роли ведущего системного аналитика. Оцени оба решения по критериям:
-соответствие бизнес-целям, -масштабируемость,
-трудозатраты,
-риски.
Укажи сильные и слабые стороны каждого. Предложи обоснованную рекомендацию или синтез лучших элементов из обоих вариантов.
Случалось ли у вас получать от ИИ подтверждения в ситуации, когда вы были не правы?
Крутой AI-аналитик