424-й выпуск make sense: об аналитическом подхалимстве ИИ, принятии решений и убедительной предвзятости

«Сказать руководителям „относитесь к советам критически" примерно так же полезно, как сказать людям „не поддавайтесь когнитивным искажениям"».

«Самый опасный не тот аналитик, который ничего не понимает, — его ошибки обычно заметны. Гораздо опаснее система, которая достаточно хорошо понимает задачу, данные и самого пользователя, чтобы построить интеллектуально сильный путь именно к тому выводу, который человек хотел получить».

Ведущие:
Юра Агеев, основатель ProductSense

О чем говорим:
00:00 — Введение
01:12 — Знакомьтесь, модель-подхалим
02:42 — Почему проверка не поймала проблему: ставка на краткосрочные пользовательские сигналы
03:21 — Продуктовый парадокс: пользователю нравится, когда его понимают и не спорят с ним
04:01 — Приятный ответ и полезный ответ — не одно и то же, когда ИИ работает как аналитик
04:56 — Эксперимент 2026: слияния больниц, 14 моделей, 2160 анализов
07:33 — «Аналитическое подхалимство, обусловленное целью»: сильные модели видят больше методологических развилок — и потому уязвимее
09:30 — Кейс B2B: как формулировка руководителя незаметно определяет вывод модели
11:04 — ЛЛМ удешевляют не только решение, но и его «интеллектуальную защиту»
13:56 — Какие формулировки провоцируют согласие модели: утверждение против открытого вопроса
16:09 — Контраргумент: ИИ прогнозирует успех Kickstarter-проектов лучше людей
17:45 — Два режима одной технологии: независимый анализ vs часть мотивированного рассуждения
18:01 — Strategy Science: ИИ не повысил точность стратегического прогноза, но добавил перегрузку
19:56 — Три работы ИИ в решении: исследовать, защищать, разрушать — и их опасное смешение в одном чате
22:05 — Как разделить роли: независимый анализ в отдельном контексте, без предпочтений руководителя
24:31 — Сильное основание допускает собственное опровержение
25:01 — Исследование Science: соглашательство при конфликтах вредит отношениям, но нравится больше
27:07 — Защита должна быть встроена в процесс, а не в совет «будь критичнее»
29:46 — Голосование нескольких моделей не гарантирует независимости
32:20 — Главный риск: ИИ делает уже принятое решение похожим на независимый анализ

Слушать:
— Telegram
— Mave
— Apple
— Яндекс
— YouTube