Этика правды и ИИ

«Правду говорить легко и приятно»

Правда — архитектурный принцип успешных сообществ. Средневековый рынок наказывал за неточность измерений жестокими санкциями: за недовес хлеба — позорный столб (отсюда «пекарская дюжина» — тринадцатый хлеб как страховка), лондонское клеймо Goldsmiths' Hall с 1300 года (само слово hallmark) — старейший институт защиты потребителя. Там, где измерение дорого, процветает обман, а потом вырастают институты, делающие правду дешёвой. Венчур живёт по той же логике: провал прощается, приукрашивание — уголовно наказуемо (Элизабет Холмс из Theranos осуждена за обман инвесторов). Там, где ложь неотличима от правды, рынок схлопывается для всех. Ценностная продажа — тот же принцип в наше время: сообщать клиенту правду даже против своего интереса («вам не нужен наш продукт»); Progressive десятилетиями показывает клиентам более дешевые тарифы конкурентов, обменивая разовые сделки на долгосрочное доверие.

Что есть истина?

Парадокс: правду разрушает не ложь, а неведение. Этика правды предполагает, что правда известна. Чаще всего — нет. В корпоративной вертикали информация фильтруется на каждом этаже: люди уклоняются от передачи плохих новостей (MUM-эффект), организация коллективно решает, что говорить наверх небезопасно (Morrison & Milliken). Собственник живёт в одной реальности, мидл-менеджмент в другой, линейные сотрудники в третьей. Кейс Nokia: топы боялись Apple, мидл-менеджеры боялись топов и слали наверх приукрашенные отчёты о готовности софта — смартфонная битва была проиграна, но никто не считал себя лжецом. То же в психотерапии: этика ставит интерес клиента выше всего, но новичок в одиночку не может диагностировать сложный случай и передать его сильному коллеге — не потому, что нарушает этику, а потому, что не знает правду (у Hannan et al. терапевты заметили ухудшение у 1 из ~40 клиентов, машинный алгоритм ранней эры ИИ — у 36). А как же супервизия? Супервизор видит не работу, а рассказ о работе, со всеми вытекающими.
Итого:.
Честные люди + недоступная правда = культура лжи.

Капли датского короля.

Неведение в рассмотренных случаях имело одну причину — неподъемную стоимость мониторинга: супервизор не мог присутствовать на всех сессиях новичков, собственник — на всех встречах менеджеров. ИИ обнуляет эту статью расходов. В психотерапии уже работает: ИИ оценка качества мотивационного консультирования по каждой сессии вместо одной разобранной записи в месяц; рутинный мониторинг Ламберта сокращает долю ухудшений вдвое. В бизнесе то же делает смысловая ИИ аналитика: встречи перестают существовать в единственной версии — пересказе для начальства, и собственник впервые живёт в той же реальности, что его клиенты. По Барзелю, когда падают издержки измерения — перестраиваются сами институты. Точная диагностика случая, измеренная компетенция, ранние риск-сигналы для клиента становятся свойством системы, а не подвигом честного одиночки.

"и познаете истину, и истина сделает вас свободными"

PS -ИИ?! ИИ правдоподобно галлюцинирует, вы разве не знаете?!
- а человек?
- человек? Он неправдоподобно врет!🤥