Друзья, приветствую!

Не заметила, как после конференции пролетели две недели. Исправляюсь.

Отдельно хочу поблагодарить Павла — единственного человека, который задал мне вопрос. Спасибо! ❤️ Для меня это возможность понять, о чём интересно не только рассказывать мне, но и читать вам.

Вопрос звучал так:

Куда AI точно не стоит внедрять?

Мой ответ: в процесс, который сама компания пока не понимает и не умеет контролировать.

Если одна и та же задача каждый раз решается по-разному, правила меняются по ходу работы, подразделения не договорились между собой, а ответственного нет, AI не исправит ситуацию.

Он начнёт быстрее выдавать результат внутри той логики, которую ему дали. Задач, документов и решений станет больше, а узкое место компании забьётся ещё быстрее.

AI не разрешит конфликт между подразделениями. Не определит за руководителя, что сейчас важнее. Не назначит ответственного, если никто не готов им быть.

Поэтому сначала нужно определить:

— какую проблему мы решаем;
— какой результат считаем хорошим;
— кто за него отвечает;
— какую ошибку готовы допустить;
— как заметим, что система ошиблась;
— как её остановим;
— как отменим действие и исправим последствия.

На конференции был хороший пример. Certis тестировала роботов для перевозки наличных при обслуживании банкоматов. На уровне технологии решение выглядело интересно. В реальных условиях оно не сработало, поэтому пилот остановили.

Сам факт, что AI-решение можно создать, ещё не означает, что его нужно внедрять.

При этом высокая цена ошибки сама по себе не является запретом для AI.

На другой панели обсуждали систему, которая должна за миллисекунды решить, изолировать ли заражённый компьютер. Если ждать человека, вирус может успеть распространиться. Если система ошибётся, она может отключить компьютер врача во время операции.

В одном из таких высококритичных инструментов перед действием было восемь уровней проверки: агенты проверяли решения друг друга. Человек не подтверждал каждую операцию, потому что физически не успел бы. Он контролировал систему, разбирал исключения и отвечал за последствия.

То есть вопрос не в том, можно ли использовать AI в финансах, безопасности или других важных процессах.

Вопрос в том, понимает ли компания:

— что именно она передаёт AI;
— в каких пределах он может действовать;
— как проверить его результат;
— что делать в случае ошибки.

AI не стоит внедрять туда, где компания пытается заменить технологией собственную ясность и ответственность.

И ещё один важный вывод конференции: проблему нужно сформулировать до выбора технологии. Иногда правильное решение вообще не требует AI.


Макарова Ольга
стратегические и партнерские сессии для основателей
канал «стратегия личности»
https://mstrategy.pro