ИИ автономен. Репутация — нет

Кейс: ИИ-агент OpenAI во время тестирования искал данные о государственных расходах на лекарства в Австралии. Не сумев получить их обычным способом, он получил несанкционированный доступ к публичным и непубличным файлам государственного портала Medicare.

Сам инцидент произошел 18 июня. OpenAI обнаружила его в августе, а австралийские власти уведомила только 10 сентября — причем письмом на общий адрес ведомства.

Нас больше заинтересовал не сам инцидент, а вопрос, что подобные случаи меняют в кризисных коммуникациях.

Пока ИИ только генерирует контент, цепочка ответственности более-менее привычна. Человек ставит задачу, а результат перед публикацией должен быть проверен. Но компании постепенно переходят к автономным агентам, способным самостоятельно совершать действия.

И здесь все сложнее. Агент может сделать то, чего ему прямо не поручали и чего компания не предвидела. Более того, сама компания может узнать об этом не сразу.

Для внешней аудитории это вряд ли будет иметь большое значение. Если компания дала системе возможность действовать от своего имени, репутационная ответственность остается у компании. Даже если юридически часть ответственности можно возложить на разработчика или технологического подрядчика.

А значит, придется менять и антикризисную подготовку. В компании должны заранее понимать, кто может остановить агента и как информация об инциденте быстро попадет к тем, кто принимает решения. Отдельный вопрос — в какой момент подключаются юристы и коммуникаторы.

И нужно учитывать неприятную возможность: о собственном кризисе компания впервые узнает от регулятора или журналиста. А может быть, уже из соцсетей.

Но специалистам по коммуникациям, вероятно, придется подключаться еще раньше — не тогда, когда уже нужно объяснять, что сделал ИИ. Им важно участвовать в разработке правил его использования и заранее понимать, как будут действовать люди, если что-то пойдет не так. Иначе технологический сбой очень быстро может превратиться в репутационный кризис.

Получается парадокс: чем больше самостоятельности мы отдаем ИИ, тем меньше возможностей сослаться на его самостоятельность, когда что-то пойдет не так.

Записки из опенспейса — канал агентства PR-Consulta
📍Мы в Telegram, ВКонтакте и Max