🤖 КТО ОТВЕТИТ ЗА ИИ?

На недавнем эфире GO4AI я ссылался на очень интересную статью Леонида Зубарева «Кто ответит за ИИ». Решил отдельно поделиться — рекомендую коллегам прочитать 📖

Главный вопрос статьи мне очень близок: страховщики каждый день профессионально оценивают чужие риски. Но насколько хорошо мы оцениваем собственный риск использования ИИ? 🧐

ИИ уже анализирует документы, помогает в андеррайтинге и урегулировании, общается с клиентами и участвует в принятии решений. Экономический эффект мы научились считать 💰 А вот риски пока оцениваем значительно хуже.

Леонид выделяет четыре особенно важных для страховщиков направления:
🔐 Приватность и безопасность. Сотруднику достаточно отправить медицинский документ или другую чувствительную информацию в публичную нейросеть — и возникает вполне реальный риск утечки.
⚖️ Дискриминация. Модель ищет корреляции, а не читает законы. Поэтому может воспроизводить исторические решения и закономерности, которые сегодня окажутся юридически недопустимыми.
🤥 Галлюцинации и ошибки. Неправильный ответ ИИ может выглядеть столь же убедительно, как правильный. Причём ошибка модели способна повторяться на всём потоке, пока её кто-нибудь не обнаружит.
👨‍💻 Сверхдоверие человека к системе. На мой взгляд, один из самых интересных рисков. Если сотрудник проверил сто решений ИИ и все оказались правильными, насколько внимательно он прочитает сто первое?
Формально человек остаётся в контуре принятия решений. Фактически он постепенно может превратиться в того, кто просто нажимает «ОК».

И это уже не теория ⚠️

Леонид приводит российские примеры: загрузка коммерческой информации в DeepSeek стала одним из оснований для увольнения сотрудницы; в другом деле за ссылки на несуществующие судебные решения, придуманные нейросетью, сторону оштрафовали на 50 тыс. рублей. Ответственность осталась на человеке, а не на технологии.

И вывод здесь совсем не в том, чтобы запретить ИИ 🚫 Наоборот. Нужно определить правила: где ИИ может решать сам, где только помогать человеку, а где ему вообще нельзя доверять решение.

Для страховой отрасли это особенно символично. Мы учим клиентов управлять рисками. Теперь пора применить тот же подход к самим себе 🛡️

Читайте договоры! 🫵