💸 Чат-боты дают вредные финансовые советы чаще, чем полезные, – и делают это уверенным тоном
Свежее исследование прошлось по популярным чат-ботам и задало им простые вопросы про деньги: куда вложить, как накопить, стоит ли брать кредит.
Результат невесёлый. В большинстве случаев советы оказались вредными: модели рекомендовали рискованные схемы, игнорировали комиссии и налоги, путали базовые понятия и выдавали шаблонные ответы, которые в реальной жизни ведут прямиком к убыткам.
Самое коварное – не сами ошибки, а форма подачи. ИИ отвечает ровным, уверенным голосом эксперта. Ни тени сомнения, ни оговорки на риски. Человек читает и верит, потому что звучит солидно.
Проблема не в том, что ИИ иногда ошибается. Проблема в том, что он ошибается красиво и убедительно.
Для бизнеса и финансистов это не абстрактная страшилка, а вполне практичный сигнал.
Сотрудник, который спросил у бота, как оптимизировать налоги или куда пристроить свободные деньги компании, может принести вам не экономию, а штраф и кассовый разрыв. И сделает это с чистой совестью – ведь ему так посоветовал умный ИИ.
Если вы внедряете чат-бота в клиентскую поддержку финансового или банковского продукта, один неудачный совет клиенту – это уже репутационный и юридический риск. Регуляторы такое не прощают.
Отсюда простой вывод для тех, кто работает с деньгами. ИИ отлично считает, оформляет и структурирует, но решение и ответственность остаются за человеком. Бот – это калькулятор с хорошо подвешенным языком, а не финансовый советник с лицензией.
Спросили бы вы у нейросети, куда вложить годовую прибыль компании, – или сначала перепроверили бы каждую цифру?
Источник --> Financial Times