AI-финансовый советник: как гарантированно получить штраф от налоговой 🤡

В свежем исследовании от Saturn (опубликовано в Financial Times) 18 популярным моделям скормили 10 000 финансовых запросов.

Результаты — просто песня для любителей делегировать всё подряд искусственному интеллекту:
🔵 57% ошибок в среднем по палате на базовых финансовых вопросах.
🔵 88% ошибок на задачах, где требуется больше одного вычисления (у некоторых моделек показатель доходил до 99%).
🔵 Лучший результат выдал Claude Opus 5 в режиме «reasoning». Знаете, сколько раз ошибся абсолютный чемпион бенчмарка? В 39% случаев. То есть даже топовая рассуждающая модель лажает в четырёх кейсах из десяти.

Бесплатный Claude Haiku 4.5 на ровном месте выдумал пенсионные правила, следование которым привело бы к штрафу от налоговой HMRC на £17 500. В другом запросе бот на голубом глазу заявил выпускнику, что если переехать за границу, то студенческий кредит можно просто не возвращать. Ловко придумано, а главное — надежно. 🤑

Самое весёлое во всей этой истории — поведение людей. По данным британского регулятора FCA, каждый пятый взрослый готов доверить ИИ финансовые решения, а молодёжь доверяет чат-ботам сильнее, чем живым советникам. При этом сфера "AI-финсоветов" абсолютно не регулируется. Если живой консультант накосячит — вы подадите в суд, страховая покроет убытки. Если накосячит чатик — вы просто останетесь у разбитого корыта, потому что Terms of Service любой нейросети по умолчанию снимают с разработчиков всю ответственность.

Массовый пользователь до сих пор не понимает, что нейросеть — это вероятностный генератор токенов, а не база знаний и уж тем более не юрист. Она не "считает" налоги, не работает сама по себе с актуальной и верифицированной информацией, не проверяет свои ответы.

Это не значит, что ИИ нельзя использовать в таких вопросах (я сам использую). Но это надо делать обладая достаточной экспертизой и в предметной области, и в инструментах ИИ. Но куда уж до этого 🤷‍♂️