ИИ врёт всё увереннее, а мы верим

Chatbot-индустрия нашла гениальный ход: вместо того чтобы уменьшить количество ошибок, они просто сделали ответы более уверенными. Мол, «мы повысили качество взаимодействия». Ага, конечно.

Модели по-прежнему галлюцинируют — выдумывают факты, ссылки, цифры. Но теперь делают это с таким апломбом, что пользователи перестают проверять. Зачем гуглить, если бот отвечает так, будто он профессор с тремя докторскими?
Axios (https://axios.com/2026/05/30/ai-accuracy-chatbots-hallucinations) пишет, что уверенный тон ответов буквально отключает у людей привычку к фактчекингу. И вот тут интересно: компании знают об этом. Но вместо предупреждений «могу ошибаться» — полируют интерфейсы и добавляют ещё больше гладкости в формулировки.

Кому выгодно? Тем, кто продаёт подписки на «умных помощников». Чем меньше пользователь сомневается, тем больше он платит. Классика.

Раньше хотя бы поисковик давал десять ссылок, и ты сам выбирал, кому не верить 😏