Google с его AI Overviews постепенно превращается в главного генератора уверенной лжи.

Google плотно вшил AI Overviews прямо в поисковую выдачу: теперь сверху висит сгенерированный ответ, а внизу — ссылки на источники. На бумаге это выглядит супер. Недавно NYT и стартап Oumi проверили систему и получили около 90% «точности» — вроде бы отличный показатель для инвесторов. Но масштаб Google таков, что даже 10% ошибок превращаются в миллионы некорректных ответов каждый час. Как замечают в обзоре анализа, при триллионах запросов в год это тысячи ошибок в минуту. Многие ответы к тому же «ungrounded» — не подтверждены источниками, хотя визуально всё выглядит солидно.

ИИ не просто ошибается — он ошибается максимально уверенно. Выдаёт аккуратно оформленный блок с «разумным» текстом и аккуратными ссылками на авторитетные сайты. Но если открыть эти источники, часто выясняется: они ни слова не говорят о том, что написал ИИ. Это создаёт иллюзию проверки: «ссылка же есть, значит, правда». На деле — синтетический бред с логотипом доверенного источника.

Google в ответ на критику отчасти подтверждает, что проблема есть, но пытается смягчить: мол, большинство ответов полезны и фактические, а когда косячат — чаще из-за неверной интерпретации запроса или нюансов, а не «чистых галлюцинаций». В мини-дисклеймере под AI Overviews так и написано: информацию лучше перепроверять.