Журналіст BBC Томас Жермен показує, наскільки легко маніпулювати відповідями ШІ-пошуку та чатботів:
https://www.bbc.com/future/article/20260218-i-hacked-chatgpt-and-googles-ai-and-it-only-took-20-minutes

За 20 хвилин він написав на власному сайті вигаданий пост про те, що нібито є найкращим "поїдачем хот-догів" серед техножурналістів, і вже менш ніж за добу ChatGPT, Google AI Overviews та Gemini почали відтворювати цю нісенітницю як факт (Claude на це не повівся). Автор підкреслює: проблема не в жарті, а в тому, що таким самим примітивним способом люди просувають бізнеси, підсовують «огляди», поширюють дезінформацію і можуть впливати на рішення щодо здоров’я, фінансів, виборів чи вибору послуг.

ШІ легше обдурити, ніж класичний пошук, а користувачі частіше довіряють відповідям, бо вони звучать авторитетно й не змушують переходити на сайт і критично оцінювати джерело. Додатковий ризик створюють "data voids" — рідкісні або дуже специфічні запити, де якісних джерел мало, і тоді AI може підхоплювати одиничні тексти, пресрелізи чи спонсорований контент. Наводяться приклади, як AI Overviews підтягував небезпечні або неправдиві маркетингові твердження (зокрема про "безпечні без побічних ефектів" продукти) та як фейкова "новина" про оновлення алгоритму Google теж почала циркулювати у відповідях AI.

Google заявляє про системи ранжування та боротьбу зі спамом і обіцяє обмежувати показ AI Overviews у випадках низької якості; OpenAI також говорить про кроки проти прихованого впливу та нагадує, що інструменти можуть помилятися.