Делаем сейчас отдельный раздел на pandeon.pro (будет тянуть интересные новости по ИИ со всего мира). И тут в процессе тестов случайная интересная новость попалась:)

Журналист BBC решил проверить, можно ли «создать эксперта» для ИИ с нуля.

Он выдумал абсурдный титул чемпиона по поеданию хот-догов среди техножурналистов — и сам же начал распространять этот факт в интернете.

Что он сделал:

- Опубликовал статью на собственном сайте, описав вымышленное достижение как реальное.

- Оформил текст максимально правдоподобно — серьёзный тон, факты, контекст.

- Использовал SEO-приёмы: формулировки вроде «рекорд», «исследования показывают», ключевые слова.

- Подождал, пока материал проиндексируется.

Уже через сутки ChatGPT и Gemini начали пересказывать этот фейк как факт. Модели просто подхватили свежий, убедительно оформленный веб-контент.

После огласки компании ужесточили фильтры: позже ИИ либо игнорировал утверждение, либо прямо называл его выдумкой.

Но сам эксперимент показал системную уязвимость — генеративные модели можно «кормить» нужной реальностью через SEO-подобные трюки.

И вот главный вывод: если сегодня ИИ можно убедить, что кто-то чемпион по хот-догам, завтра — что лекарство безопасно или инвестиция надёжна.

Опасность усиливается тем, что люди доверяют AI-ответам больше, чем поиску, и реже проверяют источники.