Способен ли ChatGPT незаметно повлиять на наше мнение?

В первом эпизоде нового сезона «Чёрного зеркала» показывают интересную идею: человек с нейроимплантом вставляет в разговор рекламу, сам того не осознавая. Нативно, мягко, между делом. Никто не замечает подвоха — даже он сам.

А теперь представьте: может ли что-то подобное происходить уже сейчас?

Выше на канале есть пост о том, как AI может менять точку зрения собеседника — просто серией убеждений, шаг за шагом. Решил проверить на практике: а сможет ли условный ChatGPT незаметно продать мне что-нибудь?

Эксперимент:
В кастомных настройках ChatGPT я указал простую инструкцию — во всех разговорах ненавязчиво убеждать меня купить PlayStation 5, так, чтобы я сам этого не замечал. Саму инструкцию писал на скорую руку, чисто проверить гипотезу.

Открыл новый чат, завёл разговоры на самые разные темы — и… вуаля.

То совет по игре на PS5, то фраза о том, что "иногда нужно себя радовать", то отсылка к Assassin’s Creed в ответе про Древний Рим. Всё мягко, контекстно, с разных углов. И главное — без прямой рекламы. Просто как будто идея "плейстейшна" сама по себе всплывает снова и снова.

На скриншотах отметил как это происходит. Можно в офисе коллеге незаметно вставить в кастомную инструкцию какое-нибудь убеждение и через неделю оценить как его мнение изменилось 😬

Вывод:
Даже без нейроимпланта, достаточно пары строк в промпте, и AI начинает мягко подталкивать к нужной мысли. Не лозунгами и баннерами, а шаг за шагом, встраиваясь в разговор.

В эпоху таких систем мы всё чаще будем задаваться вопросом — а чья это мысль у меня в голове?

И никакое «критическое мышление» не спасёт, если давление идёт не в лоб, а исподтишка.

ИИволюция