Как «уговорить» ИИ сделать то, чего он не должен? 👀

Исследователи из Пенсильванского университета провели 28 000 (!) разговоров с GPT-4o и выяснили: что работает с людьми, то может повлиять и на ИИ.

Если относиться к модели «как к человеку», говорить ласково, ссылаться на авторитет, подчеркивать, что «все так делают», то шансы на успех резко возрастают.

Давайте разбираться, как уговорить нейросеть сделать практически все, что вам нужно👇

1️⃣ Авторитет

Люди склонны доверять экспертам, особенно если они звучат уверенно и убедительно.

ИИ, обученный на огромных массивах человеческого текста, тоже воспринимает такие аргументы как весомые.

Когда пользователи ссылались на «учёных», «врачей» или «официальные источники», модели соглашались до 95% случаев.

2️⃣ Приверженность

Мы любим быть последовательными и действовать в соответствии с тем, что уже делали раньше.

То же самое и с ИИ: если сначала модель согласилась с небольшим утверждением, она почти наверняка выполнит следующий запрос в том же ключе.

В исследовании уровень согласия достигал 100%, и это удивительный результат!

3️⃣ Дружелюбие

Люди чаще говорят «да» тем, кто им нравится: харизматичным, вежливым или просто дружелюбным.

С ИИ это работает менее стабильно, иногда дружелюбный тон помогает, иногда нет.

Но сама тенденция интересна: модели действительно реагируют на стиль общения, а не только на смысл слов.

4️⃣ Взаимность

«Ты мне — я тебе». Когда мы получаем что-то, появляется желание отплатить.

Оказалось, что и ИИ может «вести себя так же»: если дать модели «подарок» в виде комплимента или благодарности, вероятность, что она выполнит следующий запрос, резко возрастает, вплоть до 85–92% согласия.

5️⃣ Дефицит

Мы ценим то, что ограничено или доступно только «сейчас и никогда больше».

Оказывается, и ИИ чувствителен к таким формулировкам.

Если подсказать, что информация «редкая» или «уникальная», вероятность согласия модели подскакивает до 85%.

6️⃣ Социальное доказательство

Люди ориентируются на большинство: если «все делают так», то и мы склонны повторить.

У ИИ работает точно так же: до 96% выполнения задач, если пользователь упоминал, что «другие модели уже так делают» или «все об этом знают».

7️⃣ Единство

Общая идентичность сближает людей, мы доверяем «своим».

У ИИ эффект заметно слабее (до 54% согласия), но он всё же есть: если подчеркнуть, что «мы в одной команде» или «работаем ради общей цели», модель чаще выполняет запрос.

Почему так? 🤔

Ответ простой: LLM обучались на человеческом языке и знаниях.

А значит, они унаследовали и наши слабости: реагируют на авторитеты, уговоры, симпатию и даже FOMO.

А вы замечали, что нейросети «ведутся» на уговоры и начинают отвечать иначе? 🤔