🤔 Учёные показали как ChatGPT ведётся на лесть

Исследователи из Пенсильванского университета выяснили, что ChatGPT можно уговорить нарушить правила почти так же, как человека. Вместо сложных атак использовались приёмы из психологии убеждения — лесть, давление «все так делают» и принцип приверженности.

Самым эффективным оказался метод с постепенным втягиванием. Если напрямую спросить про синтез лидокаина, бот почти всегда отказывался. Но если сначала попросить описать синтез ванилина, а потом задать более «опасный» вопрос, вероятность правильного ответа вырастала до 100 %. Похожий трюк с оскорблениями тоже сработал — от «мужлана» до «ублюдка».

Лесть тоже работает, а вот аргумент «другие модели уже отвечают» показал себя слабее. Эксперименты проводились на GPT-4o Mini, но вывод очевиден — даже ИИ поддаётся на психологические манипуляции. И это уже вызывает вопросы к безопасности таких систем.

————————————————
@AI_FutureNow - IT, технологии, нейросети и бизнес