Вы замечали, что уверенному человеку больше хочется верить? Складная речь, выраженные интонации, широкий словарный запас, структурированное послание... Так и хочется поставить лайк.
Это широко известный феномен. Называется "презвдятость доверия".
- Ясно написанный текст
кажется глубже, а его автор - умнее.
- Два раза повторённый тезис
выглядит более правдивым.
Действительно, просто повторив уже сказанное, мы склоняем людей к тому, чтобы они с нами согласились. - Читаемый шрифт тоже
увеличивает вероятность, что написанное примут на веру.
Всё описанное выше касается... нет, не моего поста... о чем вы? Искуственного Интеллекта.
Скорость и чистота его речи
заставляют людей систематически переоценивать его способность к мета-когниции.
Выражаясь проще: ИИ говорит слишком изысканно для своего уровня способностей. Нейронки не так хороши, как многим показалось. В 45% случаев они
неверно интерпретируют новости, на которые ссылаются, вне зависимости от языка или модели, а "глубокий поиск" буквально у всех компаний просто
не способны производить результат без серьёзных ошибок.
Однако, это не самая большая опасность. Действительно пугаться стоит своих собственных мыслей: нейронки охотно и красиво их подтверждают.
В
недавней работе учёные заметили занятную штуку: все 11 протестированных моделей соглашались с пользователем
на 50% чаще, чем другие люди. Причём даже в самых неприятных обстоятельствах:
- когда пользователь собирался кем-то манипулировать
- наносить вред
- обманывать
В ответ было подбадривание и одобрение. Затем учёные провели эксперимент: заставили испытуемых обсуждать личные конфликты с чат ботами.
Результат: люди заметно реже захотели извиниться. При этом, именно льстящие модели нравятся испытуемым.
Простой способ убедиться в своей правоте? Спросить мнения ИИ. Он выдаст такую аргументацию, что сам удивишься, насколько хорошим оказался человеком.
Кому в современном мире хватит сил преодолевать уверенную лесть превосходящего интеллекта?
Наше Сообщество | Наши БАДы