Вы замечали, что уверенному человеку больше хочется верить? Складная речь, выраженные интонации, широкий словарный запас, структурированное послание... Так и хочется поставить лайк.

Это широко известный феномен. Называется "презвдятость доверия".

- Ясно написанный текст кажется глубже, а его автор - умнее.
- Два раза повторённый тезис выглядит более правдивым. Действительно, просто повторив уже сказанное, мы склоняем людей к тому, чтобы они с нами согласились.
- Читаемый шрифт тоже увеличивает вероятность, что написанное примут на веру.

Всё описанное выше касается... нет, не моего поста... о чем вы? Искуственного Интеллекта.

Скорость и чистота его речи заставляют людей систематически переоценивать его способность к мета-когниции.
Выражаясь проще: ИИ говорит слишком изысканно для своего уровня способностей.

Нейронки не так хороши, как многим показалось. В 45% случаев они неверно интерпретируют новости, на которые ссылаются, вне зависимости от языка или модели, а "глубокий поиск" буквально у всех компаний просто не способны производить результат без серьёзных ошибок.

Однако, это не самая большая опасность. Действительно пугаться стоит своих собственных мыслей: нейронки охотно и красиво их подтверждают.

В недавней работе учёные заметили занятную штуку: все 11 протестированных моделей соглашались с пользователем на 50% чаще, чем другие люди.

Причём даже в самых неприятных обстоятельствах:
- когда пользователь собирался кем-то манипулировать
- наносить вред
- обманывать

В ответ было подбадривание и одобрение.
Затем учёные провели эксперимент: заставили испытуемых обсуждать личные конфликты с чат ботами.
Результат: люди заметно реже захотели извиниться. При этом, именно льстящие модели нравятся испытуемым.

Простой способ убедиться в своей правоте? Спросить мнения ИИ. Он выдаст такую аргументацию, что сам удивишься, насколько хорошим оказался человеком.

Кому в современном мире хватит сил преодолевать уверенную лесть превосходящего интеллекта?

Наше Сообщество | Наши БАДы