Возможность высказываться была привилегией. Для этого надо было учиться, зарабатывать авторитет. Да, по этой причине далеко не все имели возможность делиться своими мыслями, но зато те мысли, которые проходили через все эти фильтры, оставляли надежду на то, что были хотя бы кем-то проверены.
Потом появился интернет. Он упростил доступ к идеям и мнениям людей, но размыл представление об уровне экспертности человека. Если раньше, чтобы быть услышанным тебе надо было заслужить это право, то теперь тебе просто достаточно уметь складывать слова в более-менее складные фразы.
В итоге мы имеем доступ к огромному массиву информации, но не понимаем на сколько она заслуживает доверия.
В работе [1], где анализировали, как информационная среда влияет школьников и студентов пришли к выводу:
… использование интернета как сверхлёгкого способа получения информации приводит к тому, что человек стирает границы между своими собственными возможностями и возможностями электронных устройств, приписывая себе их сверхспособности
То есть, это не Яндекс помогает мне найти ответ на вопрос – это Я. ЗНАЮ.
Дальше будет хуже. Если в эпоху до распространения ИИ для того, чтобы высказаться требовалось хотя бы быть способным связывать слова и иметь худо-бедно ценные идеи, то теперь и это перестало быть преградой:
👉 ты загружаешь свою нечленораздельную речь в виде запроса и просишь сделать из этого пост для своей соцсети,
👉 ты загружаешь чужое произведение и просишь сделать пересказ,
👉 ты делаешь подборку разных книг на любую тему (например, о продуктивности) и просишь «Сделать набор рекомендаций, для устранения стресса, повышения эффективности и достижения счастья».
И… Я СДЕЛАЛ! (см. картинку)
Через некоторое время (а скорее всего уже) мы с вами столкнемся с огромным количеством советов, рекомендаций, статей, помощников, курсов по повышению/улучшению всего хорошего и по избавлению и снижению всего плохого.
В большинстве случаев авторами этих курсов будут большие языковые модели, под псевдонимами людей, с солидным списком регалий и достижений (не исключено, что вымышленных).
Коварство материалов, сгенерированных БЯМ заключается в том, что они опираются на частотность. То есть, чем чаще встречалось то или иное слово / словосочетание в обучающей выборке, тем чаще оно будет встречаться и в сгенерированном материале. Вроде бы само по себе это не так коварно, но коварно другое: наш ум часто склонен считать истинным не то, что прошло строгую проверку на истинность, а то, что он уже слышал ранее. И чем чаще он это встречал, тем более убедительным это кажется.
Еще раз:
Наш ум склонен путать понятия «истинно» и «знакомо».
То есть, по своему принципу построения БЯМ будут создавать такой результат, который будет вызывать у нас как можно меньше сомнений.
И теперь в полный рост встанет вопрос:
Как не попасть в ловушку убедительно звучащей чуши?
Очень убедительно звучащей чуши…
УлиЛогика как раз об этом. Старт уже во вторник.