Мы управляем роботами или роботы управляют нами?

Вчера немного затронули тему роботов и места человека в будущем, сегодня хочется ещё немного рассуждений на эту тему.

Можете себе представить ситуацию, когда робот управляет вами?

— Автомат выдал талончик в электронной очереди и решил, в какое окошко вам идти. Очень с натяжкой.
— Интернет-магазин подкинул вам сопутствующие товары и вы их купили. Тоже такое себе.
— Рекламная сетка знает о ваших предпочтениях и подсовывает вам таргетированную рекламу. Решение о покупке всё равно принимает человек.
— Видеосервис сделал вам подборку того, что вам может быть интересно. Это просто рекомендация.
— Навигатор прокладывает вам маршрут, ведёт вас и может скорректировать в процессе поездки. Уже близко — прямое управление, но конечную цель всё равно задаёте вы.

💀Более интересным во всём этом представляется:

— Управление вниманием аудитории: с помощью тартега можно «достучаться» до аудитории и изменить, например, итоги выборов;

— Управлением мнением аудитории: пропаганда, освещение только одной точки зрения, фейк ньюс могут менять мнение, даже если оно ошибочно;

— Управление знанием аудитории: повсеместное использование нейросетей может приводить к искажению (если сетка не обучалась на конкретных данных, то ответ может быть придуман), информационному пузырю (каждая компания настраивает свою сетку в соответствии с её собственным контекстом, поэтому может оказаться, что какие-то исторические события просто не случались), навязыванию или склонению к определённой точке зрения.

Получается, такой парадокс: технологии дают нам знания, но чем больше мы используем технологии, тем больше должны подвергать сомнению получаемую информацию. Уже сейчас, когда я хочу получить ответ на какой-то вопрос я иду и задаю его в разные LLM-ки. Иногда получаю разный ответ ¯\_(ツ)_/¯

Закинь друзьям | Канал Прожарка от ДГ