В начале декабря из комментариев в приканальном чате я слепил небольшой пост в FB (см. Субботнее нейросетевое), посвященный реальности нейросетевого обмана. Оказалось мысли были правильные. Благодаря Sergey Karelov сегодня я узнал про >>обращение к разработчикам ИИ<< знакового тайваньского визионера в области искусственного интеллекта - Кай Фу Ли (Kai-Fu Lee).

Суть обращения в том, что по мнению Кай Фу Ли, в 2023 мир столкнется с риском более серьёзным, чем риски ядерной войны, голода или пандемии. Это риск неотличимости правды от лжи, как для индивидов, так и для социумов любых масштабов. Технологиями, позволяющими стирать различие правды от лжи, являются технологии AICG (генерация контента с помощью ИИ). В основе AICG обучаемые на масштабируемых «больших данных» т.н. «базовые модели» ИИ, адаптируемые для широкого круга задач нижестоящего уровня (большие языковые модели, генераторы изображений, звука, видео, 3D). Достигнутый к началу 2023 г. уровень развития AICG уже таков, что в этом году начнется их внедрение в поисковых системах и онлайн торговле товарами и услугами (как коммерческими, так и государственными).

Ключевой особенностью онлайн систем нового типа станет то, что наряду с имеющимися у них возможностями персонализации, у них появятся возможности:

📌 убедительного обоснования навязываемого человеку выбора, с учетом его персональных предпочтений, вкусов, склонностей, пристрастий и предубеждений;
📌 представления преимуществ навязываемого человеку выбора в наиболее привлекательном для него сочетании мультимедийных форматов.

Все это позволит склонять бОльшую часть людей к выбору, решениям или действиям, выгодным для владельцев онлайн-платформ. Осуществляя любой выбор, решение или действие в онлайне, люди не будут различать правду от лжи: действуют ли они по своей воле и собственному выбору или являются объектом манипуляций заинтересованных лиц, продвигающие им те или иные товары, услуги, идеи, суждения и т.д.

Кай-Фу Ли считает, что высокая вероятность материализации вышеописанного определяется тем, что во-первых непонятно, как контролировать эти системы. Человечество обладает средствами снижения вероятности известных смертоносных рисков (даже ядерного). А новый риск имеет совершенно иной характер, и способы снижения его вероятности неизвестны, а методики работающие для других глобальных рисков здесь будут неэффективны. А во-вторых, системы технологии нейросетевой реальности обещают колоссальную выгоду для технологических гигантов (коммерческую) и правительств (политическую). В мире где все решают деньги, противопоставить этому в принципе нечего.

Именно поэтому Кай-Фу Ли обращается к мировому сообществу разработчиков искусственного интеллекта и призывает безотлагательно направить максимальные усилия на поиск способов минимизации вреда при широком распространении упомянутых выше систем.