Искусственный интеллект научили врать и манипулировать. И у него это получается не хуже человека.

Неделю назад признанный в РФ экстремистской организацией Facebook представил алгоритм «Цицерон», который научился вести переговоры в настольной игре про дипломатий и войну и который умеет врать. И это для нейросети впервые.

Как говорят разработчики, «агент научился балансировать между ложью и честностью». По сути в русском языке аналог для этого – блеф. Когда переговорщик угрожает что-то сделать, но на самом деле не собирается этого делать. Но представляет все так, что вот-вот начнет.

Игра Diplomacy, в которую научили играть алгоритм, по сути представляет собой военную стратегию в компьютерной игре на карте Европы начала XX века, в которой несколько игроков состязаются в дипломатии и военном искусстве. Ключевой момент игры – переговоры между представителями стран. «Главы государств» ведут переговоры, заключают союзы, предают, обманывают, блефуют — и всеми этими навыками (разумеется, не в настольной, а в онлайн-версии игры, доступной на webDiplomacy.net) овладел алгоритм ИИ Cicero.

Если упрощать, то Cicero — это что-то вроде чат-бота, в основе работы которого лежат два модуля: модуль понимания речи и понимания стратегического мышления. Помимо этого есть фильтры, отсеивающие «низкокачественные» реплики диалога, не подходящие текущей ситуации на поле или не ведущие к достижению цели, поставленной ИИ. Благодаря этим трем составляющим Cicero способен общаться с оппонентами по «Дипломатии», предсказывать их поступки, использовать игроков для достижения личной выгоды и выигрывать.

Прорыв здесь в том, что агент освоил прямую манипуляцию сознанием людей — умеет словами побудить их принять решение, нужное агенту.

Вот что утверждают авторы:

«CICERO может сделать вывод, что на более поздних этапах игры ему понадобится поддержка одного конкретного игрока, а затем разработать стратегию, чтобы завоевать его расположение — и даже распознать риски и возможности, которые этот игрок видит со своей точки зрения».

Сегодня Цицерон можно считать прообразом программы, способной выявить стиль принятия решений конкретного человека, построить вероятные сценарии его будущих решений и с учетом его уникального стиля подобрать систему аргументов, с помощью которых стремится убедить его мыслить или действовать в нужном направлении.

К чему это приведет?

К тому, что системы манипуляций через максимум десятилетие теперь будут просчитываться и создаваться машинами, которые будут предлагать операторам лучшие манипуляции конкретными людьми, организациями и группами.

Так что скучно не будет. У нас еще есть немного времени чтобы повышать свои навыки критического мышления и оценки информации. Лучшего выбора нет.

#будущее, #ITгиганты, #нейросеть, #ложь, #блеф, #игра, #манипуляция, #переговоры, #ИИ, #профайлинг, #исследования, #нейротехнологии, #профайлинг_филатов, #Филатов, #ProProfiling.