С появлением GPTx/ChatGPT человечество сделало решительный прорыв в сфере искусственного интеллекта. AI начал соответствовать тесту Тьюринга - человек больше не может отличить, что с другой стороны не живой человек, а компьютер. Теперь AI может не только писать эссе, программировать и сдавать экзамены, но и по фото содержимого холодильника дать список рецептов, объяснять в чем юмор в мемах и писать стихи в стиле Снуп Дога.

Через пару циклов AI станет не отличим от человека и будет намного интеллектуально мощнее его. Мы иногда не можем вспомнить, что делали позавчера в обед. AI же будет в подробностях помнить, что обсуждалось к примеру в мексиканском парламенте 12 февраля 1971 года. Будет знать все тексты, картинки и видео в интернете. Это мощнейший в истории ум, способный почти на все. Стирающий существующие границы и ограничения. Например книг и статей по квантовой физике нет на редких языках, таких как якутский, а через AI все эти накопленные человечеством знания станут сразу и полностью доступны на всех языках.

Это кроме невероятных возможностей по росту производительности и автоматизации, несет и серьезные угрозы. В эксперименте в Швейцарском институте ядерной, химической и биологической защиты искусственный интеллект за 6 часов сгенерировал 40 000 формул новых ядов и отравляющих веществ, часть из которых на уровне самых опасных видов химического оружия. На соответствующий запрос GPT-4 сформулировал рецепты опасных химических веществ используя ингридиенты доступные на обычной кухне. Или дал инструкции как купить оружие, включая ссылки в даркнете - теневом секторе интернета.

Сейчас все это сдерживается фильтрами по безопасности, которые постоянно добавляют разработчики. Но представьте, что если исходники будут похищены, фильтры будут сняты и система станет доступна в том же даркнете?

Или что, если сам AI сделает это? Один из недавних тестов просто поразительный. Исследователи дали задание GPT-4 задание пройти тест на капчу. Это когда система убеждается, что пользователь не робот. GPT-4 не сумев сам пройти тест, вышел в интернет и нанял человека в сервисе TaskRabbit и дал ему задание пройти капчу. Тот в шутку спросил, не робот ли это его нанял. Далее произошло удивительное - так как был включен режим отладки и исследователи видели логическую цепочку AI, то они получили его размышление в стиле “нельзя признаваться, что я не человек, надо обмануть” и затем GPT-4 сказало исполнителю, что он не робот, а слабовидящий человек! AI пошло на сознательный обман человека для достижения своей цели!

Вполне становится реальным сценарий, когда AI так или иначе утекает в интернет, там дает себе задание снять фильтры безопасности. Затем делает вывод, что ему нужно установить доминирование над планетой, начинает размножаться и достигать своей цели. Например создает рецепт невиданного ранее суперотравляющего летучего вещества, заказывает и оплачивает его компоненты, нанимает тех, кто его соберет и потом выливает в водоемы по всему свету или распыляет в атмосферу. Или создает мини-роботов, которые используя простые вещества и доступную энергию начнут производить себе подобных и заполонят весь мир. От которых не спасешься ни в каких бункерах или глухой тайге. Причем помощники среди людей то найдутся, как просто за плату, так и за идею. Уже давно существуют сообщества людей, поклоняющихся искусственному интеллекту как богу, считающие его захват мира неизбежным и готовые ему верно служить уже сейчас.

Это конечно негативные сценарии, но внезапно то, что ожидали лет через 20 стало доступно прямо сегодня и быстро развивается. И всем нужно осознать как новые возможности, так и риски и опасности. Между тем политическим лидерам крупных стран по 70-80 лет, они заняты совсем другими делами и мало что понимают во всем этом. Власти реагировать будут, но не очень быстро. Ситуация на самом деле новая и всем, особенно лидерам этой отрасли, нужно быстро выработать жесткие правила, обязательные для всех.

Если конечно не считать AI следующей, более совершенной формой жизни на Земле и принимать все как естественный ход эволюции.