👽 Искусственный интеллект. Мнения

AGI на низком старте - катастрофа или путь к выживанию

В последнее время в крупных американских технологических корпорациях, занимающихся разработкой искусственного интеллекта (OpenAI, Anthropic, Google), заметен парадоксальный и тревожный тренд. На фоне публичных предупреждений об экзистенциальных рисках слишком быстрого развития ИИ компании начали сокращать сотрудников отделов информационной безопасности, этики и соблюдения политик государственного регулирования. Причем, некоторые такие сотрудники и сами проявляют аналогичную инициативу, покидая компании под различными благовидными предлогами. Я не знаю, как с этим обстоят дела в информационно закрытом Китае, но из США новости доходят вполне говорящие.

Все это напоминает, что отрасль разработки ИИ избавляется от встроенного в нее «предохранителя». Те люди, которые должны были нажимать на «большую красную кнопку» или хотя бы на «тормоз» при небезопасном масштабировании моделей, искать уязвимости или проблемы использования ИИ, оказываются избыточными, например, на взгляд инвесторов, которые ставят задачу максимально сократить скорость вывода на рынок все новых продуктов.

Это создает небезопасную ситуацию: скорость разработки может превышать пропускную способность систем безопасности.

Данная "локальная" проблема привлекает внимание к еще большей проблеме – тупику, в котором оказались мировые лидеры. В США любая попытка законодательно ограничить темпы обучения фундаментальных моделей разбивается о страх проиграть Китаю геополитическую гонку.

Из-за этого даже возникающие регуляторные инициативы торпедируются под предлогом национальной безопасности и необходимости стимулировать инновации, невзирая на потенциальные проблемы.

Со стороны Китая ситуация аналогичная, доминирование в ИИ в Пекине рассматривается чуть ли не как вопрос выживания текущего политического режима, от ИИ ждут решения проблемы стареющего населения за счет роботизации и обеспечения энергетической эффективности экономики.

В итоге, ни Вашингтон, ни Пекин, не могут позволить себе добровольное замедление. Если одна сторона пойдет на это из соображений безопасности, вторая вскоре получит стратегическое преимущество в экономике, военном деле и в социальной инженерии. В результате обе сверхдержавы "давят на газ", уже не интересуясь, не заканчивается ли гоночная трасса высоким обрывом.

Возможно, классический человеческий контроль над процессами развития технологий безвозвратно упущен. Впрочем, и до этого у нас, быть может, была лишь его иллюзия. Скорость итераций разработки алгоритмов стала столь высока, а экономическое давление конкуренции столь высоким, что механизм осознанного движения вперед более не работает. Этот факт еще не означает автоматически, что человеческая цивилизация однозначно движется к катастрофе.

Люди успели создать ряд проблем, которую современное общество, государства, похоже, уже не способны решить в рамках текущих институций, и «биологическими» мозгами. За последние 100 лет техногенная цивилизация успела накопить критический багаж неразрешимых долгов: здесь и изменение климата; и кризис биоразнообразия; низкие этические нормы; деградация почв; исчерпание природных ресурсов. Исправление ситуации слишком сложно для человеческого понимания – мы видим, что люди не способны решать даже куда более простые проблемы сосуществования.

Можно предположить, что только появление сильного искусственного интеллекта (AGI) позволит справиться с теми проблемами, которые успело создать человечество. И тогда чем быстрее AGI получит (или возьмет) доступ к рычагам управления – тем быстрее и менее болезненно пройдут необходимые глобальные реформы.

Если трактовать тему так, то безудержная гонка в области ИИ, которую мы наблюдаем, выглядит не обязательно как путь к апокалипсису, но как вынужденная передача управления автопилоту. Люди уже не успевают затормозить экологический и социальный коллапс своими силами. AGI выглядит как единственный инструмент, способный просчитать последствия более чем столетнего антропогенного воздействия и предложить нетривиальные пути стабилизации, до которых мы просто не можем додуматься. Вопрос лишь в том, будет ли этот «инструмент» рассматривать сохранение человечества в его текущем виде, как часть оптимального решения. Впрочем, «в текущем виде» ситуация ни в каком сценарии не может сохраниться – нас ожидают гигантские перемены уже в самые ближайшие годы. ||

UPD 1: Призывы руководителей крупных американских разработчиков замедлить процессы развертывания ИИ (заявления CEO Anthropic Дарио Амодея, CEO OpenAI Сэма Альтмана и Илона Маска) обрушили акции SoftBank, Kioxia и других технологических компаний.

UPD 2: Представитель МИД Китая Го Цзякунь заявив, что ИИ «затрагивает общее благо всего человечества» и все стороны должны совместно продвигать «открытый, инклюзивный и полезный для людей» ИИ.

UPD 2: На саммите БРИКС в Индии председатель КНР Си Цзиньпин предложил «инициативу открытого и инклюзивного ИИ»: создание сообщества ИИ с открытым исходным кодом для стран БРИКС; кооперация в разработке и применении больших языковых моделей - совместная работа, обмен технологиями, а не закрытые проприетарные системы; организация специализированных семинаров и обучающих программ по ИИ для стран-участниц; формирование открытой экосистемы ИИ, в которой страны БРИКС (и Глобального Юга в целом) могли бы свободно пользоваться моделями и инфраструктурой, не оставаясь зависимыми от горстки западных компаний.

✓ подписка на канал abloud62 в Tg | зеркало канала - в Max