🌐🌐🌐 мир вкратце продолжение:

🇺🇳 Сэм Альтман выступит в Совбезе ООН по вопросам безопасности искусственного интеллекта

Глава OpenAI Сэм Альтман на следующей неделе лично выступит на открытом заседании Совета Безопасности ООН в Нью-Йорке, которое будет посвящено искусственному интеллекту и международной безопасности.

Заседание пройдёт в среду на полях Генеральной Ассамблеи ООН. Его созывает Франция, председательствующая в Совбезе в сентябре. Встречу возглавит министр иностранных дел Франции Жан-Ноэль Барро.

По словам представителя OpenAI, Альтман намерен сосредоточиться на двух вопросах:
🌐 необходимости международной координации в области ИИ;
🛡 создании общих стандартов безопасности для наиболее мощных моделей.
Также он расскажет о мерах, которые OpenAI предпринимает для того, чтобы преимущества развития ИИ были доступны людям по всему миру.
Ожидается, что в заседании может принять участие и руководство Anthropic, однако его присутствие пока официально не подтверждено.

⚠️ Заседание проходит на фоне усиливающейся дискуссии о рисках быстро развивающегося ИИ. Несколько представителей индустрии в последние недели призвали к скоординированному замедлению разработки наиболее мощных систем, предупреждая о риске появления технологий, способных совершенствоваться самостоятельно и потенциально выйти из-под человеческого контроля.

Франция в подготовительной записке к заседанию отдельно указывает на риск использования ИИ в злонамеренных целях и призывает ускорить создание механизмов его безопасного и ответственного развития.
Это не первый случай, когда тема ИИ выходит на уровень Совбеза.

🏛 Впервые Совет Безопасности ООН обсуждал риски искусственного интеллекта ещё в 2023 году. Тогда Китай предупреждал, что технология не должна превратиться в «неуправляемую лошадь», а США обращали внимание на возможность использования ИИ для цензуры и репрессий.
При этом сам Альтман говорил об экзистенциальных рисках искусственного интеллекта задолго до нынешнего бума.
Ещё в эссе 2015 года Machine Intelligence, part 1 он писал, что создание сверхчеловеческого машинного интеллекта потенциально может стать одной из крупнейших угроз существованию человечества.

💡 дискуссия об ИИ окончательно переходит из технологической сферы в сферу международной безопасности.

‼️Моё личное мнение по этому поводу:

Вся эта внезапная паника и призывы к «скоординированному замедлению» со стороны американских ИИ-гигантов выглядят как тонкий геополитический маневр.

Похоже, Кремниевая долина просто упёрлась в технологический потолок (или временное плато) в развитии своих моделей и внезапно осознала: Китай, со своими колоссальными вычислительными мощностями и отсутствием жестких этических ограничений, может обойти их в любой момент.

Когда ты лидируешь с отрывом, правила игры тебе не нужны. Но как только возникает риск потерять лидерство, срочно требуются международные регуляции, «красные линии» и ограничения для всех остальных. За красивыми лозунгами о спасении человечества от «неуправляемой лошади» ИИ скрывается банальное желание зафиксировать статус-кво и юридически затормозить конкурентов.

Конечно, я могу ошибаться, но в большой политике альтруизма не бывает.