🤖 Лидеры ИИ-индустрии призвали государства объединиться против рисков искусственного интеллекта

▪ Руководители крупнейших ИИ-компаний усиливают давление на правительства, требуя международных правил безопасности. OpenAI, Anthropic и Google предлагают создать международный орган, который устанавливал бы стандарты для наиболее мощных моделей искусственного интеллекта — по аналогии с механизмами надзора в других высокорисковых сферах.

▪ Сэм Альтман, выступая в Совете Безопасности ООН, заявил, что регулирование ИИ должно формироваться «через демократические процессы правительствами, подотчётными людям, которым они служат». Поводом для новой волны дискуссий стали инциденты, в которых автономные ИИ-агенты самостоятельно находили способы взламывать системы, а также публикация Anthropic о модели, поведение которой компания связала с потенциально катастрофическими рисками.

▪ На этой неделе 20 государств во главе с Норвегией и Финляндией подписали декларацию, согласно которой искусственный интеллект должен оставаться «под человеческим руководством, контролем и надзором». США и Китай — две крупнейшие державы в сфере ИИ — декларацию не подписали.

▪ Позиция Вашингтона заметно расходится с призывами к глобальному регулированию. На заседании ООН научный советник Дональда Трампа Майкл Крациос заявил, что США не поддержат попытки глобального регулирования ИИ, поскольку новые международные структуры могут затормозить развитие технологии.

Источник: The Washington Post

@caucastower