Дискуссия в ООН о рисках новых технологий
 
Главы крупнейших американских компаний, занимающихся искусственным интеллектом, заявили в Совете Безопасности ООН о необходимости глобального контроля над этой технологией, пишет американская The New York Times. Однако президент Трамп уже категорически отверг эту идею.
 
Авторы: Дастин ВОЛЦ, Фарназ ФАССИХИ
 
Руководители ведущих американских ИИ-компаний заявили, что технология, к созданию которой они приложили руку, способна бросить обществу серьезный вызов. Мировым державам было сказано прямо: без международного сотрудничества ее дальнейшее развитие под контроль не взять.
 
Совет Безопасности ООН собрался на первое заседание по искусственному интеллекту в момент, когда в мире нарастает тревога по поводу возможного выхода этой новой технологии из-под контроля. Совбез не может прийти к единому мнению по вопросу, какие глобальные меры в отношении ИИ стоит вводить, если они вообще нужны.
 
На встрече, устроенной на полях заседания Совета Безопасности в рамках Генассамблеи, выступили Сэм Альтман (OpenAI) и Дарио Амодеи (Anthropic).
 
Выступая по отдельности, руководители ИИ-компаний заявили, что страхи насчет этой технологии отнюдь не беспочвенны. Они призвали государства немедленно заняться этим вопросом. Их мрачные оценки резко разошлись с речью президента Трампа в ООН днем ранее: он осудил «глобалистскую схему» контроля над ИИ и пообещал не тормозить эту технологию.
 
Альтман, прибывший лично и говоривший около 10 минут, заявил: разговор об искусственном интеллекте за последние недели заметно сместился – столь быстрый прогресс сделал «выгоды ощутимее, но и риски – ближе». Читая ровным голосом подготовленный текст, Альтман объявил, что у мира есть выбор. Можно использовать мощь ИИ ради «нового ренессанса творчества и открытий – или новой промышленной революции потрясений и хаоса».
 
Возвращаясь к вопросу о недавних бурных дебатах о том, грозит ли искусственный интеллект самому существованию человека, Альтман заметил: «Неважно, оценивают ли люди риск катастрофы в 10%, 1%, 12 % или 0,1%. Ни один из этих уровней даже близко не приемлем».
 
Амодеи, взявший слово после Альтмана, предостерег куда жестче: ИИ вот-вот станет угрозой для человечества. Он призвал мир замедлить темпы развития этой технологии.
 
Призыв Амодеи к ограничениям подхватили и Альтман, и Илон Маск (SpaceX AI), и другие тяжеловесы отрасли. «Считаю, это важнейшая проблема глобальной безопасности, стоящая сегодня перед миром, – сказал Амодеи, выступая по видеосвязи. – А при скверном управлении искусственный интеллект, я убежден, способен стать риском для всего человечества». Он призвал Совбез начать с «узких соглашений» – включая запрет на применение ИИ для создания биологического оружия – и стандартов оценки и проверки его возможностей. Под конец он выступил за общие мировые стандарты тестирования моделей на риски утраты контроля и за систему оповещения о злоупотреблениях, «значимых для глобальной безопасности».
 
Альтман и Амодеи, чьи соперничающие компании обе идут к первичным размещениям акций (те, как ожидается, потянут на триллионы долларов), подчеркнули необходимость глобального сотрудничества с индустрией ИИ, чтобы технология оставалась безопасной.
 
Продолжение читайте на нашем сайте!
 
#зарубежноедосье
#иносми