Anthropic и OpenAI готовятся к первой катастрофе по вине ИИ. В отрасли ждут ее в ближайший год — Axios

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Руководители Anthropic, OpenAI и других разработчиков искусственного интеллекта непублично прорабатывают сценарии на случай первой катастрофы по вине ИИ и общественного и политического возмущения, которое за ней последует, пишет Axios. Самым вероятным вариантом они считают масштабную кибератаку, которая отключит банковские сервисы, интернет или даже электричество и воду. Многие собеседники издания в индустрии ждут такого события в ближайшие 6–12 месяцев. 

Компании исходят из того, что демократы в США усилятся по итогам промежуточных выборов 3 ноября и после катастрофы быстро попытаются ограничить ИИ. Сейчас, по оценке самих компаний, принять какое-либо регулирование невозможно, поэтому они заранее работают с конгрессменами, чтобы повлиять на законы, которые власти будут вводить уже после первого инцидента.

Варианты уже есть: сенатор Берни Сандерс предлагает запретить сверхинтеллект (ИИ, превосходящий человека), сенатор-демократ Элизабет Уоррен требует приостановить разработку передовых моделей, а конгрессмены от обеих партий внесли законопроект, обязывающий разработчиков иметь «рубильник» для отключения опасных систем. 

OpenAI подтвердила Axios, что проводит учения с разными сценариями, но неизбежными их не считает. Anthropic от комментариев отказалась.

Срок при этом совпадает с прогнозом гендиректора Anthropic Дарио Амодеи. В сентябре он написал, что через 6–12 месяцев рой ИИ-агентов (программ, которые действуют автономно) сможет захватить интернет и нанести ущерб на сотни миллиардов долларов, и призвал индустрию замедлиться — мы подробно рассказывали об этом в рассылке.