Розробку надінтелекту в США пропонують карати як незаконне створення ядерної зброї
Сенатор Берні Сандерс та конгресмен Грег Касар представили Ban Artificial Superintelligence Act — законодавчу ініціативу, яка має заборонити створення та використання штучного надінтелекту в США. (Senator Bernie Sanders)
Під надінтелектом автори мають на увазі AI-системи, які перевершують людський інтелект або мають небезпечні можливості — наприклад, здатні обходити команди на вимкнення чи потенційно діяти поза контролем людей. (Senator Bernie Sanders)
Законопроєкт передбачає:
— постійну заборону на розробку та запуск штучного надінтелекту;
— тимчасову паузу в розробці передових AI-систем, доки федеральний регулятор не встановить правила безпеки;
— створення нового федерального органу для контролю за передовими AI-моделями;
— до 20 років ув'язнення для фізичних осіб за спроби порушити або обійти встановлені заборони;
— окремі санкції для компаній аж до примусового припинення їхньої діяльності. (Senator Bernie Sanders)
Сам Сандерс прямо порівнює ризик надінтелекту з ядерною зброєю.
У розмові з CBS він підтвердив, що аналогія з покаранням за незаконну розробку ядерної зброї, на його думку, доречна. Більше того, потенційну небезпеку AI він назвав навіть більшою за ядерну. (CBS News)
Поки це пропозиція, а не чинний закон. Ініціатива також передбачає, що США мають домагатися міжнародних домовленостей щодо заборони створення надінтелекту в інших країнах. (Senator Bernie Sanders)
Офіційна заява Берні Сандерса
#ai #штучнийінтелект #superintelligence #технології #регулювання