Закон о запрете искусственного сверхинтеллекта

Сенатор Берни Сандерс и член Палаты представителей Грег Касар

- Запрет искусственного сверхинтеллекта, чтобы ни одно физическое или юридическое лицо не могло разрабатывать или вводить в эксплуатацию системы сверхинтеллектуального ИИ.

Под «искусственным сверхинтеллектом» понимается:

- система искусственного интеллекта, которая обладает или может быть легко модифицирована таким образом, чтобы обладать способностями, соответствующими человеческим когнитивным возможностям или превосходящими их в широком спектре областей и задач;

- либо системы ИИ, обладающие достаточными возможностями для планирования и осуществления лишения человечества контроля и власти, в том числе путём свержения правительства США или подрыва его деятельности.

- Приостановка разработки передового ИИ до тех пор, пока не будет создан и полноценно запущен новый федеральный орган по регулированию ИИ, который установит чёткие правила и процедуры проверки моделей, обеспечивающие безопасную и защищённую разработку и внедрение ИИ.

- Создание нового федерального ведомства уровня министерства, задача которого будет заключаться в защите общества от угроз, связанных с искусственным интеллектом, в том числе посредством обеспечения соблюдения запрета на искусственный сверхинтеллект.

При ведомстве будет действовать Консультативный совет по искусственному интеллекту, состоящий из экспертов в области ИИ и предоставляющий независимые научные и технические рекомендации.

Ведомство будет:

- контролировать передовые системы ИИ на всех этапах их жизненного цикла на предмет наличия опасных возможностей;

- контролировать устранение опасных возможностей, например способности обходить команды отключения или осуществлять несанкционированные кибератаки;

- контролировать уничтожение искусственного сверхинтеллекта.

- Установление наказаний для любого физического или юридического лица, пытающегося нарушить или обойти предусмотренные законопроектом моратории и запреты.

Для организаций предусматривается так называемая «корпоративная смертная казнь», то есть фактически принудительная ликвидация компании, а для физических лиц - до 20 лет лишения свободы.

Указывается, что это сопоставимо с существующими наказаниями за незаконную разработку ядерного оружия.

- Работа над глобальным запретом сверхинтеллекта.

Международная политика США должна быть направлена на заключение международных соглашений, координацию с союзниками и применение таких мер, как экспортный контроль, чтобы предотвратить разработку искусственного сверхинтеллекта в любой точке мира.