폴리티코에 따르면 앤트로픽이 자체적으로 작성한 첨단 AI 안전 규제 법안 초안을 미국 연방의회 의원들에게 비공개로 제안 중.

해당 법안은 AI 모델이 출시될 경우 즉각적으로 발생할 것으로 예측되는 위험이 10억 달러 이상의 재산 피해 또는 50명 이상의 사망·중상으로 이어질 수 있을 때 정부가 모델 출시나 사용을 차단할 수 있도록 규정.

규제 대상 위험에는 AI 모델을 이용한 생물무기 제조·확산, 개발자 통제 이탈, 사이버 공격 등이 포함.

법안 초안에 따르면 평가기관이 해당 위험을 확인할 경우 72시간 이내에 미국 상무부에 보고해야 하며, 상무부가 이를 확인하면 법원에 금지명령을 신청할 수 있도록 허용.

다만 다른 정부 부처가 독자적으로 AI 모델의 연구개발, 배포 또는 내부 사용을 중단시키는 행위는 금지.

또한 AI 개발사에는 모델 안전성 테스트와 결과 공개를 의무화하고, 독립 평가기관의 정기적인 검증을 받도록 요구.