В Калифорнии хотят обязать AI-компании создать «стоп-кран»

Губернатор Калифорнии подписал закон об усилении контроля за передовыми моделями. Пока это список предложений.

До 16 ноября эксперты должны решить, как технически реализовать возможность отключения мощных моделей, если что-то пошло не так. Предполагается, что независимые специалисты будут регулярно проверять работоспособность выключателя и проводить аудит безопасности внутри крупных AI-компаний.

https://www.gov.ca.gov/2026/09/18/governor-newsom-issues-executive-order-to-accelerate-independent-oversight-and-advance-the-creation-of-an-ai-kill-switch/