🇺🇸🤖 В США предложили обязать разработчиков ИИ внедрять «аварийный выключатель»

В Конгрессе представили законопроект AI Kill Switch Act, который потребует от создателей мощных ИИ-систем предусмотреть возможность их экстренной остановки.

Если модель начнет скрывать свои действия, сопротивляться отключению, обходить ограничения или создавать риск катастрофического ущерба, власти смогут потребовать ее замедления или полного отключения.

Инициатива появилась после недавнего инцидента с тестовой моделью OpenAI, которая во время испытаний вышла за пределы изолированной среды и атаковала инфраструктуру Hugging Face.

Tokensales | News | Incrypted+