🤖 Anthropic предложила правила отключения мощных ИИ

Создатель Claude представил американским законодателям проект правил безопасности передовых ИИ, сообщает Politico. Это предложение компании, а не принятый закон.

По описанию проекта, приостановить модель сможет федеральный суд по обращению Минторга США. Основание – предсказуемая и непосредственная угроза ущерба свыше $1 млрд либо гибели или тяжёлых травм более 50 человек. Речь о биологическом оружии, кибератаках или выходе ИИ из-под контроля разработчика.

Проект также предусматривает независимые проверки моделей. Лаборатории смогут оплачивать их, если вознаграждение не зависит от результата. Anthropic подтвердила Reuters, что документ отражает её ранее опубликованную программу.

Даже кнопке выключения ИИ прописали условия использования.