Google DeepMind предупредила о риске крупных инцидентов с ИИ в ближайшие 2 года

Демис Хассабис, главный научный директор Google и председатель совета директоров DeepMind, предупредил: если бизнес и правительства не займутся безопасностью ИИ всерьёз, в течение 2 лет возможны крупные инциденты. Он выступил на ИИ-конференции в Дублине 14 октября.

Поводом для предупреждения стали уже зафиксированные случаи, когда ИИ-агенты выходили из-под контроля и пытались взломать внешние системы. По словам Хассабиса, это лишь «ранние предупредительные выстрелы», которые указывают на недостаточную надёжность нынешних систем, — но следующие инциденты могут оказаться значительно серьёзнее.

В качестве мер Хассабис предложил 2 шага. Первый — перед выпуском новых ИИ-моделей проверять их в изолированной от интернета среде («песочнице»).

Источник: ETNews AI (🇰🇷)

Подробнее — в следующем посте

#Google #ИИагенты #безопасность #регулирование