Глава Microsoft призвал создать «аварийный тормоз» для ИИ

Глава корпорации Microsoft Сатья Наделла заявил о необходимости создания «аварийного тормоза» для искусственного интеллекта. Об этом сообщает «РБК».

По его словам, при внедрении программных систем в различные отрасли экономики ранее были инструменты для отслеживания систем до конкретного участка кода. В современных ИИ-системах подобное понимание механизмов недоступно для человека, и люди не способны связать поведение модели с данными, использованными при обучении.

Наделла считает, что необходимо окружить недетерминированные модели надежной архитектурой, средствами контроля человеком и проверенными эксплуатационными процедурами. Он также назвал принципы наблюдаемости, на которые компаниям следует опираться: разнообразие моделей, наблюдение за всеми действиями, возможность проверки, независимые средства контроля и аудит, изоляция и сдерживание, раскрытие информации об инцидентах.

@Runet