Сатья Наделла: ИИ нужно считать скомпрометированным

Глава Microsoft Сатья Наделла призвал изменить подход к разработке искусственного интеллекта. По его мнению, мы больше не можем доверять нейросетям как «черным ящикам».

Наделла предлагает внедрить систему «аварийного тормоза». Суть в том, что любой продвинутый ИИ изначально должен считаться скомпрометированным. Это позволит в любой момент остановить работу модели, если она ведет себя подозрительно.

Для безопасности он также настаивает на:

• Независимом аудите систем.
• Публичном раскрытии инцидентов.
• Проверке данных, на которых обучаются модели.
• Создании технологий для контроля за действиями ИИ в реальном времени.

По словам главы Microsoft, у человека всегда должна быть возможность вмешаться в процесс и отключить модель прямо во время выполнения задачи.

рекомендуем:
@CNBC_Russia