🔴 Глава Microsoft предложил создать «аварийную кнопку» для остановки ИИ

Генеральный директор Microsoft Сатья Наделла считает, что у продвинутых систем искусственного интеллекта должен быть механизм экстренной остановки. Уполномоченный человек должен иметь возможность приостановить или полностью отключить ИИ даже во время выполнения задачи.

В публикации в X Наделла предложил пересмотреть подход к безопасности ИИ. По его мнению, разработчики должны изначально исходить из того, что модель может быть скомпрометирована, и создавать механизмы защиты независимо от неё.

🌐 Он выделил несколько принципов:

• Отделять ИИ-модель от системы, которая управляет ее действиями.
• Размещать механизмы безопасности вне самой модели.
• Фиксировать важные действия ИИ в защищенных от изменений журналах, понятных человеку.
• Обеспечивать возможность остановить модель в любой момент.

Наделла сравнил такой подход с аварийным тормозом. По его мнению, по мере роста автономности ИИ недостаточно просто доверять его ответам и решениям — необходимо сохранять контроль над действиями системы.

#новости

#Microsoft #AI #ИскусственныйИнтеллект #технологии

📷 BlueScreen | Digital Kazakhstan