Глава Microsoft предложил «аварийный тормоз» для ИИ-моделей

Сатья Наделла призвал строить ИИ-системы так, чтобы человек всегда мог остановить модель или полностью отключить её во время работы. По его мнению, управление, ограничения доступа и средства защиты должны находиться вне самой модели, а каждое важное действие — оставлять проверяемый след. Идея прозвучала на фоне недавних инцидентов с ИИ-агентами и новых обсуждений ответственности разработчиков.

@forgeeks | @forgeeksflash