К дискуссии о том, надо ли замедлять разработку ИИ, чтобы он досрочно всех не перебил, присоединился Сатья Наделла.
Гендир Microsoft написал в X, что пришло время «отступить назад и оценить архитектуру доверия сверхинтеллекта» (Super Intelligence), так по-трамповски назвал он искусственный интеллект.
Он призвал документировать «каждое значимое действие модели» с помощью «защищенных от подделки, читаемых человеком доказательств» и создать систему, где «уполномоченное лицо» всегда имеет возможность «приостановить или остановить работу модели в середине задачи»:
Мы должны исходить из того, что модель скомпрометирована, и изолировать ее с самого начала. Представьте это как аварийный тормоз.
🟦 Подписаться / Мы в MAX