Один чиновник сможет отключить любой ИИ

Один человек сможет отключить любой ИИ. В США предложили закон, дающий главе нацбезопасности право остановить «опасные» системы.

Законопроект «AI Kill Switch Act» звучит как фантастика: глава Министерства внутренней безопасности США сможет единолично принять решение об экстренном отключении любой «опасной» системы ИИ. Это парадокс: один чиновник будет определять критерии угрозы и судьбу алгоритмов, которые по определению автономны и непредсказуемы.

Вместо проработанных протоколов мы получаем политическую кнопку «стоп», эффективность которой зависит от одного человека, а не от системной логики.