Microsoft: стиральную машину и молоко проверяют строже, чем ИИ
⠀
Президент Microsoft Брэд Смит в интервью британскому телевидению выдал сравнение, которое трудно забыть: ИИ сегодня регулируют слабее, чем стиральную машину и даже пачку молока.
⠀
Чего он просит:
— Независимые проверки моделей до запуска
— Аварийный тормоз: возможность отключить систему
— Обязанность сообщать, если агент вышел из-под контроля
— Ответственность разработчиков за катастрофы по небрежности
⠀
Билл Гейтс предупреждал, что нынешний ИИ способен обрушить банки и электросети, и Смит с этим не спорит. Тормозить инновации в США, по его словам, не стоит, а Великобритания в год председательства в G20 могла бы возглавить разговор о правилах.
⠀
Звучит как редкая честность: правил просит компания, которая сама продаёт ИИ миллионам. Мы бы посмотрели, кто из ИИ-компаний первым добровольно согласится на независимую проверку. Хотя бы на уровне молока.
⠀
RAGNAROK | ИИ и технологии