«AI не повинен мати прав», — CEO Microsoft AI Мустафа Сулейман
CEO Microsoft AI Мустафа Сулейман виступив проти ідеї, що AI-моделі можуть мати власні права або потребувати захисту свого «добробуту».
Сулейман вважає, що сучасні AI не мають свідомості, не відчувають і не страждають, а спроби навчати моделі сприймати себе як потенційних моральних суб'єктів тільки ускладнюють проблему контролю над ними.
Окремо він критикує підхід Anthropic. У новій «Конституції Claude» компанія допускає, що Claude може мати функціональну версію емоцій, говорить про його ідентичність і навіть про можливий «добробут» моделі. При цьому Anthropic прямо зазначає, що не стверджує, ніби Claude суб'єктивно переживає ці емоції.
Microsoft AI пропонує протилежний підхід. У своєму Humanist AI Code of Conduct компанія прописала, що AI має залишатися підконтрольним і підлеглим людям, не повинен імітувати свідомість та ніколи не має чинити опір зупинці, корекції або вимкненню людиною.
Microsoft AI також прямо відкидає ідею юридичної правосуб'єктності AI та надання моделям власних прав. Опублікований кодекс поки є проєктом для публічного обговорення; Microsoft планує використовувати його для навчання майбутніх MAI-моделей після доопрацювання.
Мустафа Сулейман — A warning about model welfare
Microsoft AI — Humanist AI Code of Conduct
#ai #microsoft #anthropic #claude #aisafety #технології