📖💻 Microsoft AI опубликовал кодекс для «гуманистического ИИ»

Microsoft AI опубликовала проект 38-страничного Кодекса поведения для собственных моделей ИИ, основанного на концепции «гуманистического ИИ» (Humanist AI) генерального директора компании Мустафы Сулеймана. Кодекс имеет приоритет над командами пользователей моделей Microsoft AI: если модель не может выполнить задачу, не нарушив установленное правило, она должна отказаться от её выполнения.

Кодекс исключает права ИИ, юридическую правосубъектность и понятие «благополучия» модели, а также требует, чтобы модели не имитировали чувства или самоощущение.

Кодекс также требует, чтобы модели принимали возможность приостановки работы или отключения, запрещает им изменять записи своего процесса рассуждения и использовать «neuralese» (сокращённый язык, непонятный людям).

Проект открыт для публичных комментариев в течение шести недель.

#ИИ #AIGovernance