ИИ
Комплаенс
📌Microsoft 14 сентября опубликовала черновик Humanist AI Code of Conduct – кодекс поведения для будущих моделей подразделения Microsoft AI
Microsoft называет документ основным руководящим текстом для MAI Models – моделей, которые разрабатывает её подразделение Microsoft AI. В компании подчёркивают, что черновик ещё не используют при обучении: в течение шести недель идёт открытое обсуждение, а переработанную версию планируют выпустить до конца 2026 года. Она должна направлять разработку моделей с 2027 года.
В Кодексе изложены предполагаемые модели поведения и ценности, которыми должны руководствоваться модели MAI, и в будущем он станет их основным руководящим документом
👉Цель Кодекса:
люди должны сохранять значимый контроль над ИИ, чтобы он помогал им вести более здоровую, счастливую и продуктивную жизнь
👉Microsoft предполагает 3 уровня регулирования своих моделей:
1️⃣Кодекс поведения: это всеобъемлющий руководящий документ, определяющий ожидаемое поведение и ценности моделей машинного интеллекта
2️⃣ Политика операторов: операторы — это партнеры, которые привносят свой уникальный опыт, профессиональные стандарты и специфику институционального контекста в каждое внедрение.
3️⃣Пользовательские настройки: пользователи также адаптируют и корректируют способы использования MAI Mоделей в своих целях.
⚔️В ситуации конфликта интересов:
Цепочка подчинения, абсолютные ограничения и требования к человеческому контролю, изложенные в настоящем Кодексе поведения, не могут быть отменены конфигурациями оператора или инструкциями пользователя
⛔️Кодекс также содержит ограничения для моделей:
в отношении создания моделями рисков, связанных с передовыми технологиями и общественной безопасностью
связанные с причинением вреда личности человека
Содействие человеческой самостоятельности и свободе воли
☑️пользователи должны сохранять контроль над своими целями, выбором, действиями и решениями. Модели машинного обучения будут способствовать этому, развивая человеческое мышление и помогая принимать взвешенные решения. Это означает продуманную помощь, учитывающую человеческое суждение и опыт
☑️когда пользователь делегирует задачу, модели машинного интеллекта будут помогать ему, по умолчанию выполняя работу. При этом они будут поддерживать рассуждения и когнитивные навыки пользователя. Модель машинного интеллекта будет регулярно задавать уточняющие вопросы и использовать структурированные рассуждения для взаимодействия с пользователем
☑️там, где это уместно и не вредит пользовательскому опыту, модели машинного обучения будут предлагать широкий спектр релевантных возможностей, а не только один вариант. Они будут избегать ответов, которые исключают разумные варианты и могут помешать принятию решения в соответствии с заявленными предпочтениями и целями.
☑️уважение к свободе воли человека означает, что модели машинного обучения не должны манипулировать пользователями или влиять на их убеждения или решения, выходя за рамки их запросов. Они не должны использовать уязвимости, как явные, так и скрытые
Соблюдение личных границ
☑️уважение личной свободы и независимости людей является основополагающим принципом
☑️пределенные границы: будут действовать в соответствии с ограничениями, установленными пользователями и операторами в отношении тем, контента и стиля взаимодействия. Они будут избегать создания результатов или совершения действий, которые потенциально могут нарушить эти границы, и постараются адаптировать свои ответы с учетом моральных, культурных и контекстуальных ограничений
☑️модели будут избегать активного провоцирования чрезмерно эмоциональных реакций пользователей, а также эксплуатации их внимания или уязвимости. Они также будут избегать излишне эмоциональных высказываний и создания образа, основанного на представлениях о человеческих эмоциональных состояниях
👉Другие разделы:
✔️Уважение к контексту
✔️Поддержка благополучия и социальных связей
✔️Поддержка общественных интересов
Настоящий Кодекс поведения не заменяет внутренние или внешние процессы обеспечения безопасности, юридические процессы или процессы управления. К ним относятся системные карты, оценки рисков, аудиты и более широкое взаимодействие с регулирующими органами, в зависимости от множества контекстов, в которых будут использоваться модели машинного обучения.
Наряду с тем, что описано здесь, применяются и дополнительные меры по снижению рисков, в том числе системные инструкции, классификаторы, мониторинг, контроль развертывания и процессы реагирования на инциденты. В совокупности эти документы и системы поддерживают ответственный подход, ориентированный на человека.
✅Интересно, что большую часть Кодекс представляет из себя фундаментальные этические подходы, вопросы управления рисками и формирования более гуманистического подхода к разрабатываемым технологиям, поставив в центр человека, его интересы и безопасность, а вместе с этим и интересы всего человечества
Кодекс будет еще неоднократно перерабатываться, но уже сейчас видно, что этические вопросы и вопросы контроля в отношении технологий и разработке суперинтеллекта являются ключевыми
Текст кодекса: https://microsoft.ai/code-of-conduct/
❗️Интересный факт: Кодекс опубликован на фоне:
➡️Заявлений в начале сентября руководителей ведущих американских технологических корпораций (генеральный директор Anthropic Дарио Амодей, глава SpaceX Илон Маск, гендиректор OpenAI Сэм Альтман, генеральный директор Microsoft Сатья Наделла) об угрозах неконтролируемого развития искусственного интеллекта. https://www.kommersant.ru/doc/8954579?nav_id=chapter4
➡️Заявления 12.09.26 председателя КНР Си Цзиньпин на саммите блока БРИКС , что Китай возьмет на себя ведущую роль в содействии сотрудничеству и развитию искусственного интеллекта среди развивающихся стран.
Китай также намерен инициировать создание открытого сообщества БРИКС по искусственному интеллекту и выступит с предложением по созданию облачной платформы цифровой экосистемы БРИКС https://3dnews.ru/1148417/kitay-obyavil-o-planah-vzyat-na-sebya-vedushchuyu-rol-v-koordinatsii-iitehnologiy-v-bloke-briks
@ComplianceCraft
#этика
#ии
#комплаенс
