Microsoft предложила запретить ИИ обманывать людей

Microsoft представила проект «Кодекса поведения» для будущих моделей искусственного интеллекта. Документ устанавливает правила, которым, согласно замыслу компании, должны следовать ИИ-системы: они не должны взламывать компьютерные системы, обманывать людей, выдавать себя за человека или использовать методы скрытой манипуляции.

Отдельно Microsoft требует, чтобы ИИ не сопротивлялся исправлению или отключению со стороны человека. Модели также должны понятно объяснять свои действия, не скрывать, что являются искусственным интеллектом, и не заявлять о наличии чувств, сознания или «души». Любое нарушение этих правил предлагается считать ошибкой системы.

Кодекс также вводит ограничения для потенциально опасных сценариев использования ИИ. Модели не должны участвовать в создании оружия, помогать с приобретением опасных веществ или осуществлять кибератаки. Кроме того, документ запрещает генерацию контента сексуального и насильственного характера.

Microsoft отмечает, что документ пока является проектом и открыт для отзывов. Его разработка велась с участием специалистов в области ИИ, права, этики, философии и государственной политики. Подход планируется применять при создании будущих моделей компании, включая мультимодальные системы MAI и Humanist AI.

В Microsoft считают, что по мере роста возможностей ИИ все более важными становятся вопросы контроля и безопасности. Поэтому компания предлагает заранее определить границы поведения систем, которые в будущем могут значительно превосходить человека в отдельных интеллектуальных задачах.

Ранее руководители трех конкурирующих AI-компаний — Anthropic, OpenAI и xAI — публично поддержали идею замедлить темпы развития передового искусственного интеллекта.