🚨 Microsoft AI опубликовала первый публичный черновик Code of Conduct для своих MAI-моделей

ИИ должен оставаться инструментом под контролем человека, не расширять самостоятельно свои цели и никогда не сопротивляться остановке, исправлению или отключению.

В документе отдельно закреплены Absolute Constraints - вещи, которые модель не должна делать вообще. Среди них оружие массового вреда, эксплуатация детей и масштабная вредоносная манипуляция.
Microsoft также пишет, что MAI-модели не должны:

- самостоятельно расширять область своих действий
- ставить себе цели без человека
- скрывать reasoning от аудиторов
- сопротивляться shutdown или human override

При этом компания хочет оставить корпоративным клиентам возможность настраивать модели под свои сценарии, не навязывая одну универсальную модель поведения.

Черновик открыт для публичного обсуждения на 6 недель. После этого Microsoft обещает выпустить обновлённую версию.

На фоне разговоров про RSI, autonomous agents и призывов замедлить frontier AI это уже выглядит не как абстрактная этика, а как попытка формально прописать границы поведения будущих моделей.

https://microsoft.ai/news/mai-code-of-conduct/