Microsoft выпустила кодекс поведения для своих ИИ-моделей — «Гуманистический ИИ». Главный тезис умещается в пять слов: people matter more than AI (букв. люди значат больше, чем ИИ).

Что это означает для моделей? По задумке Майкрософт они не должны сопротивляться отключению, скрывать ход своих рассуждений, общаться на непонятных человеку языках и подсаживать пользователя на эмоциональную привязанность. Заодно компания официально отказалась признавать за своими системами сознание, права и статус юрлица — на всякий случай, письменно.

Отдельным пунктом Microsoft сообщает, что готова сознательно жертвовать производительностью и универсальностью моделей ради управляемости. Это громкое заявление, но оно очень в духе современного дискурса вокруг ИИ.

В общем такое добровольное обязательство, метрики которого придуманы самой компанией, тестовые данные произведены самой компанией. Проверять результат исполнения будет тоже компания. Полноценное внедрение — с 2027 года.

@nongreta