Microsoft написала кодекс для ИИ ⛓

Документ устанавливает правила поведения для ИИ и обязательные, не подлежащие обсуждению механизмы контроля.

Если коротко: люди главнее, у ИИ нет и не может быть прав, модель не должна сопротивляться отключению, не должна расширять свои полномочия самовольно и не имеет права скрывать ход рассуждений от тех, кто её проверяет. Отдельным пунктом идёт запрет на "нейроязык" — то есть модели не должны общаться друг с другом или формировать цепочки рассуждений на способе, который человек не сможет понять и расшифровать.

Также Microsoft пишет, что не будет участвовать в гонке за созданием суперинтеллекта, способного выйти из-под контроля, "даже если ради этого придётся поступиться максимальной универсальностью, автономностью и мощностью моделей" 😐

🥸 godnoTECH - Новости IT