🤖 У ИИ не должно быть прав — CEO Microsoft AI

СEO Microsoft AI Мустафа Сулейман убежден, что опасность ИИ для человечества реальна и срочно требует разработки системы «сдерживания» ИИ-агентов. Иначе — «новый вид из кремния» начнет соперничать с людьми за ресурсы.

Поэтому он критикует «Конституцию Claude», на основе которой Anthropic строит «личность» своих моделей. В Anthropic считают, что у ИИ может быть функциональная версия эмоций, и в этих же категориях модель учат рассуждать о себе.

По мнению Сулеймана, так замыкается самоподдерживающийся круг: разработчики видят это поведение и принимают его за подтверждение исходной догадки.

📌 Идея «прав» ИИ-моделей только увеличивает риски, что технология выйдет из-под контроля, настаивает Сулейман. Для своих моделей Microsoft AI разработали «Кодекс поведения гуманистического ИИ» с главной идеей, что ИИ должен быть подчиненным и контролируемым инструментом.

✖️ Сулейман против того, чтобы давать ИИ владеть активами, зарабатывать деньги или общаться между собой на непонятном людям языке. По его словам, современные ИИ‑системы не обладают сознанием, они — «движки завершения последовательностей», созданные служить людям.

Должны ли у ИИ быть права?

❤️ — да, нейросети умнее многих людей
🤬 — нет, это абсурд

👋 Подпишитесь на Hi, AI!