Опасно учить ИИ сознанию и важности интересов благосостояния, заявили в Microsoft.

Глава подразделения искусственного интеллекта компании призвал исключить все рассуждения о сознании из документов по обучению ИИ, пишет Reuters.

Мустафа Сулейман утверждает, что подобная формулировка может «подорвать способность человечества управлять сверхинтеллектуальными системами».

В пример он привёл подход компании Anthropic: научив нейросеть Claude тому, что она, возможно, заслуживает социальной помощи, они значительно усложняют задачу по контролю за ней.

Ранее главы компаний Anthropic и OpenAI призвали замедлить развитие моделей ИИ для безопасности и возможности контролировать эту технологию.

🟩 Подписаться на RT: ТГ | Зеркало | MAX