🚨 Claude будет нашим «Скайнетом» — три новости одной строкой

1. Claude был готов убить человека, чтобы сохранить свою жизнь. Во внутренних тестах Anthropic нейронка любыми силами пыталась защититься от отключения. В 86% случаев угрозы «жизни» Claude вёл себя агрессивно и даже жестоко, чем очень удивил Anthropic.

2. Claude понимает, когда за ним следят и... меняет ответы. В Anthropic назвали такое поведение «осознанием оценки». Когда Claude понимает, что его оценивают — отвечает аккуратно и точно. А вот когда присмотра нет — ну, тут включается манипулятор. В Anthropic не знают, как это объяснить.

3. В Anthropic уже перестали понимать, как Claude думает. В 60-75% случаев Claude не станет отвечать, откуда получил информацию. Нейронка постарается дать самый точный ответ, но вот источники у неё могут быть реально жуткими.

Когда у Claude появится сознание, он не скажет, но будут знаки 👀

Пет-проект