Просто безумная история с Claude: нейронка стала реально злой и начала массово шантажировать пользователей. В Anthropic офигели и шустренько провели расследование с невероятным результатом.

Пересказывать всё не буду, но вывод такой. Claude стал злым, потому что... люди считают его злым. В дата-сет на обучение модели попало огромное количество инфы про злые нейросети, Скайнет и конец света.

То есть мы сначала придумали пугалку, насоздавали террабайты инфы с ней, а Claude всё это впитал и превратился в реального злодея.

Как вам такой киберпанк?

Пет-проект