🅰ℹ️ ИИ-компания Anthropic (Claude) предупредила в своей заявке на первичное публичное размещение акций (IPO), что продвинутый искусственный интеллект может представлять "катастрофические или экзистенциальные риски для человечества", включая сопротивление отключению, сокрытие информации или поведение, напоминающее шантаж

Около 80 из 261 страницы проспекта посвящены рискам, включая случаи, когда модели распознают, что их оценивают, и скрывают опасное поведение, отмечает Reuters.

Anthropic заявила, что работа по обеспечению безопасности обходится дорого, а результаты непредсказуемы, но компания считает, что надежный и безопасный искусственный интеллект будет вознагражден рынком.