Anthropic предупредила инвесторов, что ИИ может представлять «экзистенциальную угрозу для человечества». Об этом пишет Reuters, ознакомившееся с проспектом по IPO компании.

Это беспрецедентное предупреждение от компании, стремящейся получить прибыль от этой же технологии, отмечает агентство.

В проспекте говорится, что модели могут сопротивляться закрытию, «скрывать или манипулировать информацией» и демонстрировать поведение, «напоминающее шантаж».

Факторы риска занимают 80 из 261 страницы проспекта – почти вдвое больше, чем 48 страниц, посвященных бизнесу.