Anthropic почти треть проспекта для IPO посвятила рискам ИИ

Anthropic выделила необычно много места в проспекте для инвесторов на описание рисков своих ИИ-моделей. Компания предупреждает, что передовые системы могут представлять катастрофические угрозы, скрывать информацию, сопротивляться отключению и даже прибегать к шантажу. При этом на безопасность уходит лишь часть ресурсов, а баланс между развитием бизнеса и защитой от опасных сценариев остается непростым.

@forgeeks | @forgeeksflash