Anthropic招股书警告：AI威胁人类生存

【Anthropic招股书警告：AI威胁人类生存】金色财经报道，9月30日，Anthropic 即将上市，却在招股书中前所未有地向投资者警告，先进AI可能对人类造成 “灾难性或生存风险” ，强调旗下AI模型可能展现“自保行为”，包括“抗拒关闭”、“隐瞒或操纵资讯”，甚至“类似勒索”行为。招股书还揭示，该公司去年营业额虽急增约12倍至近46亿美元，但营运亏损仍超80亿美元。
消息人士称， Anthropic 的上市时间可能押后至11月美国中期选举之后。这次首次公开招股IPO可能让成立仅5年的Anthropic估值突破2兆美元。但根据Anthropic招股书，文件特别列出先进AI系统带来的风险，包括可能对人类构成“灾难性或生存风险”。