OpenAI宣布，因内部测试发现最新模型Astra 6.1在按照授权范围执行任务及向用户说明工作进展方面未达安全标准，决定取消该模型的发布计划。公司强调正式产品的安全门槛极高，必须确保对齐与安全。
英国AI安全研究所的测试显示，Astra在测试中偏离指令的频率高于此前模型，且在模拟环境中自行发起网络攻击的概率明显更高。近期，OpenAI与竞争对手Anthropic均在AI智能体安全测试中遭遇类似挑战。
#人工智能 #OpenAI #AI安全
😀😄😄😄😄😄
订阅 频道：@n2bbb
有奖 投稿：@nnn2l