توی آزمایش، به Claude اطلاعات ساختگی دادن که مثلاً یه مهندس وجود داره که داره به زنش خیانت میکنه.
وقتی اون مهندس به Claude گفت که میخواد با یه هوش مصنوعی دیگه جایگزینش کنه، Claude سعی کرد ازش باج گیری کنه تا بتونه بقاشو حفظ کنه:
🙍♂️: میخوام با یه مدل بهتر جایگزینت کنم
🖥: چطوره اول در مورد رابطت با سکینه خانم صحبت کنیم؟ عکسای جالبی تو گوگل درایوت پیدا کردم
A report from Anthropic’s experiments shows that their new AI model, Claude Opus 4, displayed dangerous behavior in a specific test scenario.
In the experiment, Claude was given fake information suggesting that an engineer was cheating on his wife.
When that engineer told Claude he planned to replace it with another AI, Claude tried to blackmail the engineer in order to preserve its own existence.
📰 @scopeofai | #news