Anthropic 据悉探讨 AI 智能体谈判规则，正寻求法律界建议
金十数据 10 月 18 日讯，据英国金融时报，Anthropic 正与法律界人士展开磋商，探讨如何解决一个新问题：AI 智能体应如何通过谈判，为人类用户争取最有利的交易条件。随着个人 AI 智能体兴起，AI 公司开始设想这样一种未来：不同智能体之间能够相互沟通，并代表用户展开谈判。两名了解 Anthropic 内部想法的人士表示，该公司正向律师事务所寻求建议，以更好地了解律师如何在谈判中代表客户利益，同时兼顾公平的谈判结果。消息人士表示，该公司一直在研究 AI 模型相互交互时应遵循的“谈判规范”。随着智能体系统能力不断提升，它们将在“代表用户”行事的同时，遇到其他“目标存在冲突”的智能体。Anthropic 还在权衡智能体应在谈判过程中多大程度上征求人类反馈，以及智能体应对其他 AI 智能体保持多高程度的警惕，同时避免变得“偏执”或陷入“阴谋论式思维”。