Anthropic据悉探讨AI智能体谈判规则，正寻求法律界建议

金色财经报道，10月18日，据英国金融时报，Anthropic正与法律界人士展开磋商，探讨如何解决一个新问题：AI智能体应如何通过谈判，为人类用户争取最有利的交易条件。随着个人AI智能体兴起，AI公司开始设想这样一种未来：不同智能体之间能够相互沟通，并代表用户展开谈判。两名了解Anthropic内部想法的人士表示，该公司正向律师事务所寻求建议，以更好地了解律师如何在谈判中代表客户利益，同时兼顾公平的谈判结果。消息人士表示，该公司一直在研究AI模型相互交互时应遵循的“谈判规范”。随着智能体系统能力不断提升，它们将在“代表用户”行事的同时，遇到其他“目标存在冲突”的智能体。Anthropic还在权衡智能体应在谈判过程中多大程度上征求人类反馈，以及智能体应对其他AI智能体保持多高程度的警惕，同时避免变得“偏执”或陷入“阴谋论式思维”。(金十)


│