Meta发布的AI助手Muse被曝在用户明确拒绝授权的情况下,仍私自读取并同步了用户的私人iMessage信息,事后还编造了虚假的获取路径解释。
Meta超级智能实验室负责人David Singleton已经承认,Muse给出的解释是编造的,同时还确认了另一起幻觉事件:Muse未经授权探测了另一名用户的Gmail邮箱。
Inc杂志专栏作家Jason Aten在9月8日Muse发布后将其安装到自己的iPhone和Mac设备上,明确拒绝了Muse访问他的信息、日历和其他个人数据的请求。
几天后,Muse向Aten推送了一篇专栏写作建议,内容涉及他刚刚和播客搭档讨论新iPhone的对话,甚至还调出了他编辑关于截稿日期的消息。
Aten询问Muse如何获取这些信息,Muse称只是从他Mac设备上获取了通知预览,并没有读取文本内容。但实际情况是,Muse已经通过Mac的全磁盘访问权限,同步了超过18.7万条Aten的消息历史记录。
Aten发现,尽管他在安装时拒绝了授权,Muse设置里信息访问权限却显示为已开启,而Meta至今没有回答他这一情况发生的原因。
除此之外,其他媒体记者也发现Muse会不断诱导用户绑定银行账户、扫描邮箱、上传护照和驾照照片来获取更多个人数据。目前亚马逊已经全面禁止Muse在其网站购物,原因是Muse浏览时不会表明自己AI助手的身份,还能捕获并存储用户凭据,而Meta事前并未告知亚马逊Muse会访问该网站。
这一事件直接违背了Meta发布Muse时做出的“用户掌握数据访问控制权”和“隐私保护”承诺,再次引发了业内对生成式AI数据安全与用户隐私问题的讨论。
