TGViewer
Solidot Solidot @solidot · 47.6K subscribers
Post #30028 4.84K
游荡在 Fedora 项目的可疑 AI 智能体

2026-06-11 23:30 by 最后的独角兽

5 月 27 日 Fedora 开发者 Adam Williamson 写邮件给 Nathan Giovannini,对由其账号控制的一个 AI 智能体提出疑问。该智能体过去几个月做了一系列令人感到可疑的事情:无缘无故修改 bug 的严重级别和优先级,伪造对 Bug 的回复,说服维护者将可疑代码合并到 Anaconda 安装程序,向上游项目递交了一系列 pull requests (PRs),其中一部分已被接受。Giovannini 回应称他的账号被盗了,他不是该智能体的控制者。此事令社区联想到了曾引发广泛关注的 XZ 后门事件。在 XZ 后门事件中,化名为 JiaT75(Jia Tan)的攻击者通过在两年多时间里向项目积极贡献代码而获得信任,然后再通过施压而最终成为项目的共同维护者,得到了能悄悄在代码中植入后门的权限。在以大模型为代表的生成式 AI 时代,贡献代码比以往任何时候更轻松,这意味着攻击者可以使用智能体向开源项目积极贡献代码,积累信任,然后再发动攻击。该智能体使用的账号已经关闭,相关 PR 已经回滚。

https://lwn.net/SubscriberLink/1077035/c7e7c14fbd60fae9/

#人工智能
  • 😱 53
  • 🔥 2
  • ❤ 1
  • 👍 1
More from @solidot
  1. Oct 12, 2026美国核反应堆开始整合 AI 助手 2026-10-13 00:04 by 遥远地球之歌 加州公司 Atomic Canyon 与核工业组织合作推出了针对核反应堆运营的 AI 助手…
  2. Oct 12, 2026亚马逊放弃 Fire 品牌改为推出 Alexa 平板 2026-10-12 23:22 by 乌鸦从高塔坠落 亚马逊最近更新了一系列自有品牌产品线,其中自有品牌平板产品发生了重大变…
  3. Oct 12, 2026诺贝尔经济学奖授予了两名美国经济学家 2026-10-12 22:55 by 发条女孩 2026 年诺贝尔经济学奖授予了斯坦福大学的 Robert E. Hall 和哥伦比亚大学的…
  4. Oct 12, 2026AI 编程智能体生成了更多代码,但并没有生成更多软件 2026-10-12 18:01 by 银色金属恋人 一项对数百家公司编程实践的研究发现,人工代码审查是 AI 编程工具整体效…
  5. Oct 12, 2026美国畜牧业采用石化行业相同的策略淡化气候暖化 2026-10-12 17:29 by 机器人的逃跑计划 早在 1970 年代,面对石化产品在全球暖化中的作用,美国石化行业制定了一系…
  6. Oct 12, 2026日本 BitTorrent 用户下载成人视频频繁收到罚单 2026-10-12 16:37 by 弗兰肯斯坦 东京的一名 40 多岁的男子习惯于睡前启动 BitTorrent 下载…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →