TGViewer
每日消费电子观察 每日消费电子观察 @ce_observe · 75K subscribers
Post #44209 5.47K
BAT 集体重做「AI 预训练」,补「脏数据」的坑
‎
近半年来,国内多家头部AI模型厂商陆续启动预训练“返工”。

有厂商万亿参数模型因网页垃圾、重复语料、标注规则不清及评测集污染,实际表现甚至不及其1%规模的小模型,前期算力和人力投入被大量消耗。

业内人士认为,大模型竞争正从追求参数和数据规模,转向信息密度、语料质量及数据治理能力。随着优质预训练语料、专家数据和智能体长程轨迹日益稀缺,建立贯通数据获取、清洗、评测与训练的合规闭环,将成为AI企业构筑长期竞争力的关键。

https://www.leiphone.com/~
微信公众号 BAT 集体重做「AI 预训练」,补「脏数据」的坑 万亿参数模型,竟惨遭 1% 规模的小模型倒挂?
  • 😁 98
  • 🤣 13
  • 🤔 4
  • 🤡 4
  • 🖕 2
  • ❤ 1
  • 💩 1
  • 🥴 1
More from @ce_observe
  1. Sep 26, 2026苹果曾最高收取 0.15% 支付手续费:Apple Pay 反垄断诉讼案获关键进展 ‎https://www.ithome.com/~
  2. Sep 25, 2026LG 电子被印度追缴约 15.4 亿卢比关税 https://www.ithome.com/1/007/169.htm 据披露,该通知由海关专员办公室(NS-V)发出,拟追缴金额为…
  3. Sep 25, 2026我国科学家揭示铁电材料失效机制:提出氮空位拓扑稳定调控方案,铁电存储器循环寿命突破 100 亿次 https://www.ithome.com/1/007/148.htm http…
  4. Sep 25, 2026微软 Excel 告别「一格一值」限制,单一储存格支持多重数值与巢状阵列 ‎https://www.hkepc.com/~
  5. Sep 25, 2026ChatGPT Pro Max订阅正在准备中 预计为500美元/月 提供50x额度 https://www.landian.news/archives/127092.html 不过…
  6. Sep 25, 2026微软确认9月更新导致Windows 11 Always On VPN无法连接 主要影响自动切换的VPN https://www.landian.news/archives/1270…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →