TGViewer
&'a ::rynco::UntitledChannel &'a ::rynco::UntitledChannel @rynif · 4.47K subscribers
Post #41783 298

Forwarded from 每日消费电子观察 (无羽の翼 (「 • ̀ω•́ )「)

BAT 集体重做「AI 预训练」,补「脏数据」的坑

近半年来,国内多家头部AI模型厂商陆续启动预训练“返工”。

有厂商万亿参数模型因网页垃圾、重复语料、标注规则不清及评测集污染,实际表现甚至不及其1%规模的小模型,前期算力和人力投入被大量消耗。

业内人士认为,大模型竞争正从追求参数和数据规模,转向信息密度、语料质量及数据治理能力。随着优质预训练语料、专家数据和智能体长程轨迹日益稀缺,建立贯通数据获取、清洗、评测与训练的合规闭环,将成为AI企业构筑长期竞争力的关键。

https://www.leiphone.com/~
  • 😁 2
More from @rynif
  1. Sep 26, 2026不看现在大模型用的 chat template 的话,容易忘记这玩意和其他软件一样是个一层层抽象叠上去的东西。对话是个幻象,模型读到的依然是个带有很多内部说明的 markup。 比…
  2. Sep 26, 2026毕竟也是向日葵属的,就当你也是向日葵吧。
  3. Sep 26, 2026鬼子姜。
  4. Sep 26, 2026スシズミ🍣台灣百合onlyD20: . https://twitter.com/__4zm/status/2103346620909904069
  5. Sep 26, 2026刘欢9月25日上午9时52分在上海病逝,享年63岁。 (对外经贸大学)
  6. Sep 25, 2026LemonNeko: 为什么大家都在卷一句话生成应用,没有人卷一句话铲掉屎山 😭 https://twitter.com/deleted_neko/status/21034578…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →