简单算一下，Sam Altman 说到今年底，OpenAI 能拥有100万张显卡，那估计其他几家大公司也能到这个规模。
哪怕训练或者推理的效率能提高1%，那就是可以省掉一万张显卡。一张 Nvidia H200 差不多是3到4万美金，一张 H00 差不多2.5万美金。简单算一下，就是2.5亿-4亿美金。
这么想想，如果能找到这样的人才，其实并不算太贵。
Post #529
328
DPS Build Anthropic 的联合创始人Benjamin Mann 认为 Meta 的天价 package 是真实的，而且解释了为什么他们愿意付出这么高的代价： 1. 这样的人才很有可能改变整个公司的商业路径； 2. 哪怕从成本角度考虑，如果这样的人才能够稍微改善一点推理或者训练的效率，降低的成本也是极其可观的。 https://overcast.fm/+AA6K1GykUBo