🇨🇳 ByteDance обсуждает обучение модели более чем на 5 трлн параметров — если проект запустят, это будет крупнейшая известная модель в Китае и одна из самых больших в мире.
В компании считают, что простое копирование возможностей Claude через дистилляцию не даст лидерства, поэтому делают ставку на резкое увеличение масштаба и собственное предобучение.
Post #1699
2