TikTok учит ИИ с 10 триллионами параметров

Владелец TikTok, компания ByteDance, тренирует ИИ-модель с 10 триллионами параметров. Это не просто разработка, а заявка на лидерство в глобальной гонке больших языковых моделей, напрямую конкурирующая с Anthropic.

10 триллионов параметров — это беспрецедентный масштаб для одной модели, который требует колоссальных вычислительных мощностей и многомиллиардных инвестиций. Для сравнения, модель Claude 3 Opus от Anthropic имеет «всего» сотни миллиардов параметров, а GPT-4 от OpenAI предположительно около 1,7 триллиона. Такие гигантские сети способны усваивать и генерировать информацию с невиданной ранее глубиной, предвещая качественный скачок в возможностях ИИ. Каждая компания, входящая в эту гонку, ставит на кон ресурсы, сравнимые с бюджетом небольшого государства.

Размер модели становится прямым показателем амбиций и потенциального влияния на будущее цифрового мира.