На фоні успіху Kimi, дуже цікавий лонгрід про те, як побудована робота в компаніях, що роблять LLM-ки в Китаї.

• Багато студентів та ентрі-левел співробітників, які працюють в лабораторіях. Значно більше, ніж в американських лабах.
• Тотальна недостача компьюту (є huawei, але непорівнювано мало nvidia).
• Практично відсутня індустрія human data, рісьорчери роблять свої середовища, а лаби мають команди підготовки даних (мені сказали, що це фігня, і китайські лаби купують данні, так само, як і американські, але базуюсь лише на статті).
• Тільки ByTeDance робить закриту модель (типу того, що роблять OpenAI та Anthropic), всі інші - відкриті.
• Майже відсутня погоня за комерціалізацією моделей. Важливо зробити найкращу модель, значно менше тиску на комерційні показники (мабуть, тому ми і не чуємо історій, типу Kimi сама по собі зламала Hugging Face, і вкрала необхідний дата-сет).

P.S. Для тих, хто читає мене недавно, пожити і попрацювати в Китаї було моєю дитячою мрією - я трохи пожив у Шеньчжені, але нічого толкового зробити там не зміг.

Якщо цікава стаття, то читайте повну версію тут (безкоштовно, без смс).