Успеху DeepSeek во многом способствовала новая архитектура Multi-head Latent Attention (MLA), которая позволила сократить стоимость обучения на 90%, игнорируя 95% ненужных данных. Вопрос остаётся открытым: это гениальное упрощение или просто экономия на алгоритмах? Как бы то ни было, результат поражает, что обогнала ChatGPT по всем основным бенчмаркам. Модели серии R1 обучались математике методом проб и ошибок, как аспиранты, и в итоге достигли уровня GPT-4, но при этом оказались на 95% дешевле.
А также вспомним недавнюю публикацию Массачусетского технологического, которая раскрывала суть «китайской угрозы» в сфере ИИ.
DeepSeek в фокусе рынка не первый день и трудно назвать её буквальным «клоном» Open AI, который "китаизировался" в лучших традициях китаизации западных брендов (хотя близко к этому). А тот факт, что ChatGPT, конечно, стал основой для аналога китайцев – раскрывает одну важную особенность ИИ и его отличие от революции «ядерных технологий» (с которыми ИИ сравнивают по масштабу глобальных изменений). ИИ пришел не из закрытого мира оборонных секретов, как «Манхэттенский проект», который пришлось заполучать мастерством советской разведки и мудростью Оппенгеймера, пошедшего на встречу «группе Судоплатова». ИИ – развивался в довольно открытом сообществе специалистов, где, по оценкам того же MIT, 47% - выходцы из Китая. Сейчас трудами предшествующих поколений (начиная с Витгенштейна и Тьюринга) и «кристаллизацией» полувековых знаний в проектах ИИ-гигантов – собрана алгоритмическая база, и она куда более доступна, чем ядерные технологии с бесконечно сложной производственной цепочкой (даже если кто-то добудет в даркнете все чертежи).
Это несколько меняет акцент нашего вывода (с подачи книги Шмидта-Киссинджера) о степени централизации ИИ в руках наиболее «ловких» государств, первых зашедших в мутные воды ИИ. Китайцы задают тренд глобальной мультипликации ИИ с понижающимися издержками за счет труда предшественников. Сейчас индийцы возьмут DeepSeek, который вырос из OpenAI, и сделают свой ИИ, который затем уже станет «подъемным» для африканских умельцев. И что важно – надорваться, как в гонке вооружений «холодной войны» будет куда сложнее, ибо с каждой итерацией развития ИИ коллективными усилиями издержки будут сокращаться в естественной конкурентной борьбе за самый дешевый и доступный ИИ, который наконец должен завладеть миром. А подпитывать баблом сферу ИИ будет биржевой и венчурный капитал, чего также не ведала в таких масштабах прошлая военно-технологическая гонка.
И ещё одна деталь: единицей всемирной гонки ИИ будет не государство, а компания, корпорация – укрепляя основу «новой формации» - «цифрового феодализма».
@netlenkanet