Decentralized AI / Open Source / Own Frontier Ecosystem
01.2024
Виталик Бутерин: Децентрализованный подход с применением блокчейна к ИИ системам позволит избежать рисков концентрации власти в одних руках.
03.2024
Emad Mostaque: Централизованный AGI опасен - единственный путь децентрализованный
05.2024
Ян Лекун: будущее ИИ — open-source и распределённое обучение
04.2025
Jack Clark ( Co-Founder Anthopic ) : Появление Intellect-2 ( 30B параметров ) и по мере дальнйшего развития технологии децентрализованного обучения может привести к появлению нового типа игроков на рынке общего искусственного интеллекта — свободных федераций организаций, объединяющих вычислительные ресурсы в глобально распределенном режиме для обучения моделей.
06.2025
Jack Clark ( Co-Founder Anthopic ) : Появление работы от китайского стартапа с 100B параметров, обученного децентрализованно через DiLoCoX - > : Я подозреваю, что централизованное обучение всегда будет лучше децентрализованного, потому что по своей природе оно будет иметь меньшие расходы на обмен данными, но такие работы, как эта, существенно сокращают разрыв между децентрализованными и централизованными методами. Если этот разрыв еще больше сократится, я думаю, можно будет увидеть серьезные изменения в распределении игроков, способных обучать крупномасштабные системы искусственного интеллекта промышленного уровня.
12.2025
Clément Delangue ( CEO Hugging Face) : Крупнейший риск ИИ — концентрация власти, возможностей и богатства. Будем бороться с этим через open source
01.2026
Jack Clark ( Co-Founder Anthopic ) : Может ли децентрализованный процесс обучения ИИ когда-либо сравниться по вычислительной мощности с процессом обучения на переднем крае? Вероятно, нет. Но могут ли децентрализованные процессы обучения стать намного масштабнее и поддерживать разработку более совершенных моделей, созданных гораздо более крупным коллективом, чем просто передовые компании в области ИИ сегодня? Да. Если рассматривать децентрализованные сети обучения, то, похоже, существует проблема с вычислительными мощностями: «Крупнейшая из таких активных сетей, которую мы обнаружили, — это Templar от Covenant AI, которая в настоящее время достигает эффективной пропускной способности 9e17 FLOP/s. Это примерно в 300 раз меньше, чем у современных центров обработки данных для ИИ. С 2020 года мы наблюдаем 600 000-кратное увеличение вычислительного масштаба проектов децентрализованного обучения, что подразумевает темп роста примерно в 20 раз в год/ Есть куда расти – если посмотреть на вычислительные мощности, используемые в проекте Folding@home (децентрализованная попытка сворачивания белков), и на Биткоин, то можно увидеть примеры более ранних децентрализованных проектов, которые использовали гораздо больше вычислительных мощностей, что позволяет предположить, что сегодняшние децентрализованные вычисления «могут быть расширены в 30-3000 раз, чего достаточно для обучения моделей на 50-5000 раз больших вычислительных мощностях, чем сегодня». Сегодня ИИ определяется в основном 5 компаниями, возможно, 10 в ближайшие годы, которые могут предоставить достаточно вычислительных мощностей для обучения конкурентоспособной модели за любой 6-месячный период. Но никаких передовых проектов по обучению моделей со стороны академических, правительственных, независимых или нетехнологических компаний не ведется. Децентрализованное обучение позволяет этим и другим заинтересованным группам объединять свои вычислительные ресурсы для изменения этой динамики, поэтому следить за его развитием очень важно.
03.2026
Jack Clark ( Co-Founder Anthopic ) : Выход Convenant-72B / Каким бы впечатляющим ни был Covenant, это в основном демонстрация того, что распределенное обучение может создавать некоторые нетривиальные модели с неопределенной полезностью, но до передовых технологий еще далеко — современные передовые модели обучаются на десятках и сотнях токенов. тысячи чипов, тогда как эта модель обучалась, возможно, на ~160 (20 узлов * 8 чипов на каждый). Тем не менее, это важная технология, за которой следует следить, и я могу представить себе мир, где ИИ на устройствах использует множество моделей, разработанных с помощью методов распределенного обучения
04.2026
Sam Altman ( CEO OpenAI ) : Статья "Принципы OpenAI - > В будущем власть может оказаться либо у небольшой группы компаний, использующих и контролирующих суперинтеллект, либо быть распределена децентрализованно между людьми. Мы считаем второй вариант намного лучше, и наша цель — дать по-настоящему общий ИИ в руки как можно большему числу людей.
04.2026
Alex Karp(CEO Palantir ) : модели закрытого типа забирают вашу интеллектуальную собственность -> впоследствие заберут ваш бизнес.
05.2026
Jack Clark ( Co-Founder Anthopic ) : Google Decoupled DiLoCo / Распределенное обучение делает еще один шаг вперед. Decoupled DiLoCo, подчеркивает, как методы распределенного обучения могут работать и на другом конце шкалы, позволяя таким компаниям, как Google, объединять большие группы различных типов компьютеров в центрах обработки данных по всему миру для обучения моделей в больших масштабах. Они успешно обучили модель с 12 миллиардами параметров в четырех разных регионах США, используя широкополосную сеть 2-5 Гбит/с (уровень, относительно достижимый при использовании существующего интернет-соединения между центрами обработки данных, а не требующий создания новой специализированной сетевой инфраструктуры между объектами)».
06.2026
Satya Nadella ( CEO Microsoft ) : модели закрытого типа забирают вашу интеллектуальную собственность -> впоследствие заберут ваш бизнес. Необходимо создавать свои фронтир системы ИИ через собственные контролируемые системы обучения.
07.2026
Jensen Huang ( CEO NVIDIA ) : Первый пост в X = манифест об открытых моделях и их важности. Open-Source ИИ может укрепить технологическое лидерство Америки, снизить риски и обеспечить широкое распределение преимуществ этой выдающейся технологии по всей нашей экономике.
Elon Musk: также выразил поддержку open-source моделям, как и Марк Цукерберг.
07.2026
Prime Intellect 130M$ раунд, по оценке 1B$ от Nvidia / Dell / Intel +RunRate выручки 100M$ от клиентов: Ramp / Zapier
Post #212
779
- 👍 4