Неравномерность распределения GPU-мощностей worldwide — проблема развития AI

Ска не люблю в себе перфекциониста, млею перед ним и опускаются руки, так что ЕБАТЬ ЩИТПОСТ ДАО ПОГНАЛИ НАХУЙ

Крч последние недели плотно сёрчу AI, пробую понять вообще как оно что работает, куда может идти отрасль, и в чём именно этот глобальный тренд может отсвечивать в крипте, соответственно куда смотреть чтобы залутать котлетку

Одной из актуальных проблем является неравномерность распределения GPU-мощностей, которые нужны для обучения искусственного интеллекта по миру. С 2023-го года США ограничили экспорт топ карточек NVIDIA H100 и A100 в определённые страны, такие как Китай и Россия (в Китай поставляют урезанные версии этих карточек). Делается это для того, чтобы замедлить развитие других стран в области AI

У них в самом сенате конгрессе или что это обсуждается вопрос, как бы нам продолжать ебать всех в ротик по AI, и в первую очередь Китай

Однако все страны, куча компаний стартапов хуяпов по миру заинтересованы в развитии собственных моделей, иначе говоря доступе к GPU-мощностям

Как следствие, налицо задача в демократизации и снижении костов на доступ к таким штукам

Для решения данного вопроса использование технологий блокчейна, децентрализации — крайне органично

Уже есть площадки, типа Vast.ai, Prime Intellect и другие, которые предоставляют GPU. Но делается это централизованно, то есть от одной компании людям. Крипто-стартапы же предлагают модель, при которой одни участники будут предоставлять свои GPU, а другие брать их в аренду

Также часто сквозит идея распределённого (децентрализованного обучения), то есть при котором отдельные таски по машинному обучению (ML) будут распределяться между различными GPU. При такой модели существенно снижается вероятность цензурирования (нельзя просто прийти в одно место и отрубить сервера, поскольку точки обучения находятся в куче разных мест). А отсутствие рестриктов — одно из основных преимущества open-source моделей

Также, как предполагается, процесс обучения становится более приватным, поскольку типа не контролируется Big-Tech, типа ChatGPT, который бесперерывно записывает все данные ваших сессий, реакции на ответы, уточнение промптов, вашу историю и тд. Ну про ChatGPT Memory тут не будем

Например, Hyperbolic одна из таких площадок, который хочет создать децентрализованную платформу для предоставления в аренду и непосредственно аренды GPU. Имеет $20M, в т.ч. от Polychain

Выступление чела на Token2049, чекните, вроде норм пацан. Кстати вот важный момент: такие продукты, размещённые ончейн, могут использоваться аи-агентами. То есть сам аи-агент в будущем может заходить, арендовать GPU для выполнения различных задач. Кстати тут хз, в насколько отдалённом будущем аи-агент сможет выполнять сложные таски, предполагающие самостоятельное дообучение

Также Gensyn интересный продукт, более фундаментальный. Строят чейн не просто для децентрализованного размещения и использования GPU, но непосредственно для обучения моделей, также привлекая GPU, в том числе от, скажем, мелких поставщиков, типа нас с вами

Там ещё вшит и протокол Proof-of-Learning, который позволяет в процессе обучения заносить данные о нём ончейн, что избавляет от необходимости перепроверять результаты обучения после его окончания. Вообще это обычная практика, что чтобы проверить, было ли вообще выполнено обучение, и если да, то насколько добросовестно — надо по второму кругу прогнать это обучение. Это как я понял, хотя выглядит какой-то детской проблемой. Но якобы их протокол предоставляет такое решение (до которого не додумался бигтех, а стартаперы с британских островов додумались, странно..)

крч для себя чуть уложил по полкам мысли, думаю кому-то полезно будет, на самом деле пока люди как бараны 4 года ждут альтсезона (сразу после окончания последнего), зарождается новая сфера, которая по масштабам и значению шире и глубже крипты в 500 раз, а уж про альту я молчу, идите уже продайте свои фантики и поставьте на победу зенита на 1хбет, вы всё равно никогда не заработаете

ЧСК Private . lamadrops YouTube . llamochka twitch