Вот теперь маски действительно начинают слетать. В ответ на призывы Дарио Амодея замедлить развитие ИИ инженер DeepSeek Шэнъюй Лю выступил с текстом, который вполне можно назвать манифестом.
Он сравнил перспективу контроля Anthropic над самым передовым ИИ с ситуацией, в которой Гитлер получил бы атомную бомбу первым. Градус недоверия между участниками гонки такое сравнение фактически Дарио Амодея с Гитлером показывает прекрасно.
В конце приведу целиком текст, который обсуждаем. Почитайте: там и коммунизм, и открытость, и объяснение, почему он остаётся в DeepSeek. Довольно уже непривычный даже для нас разговор о технологиях — через представления о том, каким вообще должен быть мир.
Суть претензии простая: под предлогом безопасности американские компании могут закрепить своё лидерство. Самый сильный интеллект останется у немногих, а остальным достанутся урезанные версии. Причём сам Амодей в своём весьма высокомерном обращении действительно связывает замедление гонки с сохранением лидерства США и во всё уже заранее обвиняет Китай.
📌 На мой взгляд, здесь все хитрят — и американцы, и китайцы. И все пытаются выглядеть святее папы римского. У одних безопасность прекрасно сочетается с защитой своего рынка. У других открытость помогает этот рынок завоёвывать.
Но к компаниям с закрытыми моделями у меня вопрос: если вы так хотите общественного контроля, ну так откройте свои модели для всех. Дайте другим возможность их исследовать, проверять и создавать собственные решения.
Их начнут использовать во вред? Да, такой риск есть. Но на той же основе можно создавать и системы защиты, и противовесы. Это не гарантирует безопасности, зато не оставляет её исключительно в руках владельца модели.
Иначе получается странная конструкция: в городе пистолет есть только у одного человека. Все остальные безоружны, даже полиция. А он объясняет, что так всем безопаснее. Тут очень многое зависит от того, что у этого человека в голове, а Дарио Амодей очень странный персонаж, а Дональд Фредович Трамп?
Если открывать модели вы не готовы, тогда давайте хотя бы честно признаем: речь идёт и о желании выиграть конкурентную борьбу. Одними благими намерениями такую позицию не объяснить.
❗️При этом в тексте инженера DeepSeek меня зацепила именно его почти фанатичная убеждённость. По одному человеку нельзя судить обо всём Китае, но здесь чувствуется, что для него эта гонка выходит далеко за пределы коммерции и научного интереса. Тут и приверженность делу, и представление о справедливости, и желание участвовать в создании другого будущего. Возможно, мы недооцениваем, насколько важны в этой конкуренции престиж и такие убеждения.
В конце ноября исполнится всего четыре года с появления ChatGPT в публичном доступе. А спор уже идёт о том, кому достанется власть над будущим.
Я не берусь назначать здесь правых. Но хорошо, что конкуренция есть. Гораздо хуже было бы, если бы выбирать уже было не из кого.
За этой гонкой стоит следить. Победитель получит возможность устанавливать правила далеко за пределами рынка ИИ. А жить по ним придётся всем нам.
✍️ Ниже — сам текст.
По мере развития ИИ общество будущего может дрейфовать к одной из двух крайностей: коммунизму или Киберпанку 2077.
В первом случае производительные силы высвобождаются в чрезвычайной степени, а уровень жизни людей значительно повышается. (На этом я остановлюсь, иначе боюсь, что это не пройдет цензуру.)
Во втором случае небольшое число технологических компаний контролирует большую часть мировых ресурсов. Лишь ничтожное меньшинство людей имеет доступ к самому передовому ИИ и другим технологиям, достигая чего-то близкого к «механическому вознесению», в то время как большинство остается лишь со слабыми и урезанными системами ИИ.
Переход между социальными классами станет все более трудным: вам понадобится доступ к самому сильному ИИ, чтобы подняться в более высокий класс, что создаст порочный круг.
Предположим, Anthropic навсегда получит контроль над самым продвинутым ИИ в мире.
Как вы думаете, станет ли общество будущего коммунизмом или 2077-м?
Угадайте.
Вот почему я по-прежнему считаю, что передовой интеллект должен быть доступен каждому в открытом и недорогом виде.
Я не доверяю Anthropic или OpenAI в этом вопросе. В частности, я не хочу, чтобы Anthropic контролировала самый продвинутый в мире искусственный интеллект или AGI (сильный ИИ). Выражаясь драматично, я считаю, что ставки здесь сопоставимы с тем, как если бы Гитлер получил технологию атомной бомбы раньше союзников.
Именно поэтому я решил остаться в DeepSeek и почему я продолжаю оставаться там.
Мы исследуем мощный, быстрый, широко доступный искусственный интеллект и выпускаем его в формате открытого исходного кода. Возможно, тем самым мы сможем немного отодвинуть мир от края спектра под названием «2077».
Пусть все будет хорошо в грядущем мире.
Да пребудет благословенна вся красота.
❗️Зеркалюсь здесь Max | VK | TG