Глеб Кудрявцев — мастер AI

Тут господа из Devin.ai (ex Windsurf) сделали знатный подгон халявы страждущим любителям вайбкодинга.

Они натренили свою модельку SWE-2, и предлагают к ней практически безлимитный доступ до 8 октября. Нужно только купить подписку за 20 баксов.

Модель эта по сути Kimi K3, то есть полноценный фронтир уровень.

Я себе вчера это все настроил, запустил — прекрасно работает. Харнес взял их фирменный (devin app + cli) — по сути тот же Кодекс, так что все понятно.

Пользуйтесь, пока не прикрыли лавочку. Очевидно, дальше сделают уже жесткие лимиты.

Посоветовал модельку @ai_driven, спасибо ему за подсказку.

Вчера упала https://sotaocr.com/, и я не сразу заметил проблему.

Отгадайте, почему не пришло оповещение? Только самые тупые версии 👇

PS Быстро отгадали. Победитель @xVibeNot:

еще вариант что боту никогда не писал в личку - он не может тебе писать

У меня был корректно включен только тестовый бот, а на проде работал боевой — мне не пришло в голову, что его нужно стартануть 🙈

Ну хорошо хоть не факабельны.

Это GLM 5.3, кстати

А вообще, сегодня солнышко было на улице. А ресета ждать до воскресенья. Так что я не фигурально поехал за город и потрогал траву.
Улов так себе конечно, но погулял прекрасно, и даже не заглядывал в телефон. Прекрасный день 🤗

GLM 5.3 нормальная рабочая лошадка.

Не верю бенчам. Поэтому чисто на ощущениях — значительно сильнее макс луны, что-то на уровне sol medium/high

Очень нравится что у нее что у кими _нормальный язык_, а не уебанский гпт-новояз, из-за которого модели от опенай временами я просто не понимаю. Трейсы мыслей тоже можно подсмотреть, и это сильно помогает.
В общем, хорошие такие вайбы сильной открытой модели.

На особо жестких задачах не тестил. Думаю, будет слабее фронтира. Но как рабочая лошадка вполне, так что даже апгрейднул себе подписку до 30 долларов, вполне того стоит.

Я растягивал дозу астры как мог, но сегодня она кончилась, а Тибо ресет так и не завез

Ломка тяжела, так что решил попробовать у другого дилера.
GLM 5.3
Дал ей довольно сложную интеграционную задачу. Без компьютер юза, тупо код. Посмотрим, как справится. По результатам отпишусь.

В твиттерах форсится новая сетка Jev https://typesafe.ai/ с феноменально дешевой и быстрой скоростью ответов.

Обычно я не комментирую новости, но эта штука технически примечательная.

Что сделали, если очень кратко:
— Взяли нечто вроде ЛЛМ. Оставили обширные знания о мире, но отрезали возможность говорить.
— Моделька общается вероятностями. На вход даешь ей текст и позиции для классификации.

Например

Текст инцидента клиентской поддержки
- тип [бизнес/техника]
- серьезность инцидента [серьезно, средне, мелкий эпизод]
- необходимость включения человека [да/нет]

На выход она дает пункты из классификации с вероятностями.
- [бизнес 90%/техника 10%]
- [серьезно 5%, средне 25% , мелкий эпизод 70%]
- [да 5%/нет 95%]

От стандартной схемы Structured output отличается тем, что текстовых токенов тут не присутствует в принципе.

Плюсы и минусы того что получилось:
— чрезвычайно быстрая модель, гигантский эффективный параллелизм — можно задавать до 256 вопросов на классификацию в одном запросе.
— очень дешевая, буквально, в сотни раз дешевле ЛЛМ.
— не умеет говорить

Пригодится в экспертных системах — там, где ЛЛМ сейчас играют роль умной IF конструкции. Трейдинг, скоринг, исследования — везде, где нужно разносить нечто по разным классам. Эдакий универсальный классификатор, который не нужно тренировать отдельно на каждый случай.

Архитектура закрытая, так что объяснение выше — по сути, не архитектурное. Архитектурное будет когда зарелизят статьи. Но это определенно что-то свежее в ИИ ландшафте.

Опенай походу решили выдоить своих юзеров насухо. Лимиты улетают за пару дней, а работать надо.
Короче, если вдруг вы решили соскочить с 200-баксовой подписки, выкуплю. В идеале вместе с почтой. Пишите в личку @glebkudr1

Пришла пора сделать небольшой ребрендинг 😎

Channel name was changed to «Глеб Кудрявцев — мастер AI»

Покажу вам часть моей рутины

На вход приходит (1), получаем (2)

Первое выглядит как нормальный чертеж, но это голимый растр. Почему-то не могут люди дать нормальные вектора, точнее так - векторная подоснова есть, но ее чертили криворукие ебланы под забором, поэтому считаем, что ее нет и восстанавливаем с нуля.

Второе - применение кучи детекторов и генераторов изображений, агентских пайплайнов и какой-то матери, чтобы получить вектор. Задача - восстановить нормальный чертеж, а далее загнать его в BIM и получить 3d

В каментах спрашивали, а разве нельзя сразу проектировать BIM? Вы будете удивлены, но весь цивилизованный мир до сих пор таскает друг другу проекты в голимых PDF-ках.

Нафига это все?

Чтобы ИИ-шка взглянув на чертеж сказала, что здесь 100 метров труб, 10 фитингов и еще 20 запорных клапанов, и прочей хрени. Сейчас для ответа на этот вопрос заказчик держит десятки индусов, и они не успевают.
Вы конечно можете и просто так ее спросить, без этих заморочек, но готовьтесь удивиться результату 😁

Так что если у вас есть подобная работа — обращайтесь, проконсультирую.

Тем, кто восхищается экспериментом с мозгами мушки. Читайте классиков.

В Сан Диего ученые занимаются загрузкой омаров в киберпространство, осторожно, нейрон за нейроном, начиная со стоматогастрального нервного узла.

— Вы — выгруженные векторы состояния нейронных сетей омаров?
По методу Моравека, когда берут нейрон, строят карту его синапсов, записывают их реакции, затем строят систему микроэлектродов, дающих импульсы, идентичные сигналам исходного нейрона, и заменяют его, повторяя операцию со всеми нейронами, пока в симуляторе не окажется работающая карта мозга. Верно?
— Были… Являюсь Panulirus interruptus с лексическим движком. Внутренний уровень нейросети: установлена параллельная сборка нейросимуляторов логического поиска и анализа интернета…

Омары настояли, чтобы Франклин — в качестве условия по контракту — переслал их копии и в межзвездное пространство по системе дальней космической связи. Они хотели эмигрировать, и глядя на то, что с тех пор творилось в Солнечной системе, кто может их упрекнуть?
В итоге там, в дальнем космосе, уже есть колония, и она населена не людьми. Калифорнийские омары, выгрузки первого поколения, обитают там, на борту предприятия по добыче полезных ископаемых.

Кот спит и слышит песни омаров, несущиеся сквозь пустоту из далекой дали — поток данных, которые шлет их кометный дом в своем плавании через астероидный пояс во внешнюю тьму, к ледяной гавани за орбитой Нептуна.

(с) Чарльз Стросс — Аччелерандо.

По сюжету, выгруженные омары в итоге построили корабль, на котором спаслось человечество (если вы думаете, что это основная сюжетная арка — то нет, это просто мелкий эпизод. Роман просто отвал башки). Ждем подвигов от плодовых мушек 😎

Мне кажется у агентов какая-то партнерка с гитхабом, иначе тяжело объяснить, НАХЕРА они тянут GH actions по-дефолту куда угодно. Как чума, ей богу, отвернешься, уже в пяти проектах.

Почему GH actions не нужны:

— зависимость от проприетарного облака
— мало лимитов и дорого
— скрипт деплоя любой агент пишет влет, если у вас есть свободные 16 гб оперативки на скороварке, то это может быть вашим билд-сервером

Хуже только supabase с vercel (и aws до кучи), но эту стадию мы благополучно прошли.

По советам бывалых решил протестировать радикальное решение

Тупой руководитель — умный подчиненный.

Оркестратор Luna max, исполнитель Astra max

Все как в жизни.

Запустил. Вижу, что руководитель уже пошел тупить. Замечательно так и предполагалось. О результатах доложусь.

Такс, у нас тут проблема тысячелетия.

Я не про математику, а про лимиты кодекса.
Астра жрет где-то в 2 раза больше чем раньше соль, и фиг знает что с этим делать. Мне не хватает 200 баксов уже прям серьезно.

Делитесь в каментах рабочими методами, что и как вы с этим делаете.

Развлекаюсь с парсингом полимаркета. Там есть относительно безрисковые hft стратегии, но вот незадача — нужно успевать обрабатывать 10 тысяч изменений котировок в секунду 🙈 А для того чтобы тягаться с ботами, решение нужно принимать менее чем за 25 миллисекунд, желательно, вместе с пингом.

Весной пробовал и сдался, gpt 5.4 такие оптимизации не вытягивала. С астрой получше, вроде что-то получается, но все равно нужно направлять за руку. Алгоритмы не самая сильная сторона современных сеток.

У меня очень умные подписчики, если вы до сих пор почему-то не заходите в каменты — заходите и общайтесь (тест на упорство — пройти антиспам защиту 😁)

тут несколько аспектов.

1) капитализм традиционно строит новую инфру при смене технологического уклада через пузыри. Те кто занимают деньги под инфру, в конце цикла вполне могут обанкротиться, а их инфру выкупят подешвке те у кого будет кэш; Инфра при этом никуда не денется.

2) считать в долларах экономику становиться довольно бессмысленно. Вот потратили openai сколько-то десятков миллионов долларов на доказательство навье стокса. Выхлоп для экономики десятки миллиардов долларов в год (лопатки для турбин, крылья для самолетв, сокращения расхода топлива и газа)
Кто эти деньги заработал? Ну получается мы все вместе. Но при этом доступность любых капитальных активов (компьютеры, медь, нефть, электричество, станки с чпу и так далее) для людей не причастных к ии растет с космической скоростью.

3) В этом году ии будет ответсвенно за оочень значимый процент роста ввп штатов (что-то в районе 20-40% видимо), в следующие года весь рост придется на ии; И он работает мультипликатором: растут зарплаты электриков, строителей, сварщиков, растет потребление электричества, турбин, и все далее по цепочке.

4) каждый этапный апдейт моделей открывает доступ ии к новой части экономики. Например астра умеет потрясающе рисовать 3d включая сложный cad и электросхемы. То есть она фактически разблокировала дешевую робототехнике и 3д печать. Раньше на 3d принтерах печатали в абсолютном большинстве только уже готовые модели, которые кто-то долго руками рисовал и оптимизировал. А теперь можно просто голосом сказать или картинку скинуть и получить готовую деталь профессионального качества, в которую можно вкинуть ардуино и астра сама напишет весь софт ваншотом.
Соответсвенно экономика фермы 3д принтеров радикально меняется.

5) итого экономика радикально перестраивается но очень неравномерно. Инфляция тут выступает маркером доменов, которые уже разблокированы ии для атвоматизации. Когда все домены подтянутся до разблокированных, окажется что триллионы вложенные в датацентры не так уж и много денег, потому все остальное радикально подоражало

Я всегда улыбаюсь с аргументов "О, ты потратил 200 баксов на чатгпт, а знаешь что себестоимость этого ТЫСЯЧИ долларов, они просто жгут безумное количество денег"

Знаете, мой сотовый оператор берет за 1 гигабайт 5 евро, но я тут на безлимитном тарифе скачал фильм с торрентов и походу он на меня потратил пару тысяч долларов — такая у вас логика, да? 😁

Вы путаете цену и себестоимость.

Апи и подписки принципиально разные продукты хотя бы даже по профилю потребления. Лимитирует лабы вовсе не просто доступное железо, а железо _в пике_, Валера не даст соврать 😁 Посему оно в принципе только 2 часа в день работает на полную катушку, а остальное время простой, на утилизацию которого и пытаются утрамбовать как можно больше длинных подписок. Понимаете прикол, у них по сути вообще себестоимость электричества — я не удивлюсь если ваш ГПТ отгружается с маржинальностью в 90% (точно все равно никто не знает, но такие подозрения имеются).

Есть и второй эффект. Лабы сейчас оптимизируют не только прибыль с одного пользователя, но и рост. Дешёвая подписка > больше пользователей и денежного потока > можно разгонять капитализацию _быстрее_ чем растет прибыли > выкупать на эти бабки железо > железо дорожает > ОЛОЛО ДОРОГОЙ ИНФЕРЕНС

Тут вообще цикл замкнутый сам на себя. Ваши дешевые подписки спонсируют дорогую капитализацию, из-за которой вы не можете себе купить видеокарту, чтобы стоимость инференса упала до стоимости подписки сама 😁

Поэтому считать апи-эквиваленты подписки и делать выводы о неких субсидиях в принципе некорректно (корректно только предполагать, что нас все равно так или иначе посадят на кукан, ибо ради чего все это, но это уже другое)