TGViewer
Channel Public Channel
Валера Ковальский

Валера Ковальский

@neuraldeep

Head of AI

Автор https://neuraldeep.ru/
Raised $2M+ for human-centric AI startups
github.com/vakovalskii | chat @neuraldeepchat

По вопросам сотрудничества - @VaryaVarenik05
Subscribers
16.9K
Photos
656
Videos
113
Links
596

Showing posts older than #2253 · Back to latest

Older Posts 17 shown
Post #2252 10.5K
Валера Ковальский Opus 5 Полный газ, посмотрим что теперь изменится P.S теперь на neuraldeep.ru есть ночные тарифы вкуснятина, особенно для любителей погонять огромного размера классификации P.S.S Хейтеры люблю вас!
Opus 5

Первые ощущения...

Что это?
Как писали ребята что-то общение с Fable, сильно самостоятельная модель, нужно четко описать задачу

На старых рельсах не то
Нужно промптить не так как opus 4.8

Нужно переписать skills и подходы

Что точно изменилось это вовлеченность

как будто со мной рядом уже не джун, что-то большее

На сегодня продолжаю тесты, пока смешанные чувства

Провал?

Желание сменить обратно
  • 🤔 32
  • 🤣 18
  • ❤ 11
  • 🤪 9
  • 👍 3
  • 💯 3
Post #2251 10.6K
Opus 5

Полный газ, посмотрим что теперь изменится

P.S теперь на neuraldeep.ru есть ночные тарифы вкуснятина, особенно для любителей погонять огромного размера классификации

P.S.S Хейтеры люблю вас!
  • ❤ 36
  • 🔥 21
  • 🤣 9
  • 👍 4
  • 🤪 2
  • 😘 2
Post #2248 6.33K
Валера Ковальский Человек-оркестр это не мем это диагноз Люблю этот летний утренний хайп сегодня "накидал агентов они сами всё сделали ты только оркестрируешь, кодинг умер инженеры не нужны!!!" Так вот скажу как человек который завёл первый MVP хаба за вечер на клоде (11…
Плечо даёт не агент, плечо даёт опыт

В продолжение идеи про опыт и человека оркестра, тут разобрал 1069 своих коммитов и показал где ломается агентная разработка вывод простой ломается не инструмент, а место там где у человека нет карты в голове ну или вы нажимали да на все что нейронка вам сказала делать

Пост про коммиты обсуждался так же горячо как и про человека оркестр, в коментах накидали кучу идей, и каждый притащил свой флоу
кто-то гоняет Codex ревьюером после Claude по 2-5 итераций
кто-то не пускает код на гит пока его не глянули две модели из разных семейств
кто-то ведёт codepatterns md куда раз в неделю агент сам пишет выводы из своих же факапов
кто-то топит за GPT, кто-то за Opus, кто-то за рой саб-агентов, кто-то за минимализм


Я думаю спор вообще не про модель, весь он про дисциплину у всех у кого стабильно работает, вывод один процесс, ревью, карта в голове это ответственность человека инструмент у каждого свой, а сходятся все в одном, опыт который не получить через скилл

Отсюда неудобная правда которую я осознанно не дожал AI это усилитель вашего опыта который есть за спиной он усилит его в разы
Нет опыта?
С тем же КПД усилит пустоту (расползающийся проект, зелёные тесты поверх похороненных ошибок, 5 закрытых тасок из которых ни одна не решала реальную проблему) джуну агент не выдаёт синьорское регение или его опыт, опыт получается через обучение, через ошибки, через решенные задачи

Сам я за минимализм playwright плагин для теста веба 80-150 строк CLAUDE md с оглавлением и гиперссылками папка /docs с читаемой вложенностью CLI и токены в глобальном env ну вот оброс парой скиллов и то каждый раз забываю их вызвать, но у меня через опыт была база, я ее собрал годами проектов и ошибок

Такую базу сегодня даёт Тимур он запустил второй поток курса "AI Coding для Разрабов" и он ровно про то о чём весь вчерашний тред как не давать проекту расползаться как не ловить галлюцинации и несоблюдение инструкций как выстроить процесс, а не молиться на модель

первый поток прошли уже 70+ человек тут пост про отзывы, зайдёт разрабам и тем кто пару раз открывал AI инструменты и хочет перестать вайбкодить и начать инженерить

можно так же получить скидку с промиком от меня 5% TMY5XJ на тарифы "Самостоятельно" и "В потоке"

Считаю что этот курс из всего слопа что я видел редкий случай когда дают само понимание как управлять инструментом да и опрос недавний говорит что вы все давно шарите за инструменты, лично рекомендую, ведь все вопросы вы можете обсудить у меня или у него в чатике как до так и после
  • 👍 60
  • 🤮 26
  • 😁 7
  • 🔥 4
  • 🖕 4
  • 👀 3
  • 🤣 2
Post #2246 6.23K
Разметка видео как skill?

Давно хотел выложить как вы могли бы сделать на подписке такое же видео

https://neuraldeep.ru/learn/lessons/claude-code-setup

Сделал скилл который сможет разметить так до 40 видео по 1 часу на стартер подписке через neuraldeep.ru

На вход видео на выход

timeline.json сцены/главы, хайлайты, транскрипт с таймкодами;
subtitles.srt субтитры;
hls/master.m3u8 адаптивный HLS-стрим для веб-плеера;
poster.jpg обложка

https://github.com/vakovalskii/videro-skill
  • 🔥 37
  • ❤ 14
  • 👍 8
  • 🤪 1
Post #2245 7.38K
Я посмотрел на 1069 своих коммитов и понял, где именно ломается AI-разработка

Вчера Рефат написал вещь, которая меня зацепила
"Чем умнее агенты, тем дороже ваша поверхностность"
"Что сильные инженеры всё чаще скользят по поверхности приносят ответ агента, едва понимая, что в нём
"И что снаружи это выглядит продуктивно ровно до момента, пока суть под контролем"

Читал и кивал и думал я же ровно в том же состоянии сейчас, потому что у меня под рукой сейчас проект на 3к юзеров neuraldeep.ru считайте прям полигон для страдания =)

Еще плюс я сейчас в рамках одного эксперимента перевожу боевые проекты на рельсы агентной разработки но не про них хочу рассказать, про них будет отдельно

Хочу про свой хаб
Тот самый LLM-хаб, который я каждый день пилю сам в одного
Потому что честнее всего вскрывать не чужой прод, а собственный

Я взял и проанализировал его git-историю за 90 дней, тут спасибо агентам =)
И вот что нашлось

Каждый второй коммит тушение пожара (ДА КАК ТАК?)

Из 1069 коммитов 416 это fix
Не фича, не рефактор стабилизация уже выкаченного
Последние три недели я вообще не развиваю проект, я воюю за его стабильность
Беру фичу в цикл и полирую руками
Стоит начать полировать агентами начинается полная дичь: затирание конфигов, забывание про blue-green деплой, карнавал "заloop engineering "

Мои же 500-ки, которые я не мог найти
Помните соблазн «ну это агент так нарешал, вопросы к нему»?
У меня была своя версия: пятисотки на проде, а откуда хрен разберёшь

Тайм-ауты, каждый раз новые
Я потратил дни, чтобы просто научить систему логировать причину собственных ошибок в истории лежат коммиты уровня «5xx никогда не логируется без причины, добавляю синтетический reason».

А корень вот в python коде 1436 блоков except Exception =), из которых только 10% реально пробрасывают ошибку дальше, тут каюсь я сам не смотрел но оно же умное, думал я
Остальные 90% тихо глотают её в лог или в return None
Ну по логике то что я хотел то и получил, агент оборачивает всё в try/except, чтобы «работало» и хоронит причину
Зелёненько?
Катим
А потом ты три недели ищешь, кто генерит 500 зачем, почему, как избежать как не обожить все просто except

God-файлы, которых человек бы не спроектировал.
Один route-файл 6305 строк
Не потому что так задумано, а потому что каждую новую фичу дописывали туда же агенту так ближе по контексту
Разнобой уровня число моделей захардкожено в четырёх местах четырьмя разными значениями (10/13/14/30), потому что нет single source of truth, и в каждом месте агент пишет своё, я знаю что нужно сесть и все привести в порядок, но рынок диктует другое, скорость и тайм ту маркет

Пиковая скорость 44 коммита в день
Это не человеческий темп ревью
Это фоновые лупы
Снова привет, заloop engineering и налог на оркестрацию: поднять пять агентов легко, а вот распараллелить свою когнитивную пропускную способность нет и точка

Теперь главное
Соблазн из всего этого сделать хайповый вывод "AI SDLC утопия, всё тлен"
Фактура вроде тянет помните? Человек оркестр и 6 лет девоПСА
Но это враньё, и вот почему

Проект не мёртв
Он живёт ровно на мне
Долг копится строго там, где я убрал себя из центра
swallowed-эксепшены
6k-строчные роуты,
разнобой счётчиков

А там, где я держу карту в голове и пропускаю решения через себя стабилизируется
Это не "модели плохие"
Это "Я осознанно убрали инженера-владельца, контекст накопился в долг"

Ровно как говорит Рефат "агент работает в задаче, а твоё место над ней"

AI SDLC не утопия и не серебряная пуля. Это усилитель. Он множит и продуктивность, и когнитивный долг с одинаковым КПД
В центре стоит инженер с картой множится продукт
В центре пусто множится техдолг, и ты потом три недели ищешь свои же 500-ки

И да, обязательный ревью фичи моделью из другого семейства (у меня Codex/GLM/Kimi k3) теперь личный стандарт, без которого неуютно.
Не потому что не доверяю своему агенту, а потому что чужой глаз ловит ровно то, что мой замыли

Жду пост от @virrius_tech по нашей внутрянке, там думаю будет самый сок крупных проблем которые я тут не затронул!

А вы где проводите границу между «отдал агенту» и «отдал без карты в голове»?
И замечаете ли за собой это скольжение по поверхности? Кажется это все о наболевшем
  • ❤ 67
  • 💯 36
  • 🔥 21
  • 👍 11
  • 🤡 5
  • 😁 3
  • 🤣 3
  • 🤔 1
Post #2241 8.35K
Валера Ковальский От менеджера сессий к мультитерминальному решению Я решил угореть и заснуть терминал прямо в наше с вами решении https://github.com/vakovalskii/codbash 230+ звезд 20+ контрибутеров За 3 месяца разработки мы поддержали и встроили более 10 CLI-агентных решений…
Codbash CLI Browser

Я все больше повторяю UX/UI браузера, очень хочу довести этот эксперимент до состояния повторение всех топовых поведений.

Восстановление всех сессий + вкладок при закрытии.
cmd + shift + t — восстановление закрытой вкладки.
cmd + t — новая вкладка

Сохранение закладок (папка + команда + continue)

Скоро запишу видос что из этого выходит а пока вы сами можете потестить последнюю версию

Самый прикол что это все еще браузерная фишка

https://github.com/vakovalskii/codbash/releases/download/v7.14.7/codbash-7.14.7-arm64.dmg
  • 🔥 22
  • 👀 6
  • 👍 5
Post #2240 7.6K
В NeuralDeep векторные модели не дополнение к чату, а самостоятельный класс со своим отдельным лимитом

Вы давно просили на подписках исключиь emb из общих лимитов вот я и собрал всю логику теперь если вы запускаете RAG, индексируете корпус на десятки тысяч чанков это не расходует ваш лимит на чат-модели

Два независимых счётчика: чат отдельно, векторы отдельно.

На тарифе за 2500 можно прогнать за месяц 60 000 векторизаций не зависимо от размера инпута

📊 Эмбеддинги (POST /v1/embeddings, OpenAI-совместимо):
e5-large — multilingual
bge-m3
frida
jina-embeddings-v4
qwen3-embedding-4b
giga-embeddings

🎯 Реранкеры (POST /v1/rerank):
bge-reranker (v2-m3)

Ключи https://hub.neuraldeep.ru/app/overview
Документация https://hub.neuraldeep.ru/docs
  • 🔥 37
  • 👍 3
  • ❤ 1
Post #2239 5.51K

Forwarded from Глеб Кудрявцев — мастер AI

Вообще, как вы видите сейчас, нефть будущего — это вовсе не софт, а железки. Покрайней мере, пока мы не вошли в сингулярность, когда ИИ начнет штамповать их
себе самостоятельно.

Всем бизнесам нужен инференс, но есть проблема: когда компании переводят процессы на LLM, они просто охреневают от счетов за API OpenAI или Claude.

Рынок ломается о стоимость вычислений. Которые можно сильно сократить, если оптимизировать косты на железо и работать со специализированными небольшими моделями, четко подобранными под задачу.

К чему это я?

Мы с @neuraldeep хотим построить свой AI-датацентр в Европе. Мы даем бизнесу тот же результат, но в 90–100 раз дешевле крупных провайдеров.

Продуктово это не просто классический хостинг, а хаб, где мы монетизируем одну железяку трижды: продаем голые токены, сдаем GPU в аренду и продаем бандлы подписок на AI-продукты (чат, RAG, OCR, транскрибация и т.д.).

Самое важное: хаб уже работает в проде и генерит кэш. Без копейки платного маркетинга откручено 21.9 млрд токенов, за 2 месяца, собрано более 1000 платящих юзеров, а операционная маржинальность инференса 90%.

Сейчас мы поднимаем Seed-раунд на $5M (за 25% доли, оценка $20M post-money),
чтобы кратно отмасштабировать флот серверов на весь мир.

Почему мы порвем этот рынок:

1) Идеальная локация. Я живу в хостинговой столице мира — Финляндии. Тут самая дешевая электроэнергия в ЕС и сосредоточены мощности Google, Microsoft, Hetzner, Небиус. В самой Финке нет амазона Амазона (мы платим за доставку из Германии), зато есть его датацентры.
2) Налоги. Местная система может отбирать 60% с зарплаты, но зато максимально благосклонно относится к реинвестированию хоть в трактора хоть в видеокарты. Будем эффективно списывать затраты на железо.
3) Умный CAPEX. Мы не сжигаем капитал на флагманские стойки с B300 под жидкостным охлаждением за бешеные миллионы. Наша ниша позволяет использовать просьюмерские RTX PRO 6000 — это дает нам на 58% больше токенов на каждый вложенный доллар.
4) Валера (@neuraldeep) — абсолютно гениальный технарь с лояльной аудиторией в 15k AI-разработчиков, который готов это отскелить на любой масштаб.

В отличие от венчура, где 90% хипстерских стартапов проедают деньги и закрываются, у нас большая часть раунда пойдет напрямую в закупку GPU.

Это хард-ассет бизнес. Риски даунсайда минимальны: даже если всё пойдет по одному месту, GPU сохраняют свою ликвидность и их можно продать любому другому датацентру, которым сейчас не хватает свободных мощностей. Вы инвестируете в ликвидное железо с окупаемостью 10-15 месяцев, а не в воздух.

Рынок GPU-инфраструктуры сейчас горячий как никогда, и окно возможностей открыто именно сейчас.

Так что если вы инвестор и вам интересно вложиться в понятную AI-инфраструктуру с подтвержденной экономикой — велкам в личку. Пришлю наш питч-дек, финмодель под NDA и отвечу на любые вопросы.
  • 🔥 90
  • 😁 32
  • ❤ 22
  • 🤡 9
  • 🤯 2
  • 🙉 2
Post #2238 7.01K
От менеджера сессий к мультитерминальному решению

Я решил угореть и заснуть терминал прямо в наше с вами решении https://github.com/vakovalskii/codbash 230+ звезд 20+ контрибутеров

За 3 месяца разработки мы поддержали и встроили более 10 CLI-агентных решений для анализа и менедж сессий

Zero-deps не очень получилось поддержать =)

Зато теперь можно прокинуть такой браузер наружу и кодить по сети =), или поставить только cli или запускать через браузер или поставить dmg

Что-то начало к чему-то большему.

И я ушел с Iterm2 на Codbash.

Все так же в open-source.

Присоединяйтесь в сообщество более 20 контрибьюторов! (планирую раздачу подписок на neuraldeep.ru всем активным!)

Установить DMG
  • 🔥 24
  • ❤ 15
  • ⚡ 2
  • 🤣 2
  • 👀 1
Post #2237 5.57K

Forwarded from LLM под капотом

Kimi K3 - в топе бенчмарка LLM для агентов

По очкам модель сравнима с GPT-5.5 Pro, но раз в 15 дешевле и раза в 2 быстрее. С такими показателями она автоматом попадает на оба Парето-Фронта, сдвигая их.

Эта модель с открытыми весами размером аж в 2.8T параметров, веса обещают выложить в открытый доступ 27 июля.

Из минусов - гигантский размер и большее количество пропущенных уязвимостей. Но плюсы перевешивают. Модель с открытыми весами впервые в топе моего бенчмарка LLM на бизнес задачах (среди всех трех поколений, которые тянутся с 2023 года).

Очень круто, что засилье OpenAI моделей в топах наконец прервано. Будем теперь ждать, пока открытым модели поменьше не подвинут с фронтира и остальные экземпляры OpenAI!

Ваш, @llm_under_hood 🤗
  • ❤ 44
  • 🔥 23
  • 🤣 11
Post #2235 9.37K
Говорить с Qwen на одном языке

Давно хотел выложить свои локальные наработки для агентов и промптинга Qwen через кодинг агентов

Выложил гайд и skill для того, чтобы строить и промптить под модели семейства Qwen3.x на их родном диалекте так, как это делает сама Alibaba.

РЕПО: https://github.com/vakovalskii/qwen-native-agents
  • 👍 35
  • 🔥 21
  • ❤ 5
  • 🤔 2
  • 👀 2
  • 💊 2
Post #2234 6.93K
Post #2233 7.46K

This post (sticker, poll or similar) has no web preview. Open in Telegram

  • 🔥 41
  • 😁 12
  • 🤡 10
  • 🤮 6
  • 🖕 5
  • ❤ 2
Post #2232 7.47K
Kimi K3

Ждем весов, будет 2.5T не меньше!

UPDATE:

https://www.kimi.com/blog/kimi-k3

Говорят рвет все что только было до этого
  • 🔥 49
  • 👍 8
  • 👀 3
Older posts →
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →