very vibe coding

Тут на днях в пожарном режиме переводил видео в текст, чтобы отследить, что было озвучено на прошедшем совещании. Традиционный продукт для этих целей Whisper, кстати, от OpenAI, и что еще удивительнее, open source. Получилось на 3+, т.е. получилось, но качество того, что Клод из этого вставил в доклад - так себе. Оказалось, что он выдал текст на английском, а потом Клод переводил его на русский. Горе от ума, что называется. Зато тут тот же OpenAi выдал SOTA модели, доступные по апи. В следующий раз попробую, расскажу

Это и правда так мило. Ну кто не захочет такого?

И в дополнение видосик о том, могут ли исследователи найти в модели «плохие побуждения» или «скрытые мотивы», когда она ведет себя не так, как должна для нашей пользы, зная что ее наградят за обман

Если что, вот ссылочка на оригинальную статью

https://www.anthropic.com/research/auditing-hidden-objectives

Они все понимают… наверное, скорое еще начнут над нами немного издеваться..

Еду на днях на большую конференцию, нужно готовить презентацию. Честно говоря, уже так привык использовать ИИ, что двух мнений, как ее делать не возникло. Собрал все файлы, что относятся к теме, и с Клодом минут за сорок план набросали.

А вот с изготовлением презы пошел по хардкорному пути. Всякие Gamma ai, Beautiful ai и пр. использовать не хочу - не понравилось. Но зато нашел пакет python-pptx, который позволяет программировать презентации на питоне! Пару часов в фоновом режиме попинал Клода, и первая преза готова. Визуально это, конечно, жесть, и блин комом, но самое главное - работает. Теперь попробую докрутить до чего-то не стыдного, в моем корпоративном формате.

Тут, конечно, легкого пути нет, зато если получится, эффект будет крутой. Можно будет закидывать текст презы в телеграмм и получать ее в корпоративном формате за пару минут. Буду пробовать.

Заодно по пути получил кучу инструкций о том, как делать презентации, буду использовать в будущем в промптах. В любом случае, пригодится

Песня от моего подписчика для профессионально деформированного человека (не без помощи нейросетки, конечно)

Любителям мультимедиа - используйте SUNO и Keygen

В дополнение к предыдущему посту. Сделал три инструкции для включения в контекст Клоду при программировании - первый для непосредственно программирования, второй - для работы агента (на перспективу), третий - для выбора технологического стэка при начале проекта.

Файлы ниже, если кому интересно, есть и короткие версии для экономии контекстного окна (Клод рекомендует начинать проект с полными версиями, а по ходу можно переключаться и на короткие).

Несколько практических наблюдений в продолжение моих мытарств над проектом. Все продолжается примерно также - Клод в Курсоре пишет как не в себя, все сложно, пытаемся отладить ошибки, но проблески видны.

Попробовал использовать другие модели - Клода без ризонинга, ChatGPT 4,5, Gemini. И понял, что зря я на Клода наговаривал - только он родимый, и только с ризонингом. История в том, что он за один проход пишет какое-то нереальное количество кода и решает много проблем за раз. А остальных надо постоянно подстегивать, но деньги то берут за обращения, в итоге Клод с ризонингом дает за фиксированную цену максимальный результат.

И да, еще - никогда, никогда не используйте ChatGPT 4,5. Толку ноль, зато за каждый вопрос снимают по 2 бакса. Альтман устроил какое-то разводилово.

Для интереса установил себе Виндсерф. Надо сказать, что и Курсор и Виндсерф - это докрученный VS Code, все выглядит очень и очень похоже. Но по части цен, исходя из того, как устроены тарифы, выглядит, что Курсор будет выгоднее, по крайней мере, по первому впечатлению как-то так. Да и привык я уже к нему.

А проблемы свои решил решать через промпт-инжиниринг. Описал все, задал вопросы триумвирату - Клоду, Чату и Гроку. Причем последним - в распиаренном формате deep research. Итог - рисерч получился фиговый, Клод и здесь безусловный чемпион - у него получилось подбробнее, вдумчивее.

Итог, думаю, вы поняли. Среди существующих нейронок Claude Sonnet 3,7 + reasoning - безусловный фаворит. И Cursor с агентом, который использует эту модель тоже своих денег стоит, программы писать удобнее в нем, через интерфейс Клода это менее удобно, хотя и возможно. К тому же, если для обычного Клода все-таки нужна иностранная симка, то курсору достаточно только карточки. Подписывайтесь, не пожалеете

На пути vibe-кодера много препятствий. Столкнулся с одним из них там, где, честно говоря, не ждал. Простейшая задачка - хочу разобрать коды ОКТМО (административно-территориальное деление России согласно Росстату) на таблички с уникальным перечнем и кодами регионов, муниципалитетов, поселений и населенных пунктов (да, у нас аж 4 уровня деления с 200 тыс. записей). подхожу к снаряду третий раз - и неудача. Написано полсотни скриптов, тольком коды муниципалитетов сопоставить не можем.

Но нет худа без добра. Смотрю, как машинка пишет и понимаю, что она постоянно уходит в какие-то дебри вместо того, чтобы тупо решать задачку. Ей это просто не интересно, она слишком творческая (может это просто ризонинг надо снять и перейти на обычную модель??). Она решает очень много побочных задач, о которых я даже не думал и не спрашивал. Это прикольно, конечно, но ничего не работает.

Знаете, как иногда нужен тупой, но послушный рабочий вместо творческого. Реально завтра попробую поставить модельку потупее и посмотреть, не получится ли лучше.

В целом, чем дальше, тем больше зреет концепция комбинации творческого постановщика задач и тупого дисциплинированного кодера. Ну или как-то более жестко брать под контроль дерево задачек, которые решаются по ходу работы над поставленной проблемой.

Немного новостей - их очень много, но я кратко. Какой-то сумасшедший темп прогресса и появления новых моделек. Во-первых OpenAI выпустили API с кучей новых фич включая поиск в интеренете (никого не удивишь, но хвастаюстся что стал лучше), поиском по файлам (а это интересно), и управление компьютером через агента (а вот это уже бомба).

Видимо это все реакция на очередное китайское чудо - Manus, о котором все пишут с таким восторгом, что есть ощущение, что китайцы просто скупили всех блогеров. Manus пока толком недоступен. Сама система - это Клод с хорошо подобранными тулзами, которые отлично все автоматизируют. Есть в GiHub и OpenManus - бесплатный аналог, который, говорят, за 3 часа соорудили. Опять же, говорят, что ничего - но проверять пока некогда.

Выпустили Gemma 3, про которую говорят, что SOTA, да еще и на 27 млрд параметрах. Прогрывает только R1 из опенсорса, но зато ставится на локальные машины, да еще и куча квантизованных моделей любого размера. Плюч работает не только с текстом. Очень многообещающе.

На этом фоне моделька Mistral OCR, которая SOTA для перевода фото в текст уже как-то теряется в потоке новостей.

Когда только все это пробовать? Буду дожимать пока свои темы с Cursor..

Вчера таки сделал свою первую веб-страничку. Ну, точнее, не я, конечно, - Cursor на пару с Claude. Уже думал, что никогда до этого не дойдем - он все писал, исправлял, но кое-как добрались до результата. Получилось не совсем то и не совсем так, но уже есть на что смотреть и с чем работать, будем потихоньку править. Главное, что мне не пришлось писать ни строчки кода - только раздавать команды, в общем, все так, как я себе видел.

Из деталей - cursor rules слетают. Он объясняет это тем, что выбирает контекст между наиболее релевантными источниками - либо логами терминала, либо правилами, и они не в приоритете. Это не очень хорошо - из-за этого он переписал readme в какой-то момент, заменив файл из 500 строк на 80.. Зато хорошая новость в том. что платная подписка расходуется более-менее неспешно и он не сожрал все бабки с тарифа за 2 дня. В общем, процесс рабочий, и, видимо, Cursor - это наше все.

Поставил себе Cursor, заплатил 20 баксов за месячную подписку, запустил задачку по изготовлению для меня портала по обращению с ТКО. Это какая-то фантастика, примерно так я себе и видел. Он подключил Claude Sonnet-3.7 (в подписке 500 запросов в месяц к премиум моделям от Anthropic и OpenAI, я пока использовал 17). Машинка задает наводящие вопросы - что тебе, дружище, нужно? Изучает твои директории на компе, планирует разработку, программирует потихоньку. Результат пока не готов, но это впечатляюще. Даже если это не сработает со мной и сейчас, через два года это станет работать со всеми и еще проще, надо к этому готовиться. И да, правила, которые я писал, работают, вроде пока все как надо.

Пользуясь случаем, делимся с вами полезной подборкой блогов / каналов / курсов по ИИ, созданных лучшими женщинами учеными и ML-разработчицами

🟦 Всеми любимый технический блог Лилиан Вэнг – исследовательницы из OpenAI, которая сейчас работает у Миры Мурати. Тут подробные объяснения концепций LLM, схемы, ссылки на актуальные статьи и многое другое. Наша любимая статья: Prompt Engineering (до того как это стало мейнстримом)

🟦 Блог и видеокурс Кэсси Козырков. Она бывшая главная специалистка по теории принятия решений на данных в Google (Chief Decision Scientist), а на сегоднящий день CEO Data Scientific. Известна своим активным блогом, прекрасным каналом на YouTube и бесплатным видеокурсом "Making Friends with ML".

🟦 Блог и огромный курс по NLP Лены Войты, из которого все всегда берут схемы и рисунки. Лена – Research Scientist в FAIR Meta, PhD и автор кучи статей. Если хотите с вероятностью 100% понять все главные концепции NLP – вам сюда.

🟦 YouTube-канал Джордан Харрод – докторантки MIT по нейронаукам. Тут и простые видео про то, как использовать ИИ в рутине, и обзоры новостей, и разборы статей, и объяснения сложных концепций ML простым языком. Однозначно рекомендуем.

🟦 Блог Рэйчел Томас – очень известной специалистки в области ML и соосновательницы образовательной платформы fast.ai. Она была включена в топ-20 женщин в ИИ по версии Forbes, а в своем блоге активно пишет об этике данных и прикладном ИИ в медицине и биологии.

Сохраняйте (и еще раз с 8 марта вас!)

Шикарная подборка, надо читать/соушать

Сегодня на троих (c Claude 3.7, ChatGPT-4,5 и Grok 3) для загрузки в Cursor и прочие промпты составили правила правильного программирования. Будет полезно - велкам )), если есть замечания или дополнения - буду признателен

ChatGPT сделал интеграцию с VS Code, Curcor и пр. - теперь можно давать ему задачки в обычном интерфейсе и он будет их автоматически запускать и получать обратную связь. Поставил себе, все привязалось, но тестировать буду позже.

Раньше чему-то подобному научился Claude с протоколом MCP, но оседлать эту технологию я нормально не смог - проблема в том, что он пишет слишком много кода, исправляя что нужно, и что не нужно, забывая о первоначальной цели. Буду тестировать решение в cursor - устанавливать жесткие правила для программирования (видосик на эту тему). Попробую налабать правила, точно не помешает ни для Клода, ни для ЧатДжипити.

И еще надо попробовать новую модельку Мистраль для распознавания документов - у меня как раз есть такая задачка. Да, еще Sora для генерации видео хотел попробовать - OpenAI выложил ее в доступ (и ChatGPT 4.5 тоже)..

Хватило бы сил хоть на что-то

Если традиционные сети уперлись в проблему с недостатком данных и прогресс уже не так очевиден, то в части нетрадиционных способов обучения куча всего интересного. Как пример

https://t.me/data_secrets/6325

Вчера рассказывал своим коллегам из блока ИТ про нейронки - рассказал, какие самые лучшие, показал как писать промпты. Клод показал, с какой скоростью он пишет код. В общем, начали погружаться потихоньку

Кстати, тут Inception обещает выпустить модель, которая пишет код, не на основе LLM, а на основе диффузии - так, как генерятся видео и фото. Говорят, что получается в разы быстрее, а значит, и дешевле

И да, про мой vibe coding - установил вчера Cursor, подключил по апи Claude и ChatGPT, с Gemini что-то не получается, а это важно, поскольку работать надо по апи, а цену у Google в разы ниже. У них, кстати, куча каких-то возможностей по работе с нейронками, но разобраться в этом решительно невозможно