Мандрик, Казаков и роботы

Ну поехали немного про вайб-кодинг. Попросили сделать примеры с "серьезными ИИ" но я начну с простых решений. А следующим постом - рассмотрю тяжелую артиллерию.

Итак. На входе мы имеем:
1. Большая Языковая Модель типа GPT (что мы обзываем ИИ) умеет писать текст
2. Любой код на любом языке программирования - тоже текст...
Замечаете какое удачное стечение обстоятельств?)))

Это означает, что мы можем попросить любую модель написать нам текст в виде кода и получим результат. Или нет? Ну вообще да - мы же попросили написать, ИИ и напишет. Правда как попросили, то и получим )

Давайте что-то простое?

Напиши приложение на HMTL, CSS и JS для красивого и переливающегося градиента со случайным изменением цвета и непрерывной анимацией.

Результат на скрине, запустить можно прямо в DeepSeek (они недавно добавили кнопочку превью). А можно скопировать код в CodePen - https://codepen.io/vmkazakoff/pen/GggMzOo и посмотреть там или поделиться с коллегами. Как зарегистрироваться и куда копировать сами догадаетесь))

Машинный код. Просто код. Лоу-код. Ноу-код... Теперь вот вайб-код ...

Куда катится мир? Особенно разработка.

- 70 % программистов пользуются ИИ-ассистентами
- 25% кода компании Google теперь пишет ИИ
(ну так, первое что нагуглилось, чтобы добавить серьезности посту)

И да - ИИ делает это сильно быстрее, хоть и менее качественно, по мнению некоторых скептиков. Причем каждый раз, когда я начинаю смотреть на промпты таких скептиков, я нахожу абсолютнейшие ляпы - когда в промпте вообще не указаны какие-то важные параметры... но виноват, конечно, бедный беззащитный GPT, который и сказать то в свою защиту ничего не может, если его об этом не попросить. но в контр сам себе скажу, что ломать код ИИ может с действительно поразительной частотой ))

Что собственно случилось с кодингом? На мой взгляд ничего особого - просто то, что раньше копипастили со стаковерфлоу и правили под себя... теперь стало еще немного удобней )

Для "тру программистов", которые считают копипаст кода зашкваром, напомню:
- копировать код начали даже не в момент когда мы в тетрадках в клеточку переписывали код для спекртрум у друга, чтобы запустить у себя
- и не когда в журнале Моделист Конструктор 1987 года напечатали машинный код, который нужно было перепечатать (погуглите - залипательнейшее занятие, я скажу)
- а, наверное, когда во времена молодости еще наших родителей лаборанты тырили пачки перфокарт друг у друга, чтобы не перенабиВать самим
- а может и еще раньше, но я этого просто не знаю )

Если как-то будет лирическое настроение, напишу как 10 раз профессии программистов обещали скорую смерть. Первый раз - когда я еще и не родился )

Так вот 11й раз подряд нас уверяют, что ну теперь то программистам точно каюк, так как теперь код вообще сам себя пишет, тестирует и даже документирует. Это правда так. И даже больше того - ИИ еще и неплохо справляется с задачами продумывание архитектуры. Но... нужно вести за ручку ))

Ну а что вы хотели? Кнопку "сделать хорошо" еще пока никуда не завезли. И для человека который не шарит в программировании ИИ не поможет особо. Но тех кто шарит может ускорить в разы. Уже от многих коллег по цеху слышал сравнение, что "ощущение, что прямо рядом со мной сидит несколько десятков джунов, которые только и ждут что я скажу, и сразу бросаются делать".

Стоит подкинуть немного инструментов? Интересна тема? Просто это не про обучение, но вот почему бы и не да?)

ИИ попсеет. И это и хорошо и плохо. Навеяно тренингом сегодня.

Сейчас на тренингах рассказываю о том как писать промпты и какие есть фреймворки, лайфхаки... но эта информация становится не нужной с учётом последних доработок в Чате ГыПыТы, так как их модель может "подумать" перед ответом и ещё несколько раз сходить в интернет за проверкой данных и нужными сведениями.

С одной стороны - хорошо. Ну ведь задать вопрос становится все проще и проще с каждым днём. Значит меньше людей разочаруется и больше будет пользоваться ИИ в работе и в быту.

С другой стороны - плохо. Переход на более простую модель вызывает ступор, если внутри компании простенькая ЛЛаМа, а мы привыкли к ОпенАИ, то пользоваться ЛЛаМой становится мучительно больно. А управляемость и валидация ответов вообще становится очень сложной.

Из примеров:
ЧатГПТ с включенным режимом рассуждений за 15 минут написал "прогноз по рынку китайских авто" (промпт буквально в одну строку) даже лучше, чем Мистраль или Дипсик в который закинули длинный и правильный промпт, написанный по всем канонам промпт-инженерии за те же 15 минут.

Не, 15 минут это мало для написания промпта, я иногда и день тратил, но зачем это все теперь, когда вот - пара строк и готов ответ.

К идее проверки тестовых ответов ещё вернёмся, скорее всего не раз.

Сейчас изучаю кейсы использования ИИ внутри курса для адаптации контента.

Кто был на наших конференциях слышал от Алексея Миляева как он применил его в диалоговом тренажёре - отличный кейс и шикарное воплощение.

Но недавно Лена Тихомирова познакомила с решением, где на входе человека анкетируют на предмет его интересов и предпочтений, а затем внутри курса уже адаптируют задания и примеры под человека.

Делается "в теории" очень просто:
"Адаптируй текст ... (тут идёт текст задания или теории специально очищенное для ИИ от мусора), с учётом интересов человека ... (тут то, что ввел юзер)".

И все бы хорошо, но в таких кейсах есть куча проблем:
1) Адаптировать сам текст, чтобы сначала он был "ни для кого" или сделать несколько примеров.
2) Учесть что пользователь в поле "расскажите о себе" может написать одно слово, а может целое сочинение. И это надо как-то обработать и привести к общему знаменателю.
3) Становится непонятно, что именно пользователь изучал в курсе. Так как у каждого текст оказался свой.
4) Статистика. Просто вышла из чата. В лучшем случае имеем "урок пройден" с учётом предыдущего пункта.
5) Проверка знаний. Тоже вышла из чата, ну или становится совершенно не предсказуемой.

Ничего не забыл?

Со всем этим можно работать, улучшая первый промпт до бесконечности и вводя дополнительные промпты, но системно - эти пять проблем до конца никогда не уйдут. Хотя в целом это тот самый путь к адаптивном у обучению, который мы так давно искали.

Как мне нравится, что к идее использования ИИ внутри обучения приходят все больше и больше поставщиков!

Хотя тут ребята использовали ИИ ещё для оценки обучения внутри по результатам транскрибации речи в текст. Для этого сделали более 40 критериев "что такое хорошо" по конкретной теме и дальше нейросеть проверяет каждый критерий и ставит оценку.

Больше кейсов хороших и разных!)

Какие ошибки есть в рецептурной бланке? (Не подглядывая под спойлер!)

Второй кейс, более прикладной. Нашли с фарм.компанией, пока прорабатывали историю с проверкой ответов с ИИ.

Сравните сложность вопроса с вариантом, когда вы видите номерки на картинке (теперь можно посмотреть картинку под спойлером).

Согласитесь, разница очень большая. В первом случае я должен знать что и как должно быть написано, во втором, скорее всего, хватит просто внимательности. А если под картинкой ещё и описаны ошибки в вариантах, то задача решается даже без специального образования.

Пока я однозначно убежден, что место ИИ внутри обучения, а не просто для генерации контента курса (и даже наоборот - вот тут я бы хотел, чтобы люди присутствовали по максимуму).

Когда Вам разрешено ставить автомобиль на стоянку в этом месте?

Попробуйте ответить на вопрос, не имея вариантов ответов. Попробовали?

Теперь сравните с другой формулировкой вопроса:
Разрешено ли Вам ставить автомобиль на стоянку в этом месте по нечетным числам месяца?
- Разрешено
- Разрешено только после 21 часа
- Запрещено

Это пример, когда проверка вопросов с ИИ открывает нам совершенно новый горизонты в тестировании и проверке знаний. Вопрос с вариантами самим фактом их наличия подсказывает нам правильный ответ.

Вопросы в свободной форме заставляют думать и вспоминать, а задания с выбором из вариантов - проверяют только умение делать выбор.

А у вас в тестах часто правильные варианты самые длинные?)))

Хочу похвастаться, что сделал. В МТС Линк (и нет, это не реклама, ну как минимум не договорная) запустилась система проверки свободных ответов на базе ИИ.

Теперь можно сделать тест из свободных вопросов и получить оценку. Без ручной проверки! Практически моментально!!

Мое мнение - это сильно более мощное применение ИИ, чем просто для генерации контента курсов. Да, для создания курсов ИИ тоже сильно помогает, но вот в проверке знаний... ух! Хотя у ребят и после моего ухода осталось еще вагон работы - допилить комментарии от ИИ, возможность поменять оценку/коммент или валидировать вручную...

Я в отдельных постах распишу, какие кейсы у меня там получилось закрыть с разными компаниями, но сразу скажу, что сильно доволен результатом. А главное - в целом в такой проверке нет ничего особо сложного (даже технически), в принципе можно встроить ИИ в любую систему тестирования (хотя в некоторые со скрипом).

Кейсы на подходе. И они очень интересные )

Ну и первая же новость будет про изменения. Только уже не у меня, а в области ИИ.

Мне пришлось добавить в тренинг отдельный блок для демонстрации скорости изменений на примерах и кейсах. Это просто за гранью наших привычек.

Вчера идея попросить ИИ поразмышлять вслух (чтобы ее размышления попали в контекст и помогли найти правильное решение) было лайфхаком, сегодня это включается специальной кнопочкой в топовых моделях.

Вчера я говорил, что ИИ не может за вас что-то сделать (только написать как сделать), сегодня некоторые ИИ научились жать кнопки на экране вашего компьютера, а уж писать код который сразу скомпилируется и будет готов к использованию - как само собой.

Вчера я говорил про лимиты токенов после которого модель может уводить в сторону от изначальной темы, сегодня (вот буквально на днях) вышла новая опенсорсная лллама с лимитом 100к.

В некоторых моделях появилась избирательное внимание в виде отдельного слоя нейронки (скорее даже отдельной нейронки целиком). Понятие долговременной памяти тоже уже есть, и это не "загрузить все прошлые диалоги", и не RAG, а нормально продуманная идея.

Пожалуй только до обучения прямо на ходу ещё нет. Но это пока. Пока это просто слишком дорого.

Я в какой-то момент перестал обновлять некоторые слайды, так как пока я веду тренинг - оно может поменяться.

К счастью, большая часть тренинга и нашего курса построена не на хайповых новостях, а на том, как работает технология под капотом. И даже когда разработчики обновляют примерно все, сама идея, без которой работать с ИИ на 100% не получится, остаётся. Но, кажется, это тоже "пока". Пока не придумали что-то совсем другое.

Ну что, друзья. У меня (Владимира Казакова, чтобы внизу поста не выискивать) новый этап в жизни ))

Я покинул МТС Линк. За полтора года сделал кучу крутого и интересного, но пора двигаться дальше. Что там наделал - расскажу в следующих постах, как всегда с примерами и кейсами. Но закину удочку, что удалось создать сильно новый подход к проверке знаний. Об этом прям отдельно буду писать, так как на мой взгляд - вышло круто.

Ребята из моей команды, кому я передал все дела, пока дотаскивают новые фичи на прод, а я доволен, что за полтора года удалось с нуля создать мега-банду, которая может все)

Что это значит для читателей канала?

1) Что теперь у меня больше времени на написание постов! Кейсов с наших с Ромой тренингов скопилось много, даже слишком. Да и работа с клиентами Линка дала огромный опыт и насмотренность, которую я бы никогда не получил, работая внутри любой другой компании. Но фуллайм не позволял нормально уделять время этой задаче.

2) Ну и заодно скажу, что у меня есть еще два канала, которые я в какой-то момент "прикопал", но они, на самом деле они запали мне в душу, и их я тоже реанимирую. Канал @dl_techhunter продолжит жить для публикаций про интересный софт, но теперь с чуть большим уклоном в ИИ. А канал @dl_memes так и останется про мемчики про обучение, но теперь еще добавится про разработку и ИИ немного.

3) А еще это значит, что мы готовы проводить больше тренингов и консалтинга. Хотя честно, календарь на апрель уже лопается и график тренингов почти ежедневный. Как и всегда - наши тренинги это не прогон стандартной презы, а кастомный подход к каждому заказу.

4) Разумеется не могу не написать, что наш готовый SCORM курс никуда не пропал, он все еще доступен для заказа. Демка тут: https://rise.articulate.com/share/nV62dGCpAWM0hbjptF3jWAuwVaw2OKTR

5) Так как опыта с ИИ вагон и тележка, хочется его утилизировать в какой-то новый продукт, типа ИИ помощника методолога для создания курсов.мой Ощущение, что мы такое сможем втащить - так почему бы и не сделать? Если у кого-то есть интерес в этом направлении - готовы обсуждать и двигаться вместе

...) А еще, но это не точно, мы можем сделать второй курс, уже по графическим ИИ и рассказать про промпт инженерию в них. Или сделаем открытые воркшопы по ИИ в обучении. Или... блин, сколько новых крутых возможностей! Что бы выбрать?)

Какой-то лютый сюр произошёл только что с компанией айспринг и ее основателем Юрием Усковым.

Не хочу угодить в детали, но выглядит пока как маски-шоу из девяностых.

Одна из лучших компаний в направлении конструкторов курсов. Занимают старомодно первые места во всех международных рейтингах конструкторов. Потрясающий образец российского ИТ.

Сам Юрий тоже человек, которого я лично очень уважаю. И за гражданскую позицию, и за дела, которые он творит. За все его открытые и благотворительные проекты.

Списался с коллегами. Пока хочется, чтобы работа кипела и дальше, и ребята попросили рассказать, что у них есть крутая программа обучения для учителей: https://t.me/education_vector_with_ispring/361

Пока нет идей другой поддержки, кроме как направлять лучи поноса организаторам масок шоу.

В продолжение диалога к прошлому посту. Никогда раньше не обращал на это внимание, но теперь осознал.

Я принципиально не верю скринам с диалогами. Причин слишком много, но это уже что-то на уровне подкорки - не надо верить всему в интернете.

Диалоги на картинке в прошлом посте явно "не полные" и их обрезали так, как удобно было автору.

Помимо того, что не видя полную переписку мы не знаем что за инструкции были даны вне скрина, так ещё и надо помнить, что любой человек через консоль может поправит любой текст на странице так, что никогда не будет по скрину ясно настоящий ли текст.

Не смотря на то, что сама картинка "подстава" (скрины не полные, думаю что где-то мне быть инструкция считать эти цифры датами) суть остаётся.

Никогда не пытайтесь считать с использованием языковых моделей. Только за этот месяц дважды встречал такой подход и искренне недоумение, когда получали "ошибки".

Языковые можешь на то и языковые, что ближе к филологам. Они придумывают продолжение текста, а не проводят вычисления.

Хотите получить валидный nps из тестовых отзывов? Не проблема. Просите оценить тональность каждого высказывания, но вот рассчет итогов оставьте хотя бы на эксель, если скрипты ну совсем никак.

Не люблю новостные посты, но DeepSeek уже невозможно игнорировать, а слышали о нем не все.

Ребята переосмыслили подходы к обучению и использованию ИИ.

1. Сократили стоимость обучения моделей с $100 миллионов до $5 миллионов, используя меньшее количество GPU (с 100 000 до 2 000). На секунду, это просто катастрофа для компаний типа Nvidia. Ну и категорически противоречит логике последних изменений, когда даже простое банковское приложение жрет все больше и больше ресурсов с каждым обновлением.

2. Используют 8-битные вычисления вместо 32-битных.
Это как если бы для любой, даже маленькой, заметки использовали бы целую тетрадь на 32 листа, а теперь перешли на 8. А ещё их система "мульти-токенов" позволяет обрабатывать данные в два раза быстрее.

3. Самое уникальное. Вместо одной универсальной модели, DeepSeek использует специализированных "экспертов", которые включаются только при необходимости. Снизили количество активных параметров с 1,8 триллиона до 37 миллиардов. Представьте, что раньше, чтобы вскипятить чайник вам приходилось ещё просить всех соседей вскипятить свои, так как не знаете точно в каком налита вода. А теперь точно знаете и кипятите только его.

4. Открытый исходный код! Даже добавить нечего.

5. DeepSeek позволяет использовать обычные GPU вместо дорогостоящих серверных. График акцийи(в треде) очень показателен.

6. Мое личное мнение: это прорыв. Логика работы ИИ стала ещё чуть ближе к тому, как устроен наш мозг.

Собрав в кучку все новости, которые откладывал на праздниках, хочу провести итог. С момента выпуска курса прошло не так много времени, но уже сейчас я вижу два места, в которых я уже вру.
- ИИ научили думать глубже и критиковать себя же. Неплохо работает у китайской deep seek, вот бы она ещё не так гадко портила русский в длинных текстах.
- ИИ научили нажимать на кнопки за нас. Пока вообще работает кривовато и не везде, но движение есть.
- Ну и появилось новые модели, типа того же deep seek, с интересными возможностями.

Хорошая новость - это не меняет логики курса и пользы от навыков.

Ещё более хорошая - я в курсе больше рассказывал о том как "понять" логику происходящего внутри черного ящика, и, малая по всему, эти навыки будут все актуальней.

Демку курса все ещё можно скачать из поста https://t.me/casesonly/204, а за полной версией прийти к нам с Ромой в личку)

Пора бы уже стартовать год. И новости тем более появились.

https://www.cnews.ru/news/top/2025-01-10_vseyadnyj_kultovyj_mediapleer

Мой плеер для видео по умолчанию - vlc. Честно, не за что-то особое в нем, а просто это один из немногих плееров, которые работают на всех моих системах - мак, винда, линукс.

Теперь в нем по умолчанию будет расшифровка речи в текст. Пока закрыто, но уже обещают совсем скоро.

Очень интересно, смогли ли они решить вопрос если несколько говорят одновременно и распознания голосов по отдельным спикерам. Если да - снимаю шляпу, они реально волшебники!

А вы тоже грузите на Ютуб, чтобы получить текст?

Под финал года делюсь новой опубликованной статьей о том, где в обучении есть место ИИ, а где - еще рановато )

https://mts-link.ru/blog/iskusstvennyj-intellekt-v-obrazovanii/

И раз пошли по сути курса, то возвращаюсь к его содержимому.

На тренингах, которые мы с Ромой ваши весь год, мы поняли, что проблема не столько в "выучить формулировки базовых промптов", мелко в понимании, почему и зачем.

Такое понимание приходит всегда только после того, как на своем примере разберёшься в вопросе. Но блин, тут же ИИ, так вот в лоб не получится.

В итоге для каждого навыка родилось свое упражнение.

Первый навык - понимание контента.

Представьте, что я прошу вас продолжить предложение. В нем есть только одно слово "один". У вас миллион вариантов - "один в поле не воин", "один, два три", "один икс бэт"...

Это пример когда контекста слишком мало.

Теперь второй вариант - "один, два, три, четыре" - тут очевиден ответ, все ясно. Контекста достаточно, это правильный пример.

Третий вариант - "один, два, три, ... девятьсот девяносто девять"... А зачем так много, если все было понятно ещё в начале?

Ну и мое любимое. Давайте покреативим вместе - "один, two, 3, IV, ..." - продолжайте со своими вариантами )))

Тема искусственного интеллекта продолжает вызывать живой интерес, особенно когда дело касается учебы и работы. Мы продолжаем отвечать на ваши вопросы с экспертами, и сегодня с нами:

Владимир Казаков, менеджер по продукту бизнес-юнита "Обучение" МТС Линк.

Разберем самые актуальные темы:
— Как оптимизировать график рабочих встреч и чатов с помощью ИИ?
— Может ли ИИ помочь сделать презентацию к паре быстрее и эффективнее?
— Почему нельзя просто сдать исходник работы, созданной ИИ, и так важно вносить свои коррективы?

Смотрите в VK Видео!

*Просмотр этого вебинара не влияет на получение сертификата, но точно добавит идей для оптимизации вашей жизни.