AI4Dev — AI for Development

Еще один ИИ-ассистент для тех, кто любит работать в консоли :
Omni Engineer - это консольный инструмент, который интегрирует возможности искусственного интеллекта в ваш процесс разработки. Он предлагает интеллектуальные ответы на запросы кодирования, управление файлами, веб-поиск и функции обработки изображений.
https://github.com/Doriandarko/omni-engineer/tree/main

Сейчас на YouTube-канале AI4Dev Алексей Иёшин рассказывает о том, как российское законодательство регламентирует применение ИИ в разработке ПО.

Алексей работает системным администратором более 20 лет. Он основал проект "Арт-панк от Айтишного", выходил в финал проектов президентской платформы "Россия — страна возможностей" и стал амбассадором проекта "Русский код".

На лекции обсуждаем:
▪️Регулируют ли применение нейросетей в российских IT-компаниях?
▫️В каких законах и нормах говорится об использовании ИИ в сфере информационных технологий?
▪️Какие обязанности ложатся на компании, использующие нейросети? Велика ли мера их ответственности?
▫️Каковы перспективы развития законодательства о нейросетях в России?

Присоединяйтесь к нам и задавайте вопросы в чате — ответим сразу после лекции в прямом эфире!

Интерес к ИИ-ассистентам для кодирования растет: Microsoft сообщает, что выручка от GitHub Copilot уже превышает доходы самого GitHub на момент его покупки, а это означает, что около 30 млн разработчиков ежегодно платят Microsoft $100 за этот инструмент.

Я сам давано пользуюсь Cursor, но умудряюсь ещё и использовать Copilot внутри него, тоесть плачу за всё. Вместе веселее :)

Сергей Булаев AI 🤖 - об AI и программировании

https://x.com/russelljkaplan/status/1820460524460802256

Что думает глава компании, разрабатывающей ИИ программиста Devin

GitHub предлагает тестировать целый набор LLM в вашем приложении не выходя из среды разработки.

Владимир Крылов, доктор технических наук и научный консультант по применению ИИ в разработке ПО, прочитал новую лекцию на YouTube-канале AI4Dev — "Встречи с бессознательным разумом".

В лекции:
🔸обсудили публикации, которые подтверждают превосходство моделей генеративного ИИ над человеком при решении многих интеллектуальных задач;
🔸рассмотрели недавно найденное решение математической проблемы, которая многие десятилетия исследовалась безуспешно;
🔸познакомились с новым подходом к общению с LLM, индуцировав в них воображаемые атрибуты сознания — глубокий бессознательный разум.

💬 Если при просмотре лекции у вас возникнут вопросы, пишите их в комментариях к этому посту, чтобы лектор ответил на них.

Оставляем ссылку на наш подкаст для тех, кому удобнее слушать лекции. Если они вам нравятся, подписывайтесь — это помогает развивать AI4Dev!

JPMorgan запустил чат-бот-аналитика для сотрудников

Внедрение разработки на базе LLM Suite стартовало в начале года. Модель помогает в написании отчетов, генерации идей и обобщении документов. Сейчас доступ к LLM Suite имеют 50 тыс. сотрудников подразделения по управлению финансовыми активами и благосостоянием (примерно 15% персонала). Собственный чат-бот позволяет компании использовать AI-технологии при работе с конфиденциальными данными.

В банке описывают модель как «продукт, похожий на ChatGPT», который должен использоваться для повышения «продуктивности общего назначения» в дополнение к другим приложениям для работы с конфиденциальной финансовой информацией — Connect Coach и SpectrumGPT. Президент JPMorgan Дэниел Пинто ранее оценил стоимость технологий искусственного интеллекта, которые уже использует банк, примерно в $1-1,5 млрд.

Конкурирующий американский инвестиционный банк Morgan Stanley сотрудничал с OpenAI и в сентябре прошлого года выпустил чат-бот на базе GenAI. Разработка открывает финансовым консультантам быстрый доступ ко всему интеллектуальному капиталу компании.
#news #AI

https://www.reuters.com/technology/artificial-intelligence/jpmorgan-launches-in-house-chatbot-ai-based-research-analyst-ft-reports-2024-07-26/

Банки делают следующий шаг по масштабному использованию генеративного ИИ в своих внутренних процессах.

Нашел неочевидное применение артефактам Claude для продуктологов, UX-дизайнеров и менеджеров:

Если помните, Anthropic недавно запилили фичу, где код который пишет Claude «оторван» от истории чата и написан так, чтобы его можно было понять в любом месте, независимо от прошлых сообщений, называется это «артефакт» и модель можно напрямую просить их генерировать (только включите эту фичу в настройках)

У людей которые сильно запариваются в UX продукта (респект вам), в разработке, есть сложность — когда проектирующий продукт человек придумал какую-то механику в интерфейсе и пытается ее объяснить коллегам:

— Программисты могут легко не понять, так как а) есть много других задач б) что там опять напридумывали в) много читать скучных тасков никто не любит;

— Речь идет даже не про разработку, человеку, чтобы выяснить насколько такой прототип «жизнеспособен», нужно расписать логику работы элементов интерфейсов в разных видах;

— Самому проектировщику интерфейса хочется понять, как выглядеть та или иная механика, самому понажимать кнопки и подумать про удобство;

— Занимает эта итерация кучу времени, намного удобнее когда менеджер или проектировщик может в код и набрасывает прототип сам, но это редкость — я вообще доходил до того, что iOS разработчикам делал макеты интерфейсов в After Effect (беда с башкой, я знаю 🚑 )

Ну так вот, оказалось что намного проще посидеть с Claude, описав ему какой-то отдельный кусок продукта, функции и проблему которую я пытаюсь решить — в видео как раз прототип кусочка нейролава который скоро пойдет в A/B тест в виде быстрой навигации по сайту, вместо старой

А поскольку артефакты теперь можно шарить ссылками со всеми, я просто прикладываю ссылку в таск и все намного лучше понимают, что я вообще хочу сделать — экономит часы, серьезно

#пропродукт

Claude 3.5 разработчикам - обмен опытом:

А вы не хотите запустить полномасштабную LLM 408 B коэффициентов на сетке домашних компьютеров?

Сейчас на YouTube-канале AI4Dev инженер центра «Сильный ИИ в промышленности» университета ИТМО Анна Авдюшина рассказывает о возможностях и ограничениях, которые привносит использование ИИ в разработку ПО.

В лекции обсудим:
🔸 как автоматизировать сбор и анализ данных с помощью ИИ и лучше понять потребности пользователей;
▪️ как ИИ автоматизирует классификацию документации и оптимизацию распределения ресурсов;
🔸 как ИИ способствует автоматизации тестирования, сокращает время разработки и уменьшает количество ошибок;
▪️ может ли ИИ анализировать исторические данные для автоматизации процессов, уменьшая человеческое участие и количество ошибок;
🔸 плюсы и минусы интеграции ИИ в жизненный цикл разработки.

Присоединяйтесь к нам и задавайте вопросы в чате — ответим сразу после лекции в прямом эфире!

Инструкция по тонкой настройке LLM с нуля

Если вы ищете ресурс для понимания процесса тонкой настройки инструкций в LLM, я хочу сообщить, что Глава 7 о тонкой настройке инструкций в LLM наконец-то появилась на веб-сайте Manning .

Это самая длинная глава в книге, в которой используется подход с нуля для реализации конвейера тонкой настройки инструкций. Сюда входит все: от форматирования входных данных до пакетирования с пользовательской функцией сортировки, маскирования токенов заполнения, самого цикла обучения и оценки качества ответа тонко настроенного LLM на пользовательском тестовом наборе.

(Упражнения включают изменение стилей подсказок, маскировку инструкций и добавление LoRA.) https://github.com/rasbt/LLMs-from-scratch

Как модифицировать Claude Engineer для переключения его на новую модель OpenAI gpt-4o-mini с помощью Claude Engineer.

Сергей Булаев AI 🤖 - об AI и не только

И вот только что опубликовано как заменить довольно дорогую LLM Claude на новую сильно подешевевшую GPT 4o
mini.

Многим разработчикам кода понравился Claude Engineer — это усовершенствованный интерактивный интерфейс командной строки (CLI), который использует возможности моделей Anthropic Claude 3 и Claude 3.5 для решения широкого спектра задач разработки программного обеспечения. Этот инструмент органично сочетает в себе возможности современных больших языковых моделей с практическими операциями с файловой системой, функциями веб-поиска, интеллектуальным анализом кода и возможностями выполнения.

https://github.com/Doriandarko/claude-engineer

Опробовали новый формат трансляции на YouTube-канале AI4Dev. Профессор Крылов и технический директор Notamedia Павел Кравчук дебатировали о том, когда стоит применять ИИ в разработке ПО. Обсудили, является использование ИИ в разработке временным трендом или новой ступенью эволюции ИТ-индустрии.

Оставляем ссылку на подкаст AI4Dev для тех, кому удобнее слушать наши трансляции. Если они вам нравятся, ставьте лайк — это помогает развивать AI4Dev!

Директор центра разработки Artezio Виталий Зотов рассказал о том, как применять RAG.

В лекции:
🔵обсуждаем принцип работы и применение RAG в приложениях;
🟠смотрим на проблемы и ограничения, связанные с LLM и RAG;
🔵изучаем варианты решения этих проблем, включая методы очистки и предобработки данных, их хранение и поиск;
🟠разбираемся с популярными индексами векторных баз данных;
🔵говорим о возможности улучшения качества поиска и ответов с помощью гибридного поиска, reranking и применения Cross-encoder моделей;
🟠обсуждаем способы преобразования запросов для улучшения качества RAG.

💬 Если при просмотре лекции у вас возникнут вопросы, пишите их в комментариях к этому посту, чтобы Виталий ответил на них.

P.S. Благодарим всех, кто ставит лайки на YouTube-канале и подписан на наш подкаст. Это действительно помогает развивать AI4Dev!