Применение ИИ и ML в высоконагруженных системах становится все более распространенным. В категории «Искусственный интеллект и машинное обучение в высоконагруженных системах» собраны доклады и мастер-класс о практическом применении ML в производственных системах ⤵️
1) Мастер-класс: «Удивительные эмбеддинги — как векторные представления применяются в задачах поиска и рекомендаций». Иван Красников (searchbooster.io)
Как устроена магия эмбеддингов внутри на мастер-классе подробно разбираться не будет, зато участники научатся махать волшебной палочкой! Будут разобраны на практике инструменты, которые позволяют строить и использовать векторные представления для рекомендательных и поисковых данных, даже если вы не Data Scientist.
Подготовительное задание: для экономии времени и снижения рисков поломки интернета необходимо заранее скачать материалы по ссылке (файл будет размещен за 2 недели до даты проведения конференции)
*Эмбеддинги — основа многих современных ML-решений, понимание их применения необходимо для создания эффективных систем.
2) Умный поиск по внутренней базе знаний с использованием LLM: от архитектуры до внедрения. Алексей Болтава (Т-Банк)
История о том, как Т-Банк улучшал поиск по всей внутренней проектной (и не только) информации. Тот случай, когда просто «нормально» — это мало и нужны постоянные улучшения. Рекомендуется тем, кто хочет использовать информацию по полной.
*Практическое применение LLM для корпоративных задач — одна из самых горячих тем в индустрии.
3) Архитектура высоконагруженных RAG-систем: 10 стратегий оптимизации чанкинга и интеграция с Weaviate, Qwen / Llama / Gemma. Андрей Носов (Raft)
В докладе обсуждаются архитектурные решения для построения RAG-системах, включая 10 стратегий оптимизации чанкинга, выбор векторной БД, оптимизацию пайплайнов для работы с LLM, кэширование чанков и эмбеддингов для снижения задержек и методы повышения точности при работе с большими данными.
*RAG-системы становятся стандартным подходом к применению LLM в корпоративных задачах.
4) Эволюция векторного поиска в YDB: от базовых методов к масштабируемому глобальному индексу. Александр Зевайкин (YDB)
Хотите знать, что же такое векторный поиск? Причем здесь ИИ? А как сделать так, чтобы он был быстрым? Как сделать так, чтобы он масштабировался на множество нод? Приходите на доклад Александра о том, как векторный поиск со всеми этими свойствами сделан внутри YDB.
*Векторный поиск — фундаментальная технология для современных ML-систем и рекомендательных сервисов.
5) ML в продакшене: почему аналитикам и бэкенду сложно договориться. Сергей Лавров (Авиасейлс)
Мы пользуемся Aviasales, но понимаем ли мы, по каким принципам нам рекомендуются билеты? Сергей расскажет именно об этом. Как от хороших рекомендаций перейти к лучшим: пример совместного непростого путешествия ML- и бэкенд-команд.
*Огромный отрыв в голосовании показывает высокий интерес к проблеме интеграции ML-решений в рабочие процессы.
Ждем вас на профессиональной конференции разработчиков высоконагруженных систем Saint HighLoad++ 2025 🖐️
✅ Программа конференции, расписание и билеты на сайте
Post #2338
365
Forwarded from HighLoad++
