MLOps Weekly

А пока что я хотел бы узнать, на сколько вам будет интересна тема развития DevOps? Какие тенденции существуют сейчас и что нас ждет дальше.

Набираем 10 🔥 под этим постом и я выкладываю рассуждения на тему NextOps в ближайшее время.

DevOpsConf 2024 в Сколково: Будущее DevOps и MLOps на горизонте.

Этот год стал настоящим переломным моментом для DevOps-сообщества. Kubernetes уже не единственный герой дня, уступая место новым звездам: Platform Engineering, Безопасности, и самое главное, сфере Machine Learning. Было проведено несколько воркшопов, связанных с применением локальных LLM моделей, с некоторыми DevOps практиками и с проработкой soft-скилов внутри команд. Также нашлось и место для Fail-митапа, на котором множество спикеров из разных компаний рассказывали о своих крупных фейлах. Однако об этом говорить неприятно, поэтому все, что было на этом докладе, останется навсегда в зале 🤫

Мой доклад нашел место как раз в новой секции Big Data и Data Engineering и назывался “Как создать ML-платформу по выводу 💯 моделей в неделю”.
Я долго думал над этим названием, над тем, стоит ли делать его таким броским, однако все же остановился на таком. Как и упоминалось в предыдущем посте, этот доклад был некоторым продолжением с предыдущей конференции.

Вся структура доклада была построена на разграничении обязанностей между командами разработки и MLOps инженерами. Она питалась вопросом: А чем должен заниматься MLOps инженер? Первый блок был посвящен тому, как мы научились на лету распределять ресурсы для Jupyter ноутбуков. Как предоставить ноутбуки пользователям, основываясь на том, что MLOps инженеры должны прежде всего предоставлять среду для разработки, а уже опытные DS и DE будут ее использовать так, как им это необходимо, не зная всю инфраструктуру в целом. Второй блок представлял собой улучшенный подход в обучении и выкладке моделей по сравнению с предыдущим вариантом с конференции из прошлого поста.

По итогу выступления наша команда не только решила проблемы нескольких компаний, которые имеют похожий продукт, но и получила объемную обратную связь по части оптимизации текущего подхода.

Как только появится запись доклада на YouTube, я выложу ее в этой группе

#it_conferences

IT Митап - это классное место, где спикеры и организаторы могут заявить о себе, а слушатели узнать решение каких-то наболевших проблем.

С другой же стороны, митапы не заканчиваются только лишь докладами. Это, прежде всего, неформальное мероприятие с общением и нетворкингом в приятной атмосфере (особенно на afterparty с пиццей и всякими вкусностями). Вы можете позадавать вопросы спикерам как экспертам или даже найти интересную работу.

Так, в конце 27 октября проходила конференция от AlfaBank “Data Science Meet Up #3: Business edition”, на которой я выступал с докладом Что такое MLOps и как мы внедряли каскады моделей.

Это был мой первый опыт в роли спикера на профессиональных выступлениях, который оказался потрясающим: начиная от удовольствия во время выступления после месяца подготовки, заканчивая положительной обратной связью, отзывами и закусками с красной рыбкой 🍣.

Доклад был посвящен тому, чем отличается типичный DevOps подход от MLOps. Я постарался оттолкнуться от проблем, которые возникали на стадии расширения сферы машинного обучения, рассказав, как они могут решаться на реальном примере. О том как создать не просто пайплайн по выкату моделей, но и делать это в более широких масштабах.

Возвращаясь к опыту в роли спикера, этот митап послужил толчком, чтобы пойти куда-то дальше. Тема этого доклада была в основном направлена на младших специалистов. Ее расширенную и более глубокую в проработке версию я решил рассказать уже на ежегодной конференции DevOps Conf 2024, о которой будет уже следующий пост.

#it_conferences

Всем привет, на связи Александр 🧑‍💻
Молодой MLOps-инженер и автор данного канала "MLOps Weekly"

В данном канале я буду рассказывать про особенности работы MLOps инженером, учебу в ИТМО, различные конференции из мира IT с уклоном в DevOps. Буду делиться мнением по поводу различных статей и также накидывать интересный материал для прочтения в свободное время

Если вы интересуетесь тем, как устроен мир IT и в частности DevOps в сфере машинного обучения, или даже если вы уже являетесь специалистом в этой области, то присоединяйтесь, будет интересно

PS: первые посты "О Себе", а также уже нечто интересное (инсайд информация из мира DevOps) выйдет, как только на канале наберется около 50 человек после "агитационной" кампании

Channel created