DevOps MemOps

MemOps 😃

Docker Model Runner (DMR) упрощает управление, запуск и развертывание моделей ИИ с помощью Docker.

Разработанный для разработчиков, Docker Model Runner оптимизирует процесс загрузки, запуска и обслуживания больших языковых моделей (LLM) и других моделей ИИ непосредственно из Docker Hub или любого реестра, совместимого с OCI.

Работает и в Docker Desktop для Window или MacOS, для нативного Linux - устанавливается в виде Docker plugin

📌 Подробнее: https://github.com/docker/model-runner

MemOps 🤨

MemOps 😃

Migrate Datadog telemetry with the OpenTelemetry Collector

Если вы используете коммерческую APM (Dynatrace, Datadog, Appdynamics, Ключ Астром и пр.), она, скорее всего, совместима с OTel. А раз совместима, то и лить данные можно при помощи инструментов OTel. А раз вы уже используете инструменты OTel, то почему б не присмотреться к OTel-совместимой платформе ClickStack?

Да, миграция может быть непростым проектом, да, новая платформа наблюдаемости может оказаться не такой функциональной. Но можно хотя бы начать думать в эту сторону.

📌 Подробнее: https://clickhouse.com/blog/datadog-receiver-opentelemetry-collector

MemOps 🤨

K8s мигрень. Т9 что-то знает

MemOps 😃

Создайте свой собственный управляемый сервис Kubernetes на Proxmox с помощью CAPI

Cluster API (CAPI) — это проект с открытым исходным кодом в экосистеме Kubernetes. Его цель — применить декларативные API и контроллеры в стиле Kubernetes к задачам инициализации, настройки, обновления и эксплуатации целых кластеров Kubernetes, рассматривая сами кластеры как первоклассные ресурсы Kubernetes, а не как внешнюю инфраструктуру, развертываемую вручную.

📌 Подробнее: https://itnext.io/build-your-own-managed-kubernetes-service-on-proxmox-with-capi-8d9786644818

MemOps 🤨

MemOps 😃

Как мы управляем инфраструктурой для 80 млн пользователей с командой из 5 человек

Часть 1 — Введение в инфраструктуру Yubo: Обзор и философия: https://medium.com/yubo-tech/how-we-manage-a-80m-users-infrastructure-with-a-5-person-team-part-1-introduction-to-yubos-d452103e6f0d

Часть 2 — Структура нашей команды и роли: Инженеры данных, DevOps и безопасность: https://medium.com/yubo-tech/how-we-manage-an-80m-user-infrastructure-with-a-5-person-team-part-2-our-team-structure-and-ce73b8d5bba4

Часть 3: Инженерия данных в масштабе и самообслуживание баз данных: https://medium.com/yubo-tech/how-we-manage-an-80m-user-infrastructure-with-a-5-person-team-part-3-data-engineering-at-scale-572d863598b0

Часть 4: Автоматизация в масштабе: https://medium.com/yubo-tech/how-we-manage-an-80m-user-infrastructure-with-a-5-person-team-part-4-automation-at-scale-944d86d5fd7f

Часть 5: Облачный нативный MLOps: https://medium.com/yubo-tech/how-we-manage-an-80m-user-infrastructure-with-a-5-person-team-part-5-cloud-native-mlops-332232f93aeb

MemOps 🤨

MemOps 😃

SRE Mind map

📌 Подробнее: https://jtprogru.github.io/The-Way-of-SRE/mindmap/

MemOps 🤨

MemOps 😃

Temporary files in Linux - статья, описывающая работу со временными файлами в Linux.

Автор рассматривает и работу в tmpfs, и обработку временных файлов через флаг O_TMPFILE на файловой системе.

📌 Подробнее: https://blogs.oracle.com/linux/temporary-files-in-linux

MemOps 🤨

MemOps 😃

Большой гайд про диски

📌 Подробнее: https://arthurchiao.art/blog/practical-storage-hierarchy/

MemOps 🤨

MemOps 😃

Основные концепции Docker в одной диаграмме

MemOps 🤨

K8E — это форк проекта K3s, предназначенный для локального тестирования.
Он не требует root-доступа и не использует systemd.
Также вы можете легко собрать и запустить его без сетевого подключения (air-gap режим).

Основные особенности:
- Без root-доступа
- Без systemd
- Один бинарник
- Простой запуск кластера: k8e server &
- Не требует внешней сети
- Поддерживает полностью автономную сборку

Если вы когда-либо хотели поднять Kubernetes-кластер за пару секунд и без привилегий — этот инструмент идеально подойдёт для тестов и локальной разработки.

📌 Подробнее: https://github.com/xiaods/k8e

MemOps 🤨

MemOps 😃

MLOps — дитя DevOps и ML

Один ML-проект в проде вам или два другому? Внедрение машинного обучения в производственную среду остаётся одной из главных проблем индустрии. По статистике, 80% ML-проектов никогда не доходят до продакшена. Однако хитрые опсы и тут решили выделиться, и в результате появился MLOps — методология, которая поможет вам сократить путь от эксперимента до деплоя с месяцев до дней. В этой статье мы пройдёмся по верхам MLOps и посмотрим на фундаментальные принципы и конкретные инструменты.

📌 Подробнее: https://habr.com/ru/companies/ruvds/articles/990814/

MemOps 🤨

MemOps 😃