Всё о DevOps
Для связи - @raz_raz
Заказать рекламу через биржу: https://telega.in/c/devops_memops
Post #5326
1.69K
DE @devops_memops
Showing posts older than #5327 · Back to latest



Автор Ignasi Lopez Luna объясняет, как с LoRA и Docker дообучить Gemma 3 270M для надежного маскирования PII: базовая модель заморожена, добавляются адаптеры, датасет оформляется по chat‑template, затем обучение и экспорт. Работает на скромном железе. Быстрое дообучение моделей с LoRA и развёртывание через Docker
В статье блога Docker объясняется, как LoRA‑адаптеры позволяют эффективно дообучать локальные модели для маскировки PII, объединять веса в единый чекпоинт и разворачивать модель через Docker Model Runner для тестирования и распространения.
В интернете есть книги и множество статей, в которых авторы приводят аргументы в пользу использования Postgres для всего. Автор статьи решил рассмотреть один из вариантов использования — кэширование данных в Postgres вместо Redis. Он часто работает с API, поэтому создал очень простой HTTP-сервер, который отвечает данными из кэша. Начал с Redis, так как часто сталкивается с этим на работе, а затем переключился на Postgres с использованием таблиц без логирования и посмотрел, есть ли разница.

- Автоматическое переключение при сбоях (failover)
- Масштабирование по горизонтали и вертикали с пользовательской стратегией развёртывания
- Аутентификация и поддержка TLS для сервера
- Автоматические снимки (snapshots) в PVC и S3
- Мониторинг с помощью Prometheus и Grafana
- Широкие возможности конфигурации

