айти канал

Herdr — современная замена tmux

TL;DR

Если вы используете tmux или zellij, не важно с агентами или без, обязательно попробуйте Herdr. Назад вы вряд ли вернетесь. Как минимум потому, что в Herdr работает мышка. Попробовать можно тут: https://github.com/herdrdev/herdr

Чем хорош Herdr?

💪 От самой базы ... (ее уже достаточно, чтобы заменить tmux):

- Персистентные сессии. Это как в tmux: можно запустить фоновую активность и закрыть терминал.
- Организация сессий в боковой панели. Это уже гораздо лучше, чем в tmux: в одном Herdr окне можно иметь много сессий и вкладок со всех проектов, которые у вас есть на одной машине, и легко в них ориентироваться, ничего не настраивая.
- Работает мышка. Как же это удобно. Все что должно скроллиться и нажиматься скроллится и нажимается.
- Сессии со всех машин в одном окне. Вы говорите herdr и получаете одно окно терминала со всеми сессиями и вкладками со всех (удаленных) машин, которые подключите.

🦾 ... и до агентских фичей:

- Нативные уведомления. Если во вкладке запущен агент, то из терминала приходят нативные OS уведомления, когда агенту нужен ваш ответ.
- Автоматическая детекция агентов. Если во вкладке запущен агент, то она отдельно выделяется в боковой панели.
- Agent-friendly CLI. Агенты могут сами управлять сессиями, вкладками и панелями через CLI.

Таймлайн личных наблюдений:

- Я узнал про Herdr, когда у него было около 400 звезд на гитхабе. Уникальность и полезность инструмента были очевидны, и сразу захотелось рассказать.
- Когда дошли руки до моего первого поста про Herdr, было уже около 4000 звезд.
- Сейчас у репозитория почти 40000 звезд. Проект был принят в YC Combinator и получил $6M инвестиций.

https://github.com/herdrdev/herdr

🐏 herdr — agent-aware tmux 🐏

Сейчас есть много новых терминалов и отдельных приложений-оркестраторов для удобной работы с агентскими сессиями. У них есть общая проблема: нужно уходить из своего любимого терминала 😭😭😭 А управлять агентами в tmux из любимого терминала хоть и можно, но не так удобно.

Есть решение, которое сочетает сильные стороны обоих подходов: herdr — это как tmux, но с функциями для агентов. То есть с herdr вы получаете удобное управление агентскими сессиями в своем любимом терминале 🥰 🥰 🥰 И просто fancy замена для tmux, если вдруг нужно. Со всеми ожидаемыми функциями типа:

• Персистентные сессии
• Индикаторы активности агентов
• CLI интерфейс, чтобы агенты сами управляли сессиями в herdr
• Возможность запустить агента на remote машине с ноутбука и продолжить работу с телефона
• etc.

На всякий добавлю, что herdr — новый проект, который очень активно развивается, так что пока возможны баги и частые изменения. Но мне он показался важным, поэтому решил рассказать.

🌐 sendme — инструмент для peer-to-peer обмена файлами 🌐

Иногда хочется поделиться файлами с другими людьми напрямую с ноутбука или удаленной машины, не загружая их ни в какое облако, мессенджер или репозиторий. Для этого есть разные инструменты, но хочу рассказать именно про sendme, который построен на интересном фреймворке iroh.

TL;DR (sendme)

Если у вас есть Pixi (рекомендую), то больше ничего и не нужно, просто делаете так:

pixi exec sendme send <FILE OR DIRECTORY>

И сообщаете получателям TICKET, который напечатала эта команда. Получатели файлов делают так:

pixi exec sendme receive <TICKET>

После чего вы ждете завершения скачивания и останавливаете процесс. Готово! Файлы переданы напрямую получателям и не остались ни на каких third-party серверах.

Можно установить и использовать sendme без Pixi как написано тут.

Детали (iroh)

На самом деле sendme — это просто минимальный пример использования фреймворка iroh, который позволяет коммуницировать компьютерам безопасно и напрямую просто по сгенерированным ID вместо IP адресов, и почти без third-party серверов. "Почти", потому что промежуточный сервер все же нужен для установки первого контакта между машинами. Если контакт по каким-то причинам не установился, то промежуточный сервер служит прокси для передачи данных в зашифрованном виде, то есть сервер не видит и не сохраняет оригинальные данные.

У компании, которая разрабатывает iroh, есть публичные промежуточные серверы, благодаря которым и работают команды из TL;DR. Если для скорости и стабильности нужен собственный сервер, то можно либо заплатить за него, либо поднять свой такой сервер. А если вам интересно как это все вообще работает, чем отличается от WebRTC и прочее, то рекомендую поговорить с LLM или почитать раздел "How it works" и страницу "FAQ" в официальной документации.

Почему sendme

Вообще инструментов типа sendme много, но я в них не эксперт, поэтому не порекомендую что-то конкретное. Лично мне sendme приглянулся по таким причинам:

• Открытый код (для такого инструмента мне это кажется важным)
• Интересная технология под капотом
• Есть организация, которая за этим всем стоит

Ограничения

• sendme — это демо-приложение, код которого умещается в одном файле, и которое по дефолту полагается на сервера без гарантий на uptime и с rate limit'ами. Этого хватит для разовых пересылок, но не для сложных (production) сценариев. Для последних можно купить или поднять свой сервер.
• Технически количество получателей может быть любым, но вся нагрузка ляжет на вашу машину, плюс есть rate limit'ы публичных серверов. Так что транслировать файлы на весь интернет лучше не надо.

🧚 Pixi — современный менеджер пакетов и проектов из мира Conda 🧚

Сегодня расскажу про Pixi — более функциональный аналог uv из экосистемы Conda. Несмотря на то, что в Python проектах я использую только uv (и вам рекомендую), я также активно использую Pixi, но для других задач.

TL;DR

• Сегодня в мире Conda нужно использовать Pixi, а не Conda/Mamba/Micromamba.
• Команда pixi global служит sudo-free альтернативой apt на Linux с легким переносом глобального окружения между машинами.
• Команда pixi exec служит для одноразовых запусков инструментов без их установки (в духе uvx).

Кратко о Conda

Conda — это инструмент для управления пакетами, зависимостями и виртуальными средами. Сильно упрощая, это как PyPI+pip+virtualenv в Python, но без привязки к конкретному языку. Conda пакеты устанавливаются из так называемых "каналов". Самый большой публичный канал называется conda-forge, и в нем есть все от консольных утилит (Git, uv, neovim, etc.) до Python и C++ библиотек.

Кратко о Pixi

Сегодня при работе с экосистемой Conda нужно использовать Pixi, а не Conda/Mamba/Micromamba. Pixi оперирует теми же самыми базовыми сущностями (Conda среды, Conda каналы, Conda пакеты), но более надежно, воспроизводимо и удобно. Упрощая, Pixi в мире Conda — это как uv в мире Python, но с дополнительными возможностями.

Pixi как альтернатива apt на Linux

На Linux я активно использую команду pixi global как sudo-free альтернативу apt для установки глобальных инструментов: git, uv, python, и т.д. Например:

pixi global install python

python --version

Все установленные пакеты записываются в человекочитаемый файл, поэтому глобальные инструменты легко переносить между машинами, просто копируя этот файл:

cat $HOME/.pixi/manifests/pixi-global.toml

В теории это все применимо и к macOS, но я использую Homebrew.

Pixi для одноразовых запусков программ без их установки

Еще я использую команду pixi exec для одноразовых запусков программ с любыми зависимостями без их установки. Скажем, запустить питон, никуда его не устанавливая:

pixi exec python --version

Или его конкретную версию с какими-то зависимостями:

pixi exec -s "python=3.14.3" -s numpy python -c "import numpy"

Под капотом Pixi просто создает временную Conda среду, устанавливает туда нужные зависимости, исполняет вашу команду, и удаляет среду.

Pixi для разработки Python проектов

Также Pixi можно использовать для разработки Python проектов. В отличие от Conda, Pixi нативно поддерживает pyproject.toml и PyPI зависимости (особенности остаются, но ситуация гораздо лучше, чем с Conda). Как общий менеджер проектов Pixi умеет больше, чем uv:

• Можно использовать как task runner (замена make / just / etc.).
• Можно иметь несколько окружений сразу, например: prod, test и dev.
• Легче работать с зависимостями, содержащими C/C++/Rust/CUDA расширения.
• Воспроизводимость не только Python виртуальной среды, но и всех (CLI) инструментов, используемых в проекте.
• etc.

Но Python-specific функций у uv все же побольше.

Pixi для разработки не-Python проектов

В теории так тоже можно, особенно если проект содержит код на Python и, например, на C/C++. Я слышал про такие сценарии в областях типа Data Science или Robotics, но на практике не сталкивался.

Ограничения

• В более популярных экосистемах (PyPI, Homebrew) многие баги уже найдены очень большой аудиторией. В мире Conda аудитория тоже немаленькая, но иногда эти находки придется делать вам.
• В канале conda-forge много пакетов, но Python пакетов все же больше в PyPI, а общих инструментов все же больше в Homebrew.
• Проекты в канале conda-forge часто добавляются и поддерживаются энтузиастами, а не оригинальными авторами проектов. Наверное, говорю это из соображений security.

Полезные ссылки

• Экосистема Conda
• Переход с Conda на Pixi
• Поддержка PyPI пакетов
• Поддержка pyproject.toml

Muon — сильная альтернатива AdamW для табличных DL моделей

Небольшой техрепорт от нашей tabular DL команды со сравнением оптимизаторов для современных табличных MLP, включая TabM:
https://arxiv.org/abs/2604.15297

В итоге рекомендуем попробовать для ваших tabular DL моделей, если еще не:
• Muon
• AdamW + EMA

Детали про Muon:
• Для успеха могут быть важны learning rate и weight decay. Скажем, у нас у Muon отдельный lr с более высокими характерными значениями, чем у AdamW.
• С Muon обучение будет дольше.

Оптимизатор Muon добавили в PyTorch

Тут вышел PyTorch v2.9:
https://github.com/pytorch/pytorch/releases/tag/v2.9.0

Для меня главный хайлайт релиза — это torch.optim.Muon. Если знаете про Muon, то новость на этом всё :)

Если не слышали про Muon, то это такой оптимизатор, который согласно легенде появился в 2024 году в результате дискуссий на сайте икс-точка-ком. Официальной "статьей" про Muon является этот пост: https://kellerjordan.github.io/posts/muon. У Muon уже есть истории успеха на бенчмарках и реальных задачах, в том числе при обучении больших моделей.

Технический TL;DR:

(1) Muon — это как SGD с моментом, но момент градиента ортогонализируется перед его применением (код). То есть ищется ортогональная матрица, наиболее похожая на оригинальный момент градиента, и вот она уже применяется к параметру с учетом learning rate. Это существенное отличие от "поэлементных" оптимизаторов по типу SGD или Adam, которые смотрят на все параметры модели как на один плоский вектор.

(2) Muon используется только для матриц в скрытых слоях. Все остальные параметры (входные эмбеддинги, финальные слои, bias-ы в скрытых слоях, и т.д.), нужно продолжать оптимизировать AdamW или чем-то подобным. То есть в коде у вас будет два оптимизатора.

(3) Из интуиций, почему Muon работает, я слышал примерно такое: "By orthogonalizing the update matrix, Muon ensures that updates are distributed more evenly across all parameters, preventing some features from being over-represented or neglected" (конкретно эту формулировку я просто нагуглил).

(4) Из практических рекомендаций для Muon знаю про важность использования weight decay. Еще вижу в доках интересную опцию adjust_lr_fn, которая вроде как позволит переиспользовать гиперпараметры, которые вы затюнили для AdamW. Но сам не пробовал.

———

Я сам видел случаи, когда Muon давал качество лучше, чем AdamW, но наверняка тут зависит от задачи. Моё личное ощущение такое, что сообщество пока еще копит интуицию о пользе Muon для скорости обучения и финального качества в разных сетапах, но в целом все уже согласны, что это интересный апдейт для области. Вообще, добавление новых оптимизаторов в PyTorch — это редкость, и вот Muon решили добавить.

Если у вас есть какой-то опыт работы с Muon, будет интересно узнать.

В нашу редакцию поступила обратная связь от топ-4 мирового рейтинга Kaggle

📦 Python пакет для TabM

Небольшая новость для тех, кто следит за DL для табличных данных. Мы тут выпустили Python пакет для TabM — нашей tabular DL архитектуры, о которой я рассказывал раньше.

С момента анонса TabM прошел проверку практикой, и если в одном предложении, то TabM значительно усилил нишу практичных бейзлайнов в табличном DL. То есть взять TabM и получить хорошие результаты люди смогли в самых разных контекстах: и на Kaggle, и на масштабе 100M объектов, и в академических исследованиях.

Пакет делает чуть более доступным как сам TabM, так и эффективное ансамблирование, и предлагает такое:
- PyTorch реализация TabM
- PyTorch слои и функции для построения своих эффективных ансамблей.
- Jupyter/Colab пример с обучением TabM.

💻 pip install tabm

Ссылки:
- Пакет
- Colab пример
- Статья

pylock.toml — новый стандарт локфайлов в Python

Вчера был одобрен эпический PEP 751, который вводит стандартный формат локфайлов в Python. Несколько лет дизайна, итераций и обсуждений, почти тысяча лайков на Reddit у этой новости, в общем большое событие.

Если вы знаете, что такое локфайлы, то новость на этом заканчивается. Называться будет pylock.toml, теперь ждем пока все инструменты постепенно на него переедут.

Если не знаете, то lockfile -- это просто текстовый файл определенного формата с полным описанием вашего Python окружения. Грубо говоря, у Python проектов будет ожидаться pylock.toml вместо requirement.txt. Детали:
- В `pylock.toml` будут записаны все установленные пакеты, включая непрямые зависимости, с их точными версиями, для всех ОС сразу, со всеми вариациями дополнительных зависимостей и прочей технической информацией.
- Это очень полезно, потому что теперь у пользователей и участников проекта будет устанавливаться в точности одинаковое Python окружение (и с гораздо большей вероятностью успеха). В общем pylock.toml сильно упрощает жизнь другим пользователям проекта, включая будущих вас :)
- Чтобы у вас в проекте появился pylock.toml, нужно будет пользоваться инструментами типа uv, а список прямых зависимостей писать в pyproject.toml вместо requirements.txt. На самом деле это рекомендуется делать уже сегодня. Просто пока uv порождает "нестандартный" uv.lock вместо "стандартного" pylock.toml, но это разработчики uv сами уже изменят в будущем.

Channel name was changed to «айти канал»

🚀 TabM: новая DL архитектура для табличных данных

Новая большая статья по tabular DL при моем участии! Ссылки в конце поста.

Для практиков, TabM — это новый ответ на вечный вопрос: “Какую современную табличную архитектуру попробовать?”. На этот раз SOTA на бенчмарках простая, практичная и машстабируется на миллионы объектов.

Для области, TabM — это история о том, как сделать лучше, проще и дешевле одновременно. И как показать это на красивых информативных графиках 💅

Для любителей ML, TabM — это удобная точка входа в область: мы замерили и task performance, и training times, и inference throughput у многих моделей. Думаю, вводные части тоже будут интересными!

Для всех читателей: для быстрого обзора статьи, вы можете посмотреть всего три части:

📜 Abstract — TL;DR
🖼️ Figure 1 — модель
📈 Page 7 — результаты

В одном предложении: TabM is a simple and powerful tabular DL architecture that efficiently imitates an ensemble of MLPs.

Ссылки:

- arXiv
- GitHub
- Twitter
- Reddit

🎉 Zed на Linux 🎉

Добрая летняя новость: текстовый редактор Zed стал доступен на Linux: https://zed.dev/download
На Windows все еще не доступен.

Я когда-то писал про Zed, стабильно использую его как открывашку для файлов и репозиториев для чтения и быстрых правок. Но remote development все еще нет.

@simple_it_channel

СОВЕТ ДНЯ: красивые Matplotlib графики в одну строчку

Как в одну строчку увеличить разрешение Matplotlib графиков, чтобы они наконец стали красивыми, а не мыльными:

# In Jupyter, after imports:
%config InlineBackend.figure_format='retina'

# Or:
import matplotlib_inline
matplotlib_inline.backend_inline.set_matplotlib_formats('retina')

Как быстро попрововать с компа?
(лучше на мониторах с высоким разрешением)

Способ 1: Colab тетрадка: link

Способ 2: Я как-то писал про JupyterLite, просто идем по ссылке и используем такой код (см. коммент):

import matplotlib.pyplot as plt
import numpy as np

# First, run as-is.
# Then, uncomment the next line and rerun.
# %config InlineBackend.figure_format='retina'
plt.plot(np.arange(10))

С уважением,
@simple_it_channel

uv — очень быстрый pip на стероидах с большими абмициями

Пост будет особенно полезным, если раньше не сталкивались с pip-tools. В конце есть пример испольвания.

uv — это новый и полезный уже сейчас инструмент от компании Astral, которая раньше сделала Ruff. Долгосрочная цель авторов очень амбициозная -- сделать uv единым инструментом для работы с Python и заменить все отдельные инструменты: pip, pyenv, virtualenv, pip-tools, ruff, tox, pipx, и т.д. В итоге любой инженер, аналитик, исследователь или студент сможет легко и единообразно устанавливать Python окружения и разрабатывать Python проекты.

В своей первой итерации uv — это в ~2x-100x раз более быстрая замена трём инструментам:

(1) pip. То есть uv очень быстро устанавливает Python пакеты, что особенно актуально для сложных окружений и особенно когда они устанавливаются регулярно (например, в Continuous Integration). Но и в быту при установке условного Jupyter ускорение в 5-10 раз ощущается очень приятно.

(2) pip-tools. Напомню, что в проектах важно фиксировать не только прямые зависимости (скажем, Django==5.0.3), но и непрямые (те пакеты, которые Django приносит с собой). Это нужно, чтобы у всех пользователей и на всех машинах было идентичное окружение. pip-tools помогает решить ровно эту задачу: он автоматически генерирует и поддерживает в актуальном состоянии ваш requirements.txt файл с полным списком зависимостей. А uv делает то же самое, но гораздо быстрее.

(3) venv & virtualenv. На фоне предыдущих пунктов создание виртуальной среды это скорее мелочь, но даже эту мелочь uv делает ощутимо быстрее :)

Я использовал uv пару раз для простых личных сценариев. Софт свежий, и чтобы понять, подходит ли он вам, можно посмотреть текущие ограничения и баги. По моему опыту и инфополю думаю, что установка обычных пакетов на linux/macos машины уже нормально работает.

---------

После установки uv можно скопировать и запустить примеры ниже в таком же порядке (проверено на v0.1.24).

Создать и активировать среду:

mkdir hello-world && cd hello-world
uv venv

Не забыть активировать среду:

source .venv/bin/activate

Установить пакет:

uv pip install pandas

Составить полный список зависимостей requirements.txt по pyproject.toml:

echo '[project]
name = "hello-world"
dependencies = ["scikit-learn==1.4.1.post1", "Django==5.0.3"]
' > pyproject.toml

uv pip compile pyproject.toml -o requirements.txt

Привести окружение в соответствие с requirements.txt (важное отличие от uv pip install -r requirements.txt: sync не только установит все из requirements.txt, но и удалит то, чего там нет, например, ранее установленный pandas и его зависимости):

uv pip sync requirements.txt

@simple_it_channel #python

P.S. Расширения для VSCode

Небольшое практическое дополнение:
- у подобных инструментов обычно есть расширения для VSCode, чтобы их можно было установить и начать использовать по кнопке (добавил расширение для Ruff в предыдущий пост)
- с недавнего времени в настройках этих расширений стала появляться опция “Import Strategy” с опцей “useBundled”, то есть оно само вам установит и настроит инструмент (например Ruff; кстати напомню, что в расширении для Ruff можно отключить фиксы вашего кода и оставить только фукнции линтера)
- имхо такой путь больше подходит для личных и ресерч проектов, а для большой командной разработки на мой слух более надежно звучит Import Strategy = “fromEnvironment” (нужно будет самому установить и настроить инструмент)

Ruff Formatter

(если не знаете про Ruff, писал о нем вот тут)

Теперь Ruff умеет форматировать код! Хайлайты из официального релиза:
- extremely fast Python formatter, written in Rust
- over 30x faster than Black
- >99.9% Black compatibility.

Официальный релиз: link
Расширение для VSCode: link

Добавлю от себя:
- По-прежнему не вижу опции валидации байткода после изменений, которые Ruff проделывает. Эта опция в black включена по умолчанию, она формально строго проверяет, что форматирование не изменило смысл кода. Хотелось бы видеть такую опцию для только что релизнутого инструмента, который собрался менять мой код. Думаю создам issue, и пока продолжу использовать black.
- Об этом нет в релизе, но я вот потестировал, и видимо ruff format не сортирует импорты, это остается отдельной функцией Ruff. Кстати, я немного устал от багов конкретно в сортировке импортов, и ближайшие полгода-год посижу на isort.
- И все равно, Ruff — это очень круто, давно использую его как линтер, и в будущем конечно полностью на него перееду.

🐍 Python 3.12 🐍

Вышел!

Вижу только одно большое изменение, с учетом которого мы будем писать код, это "Type Parameter Syntax”, о котором был пост год назад. TL;DR: больше не нужен typing.TypeVar:

def max[T](args: Iterable[T]) -> T: …
def max_number[T: (int, float)](args: Iterable[T]) -> T: …

Еще одно значительное изменение, но которое мы будем читать и писать не так часто, это создание type aliases:

# вот так теперь не надо
# Point = tuple[float, float]
# Point: TypeAlias = tuple[float, float]

# надо вот так
type Point = tuple[float, float]
type Point[T] = tuple[T, T]

# пример для ценителей:
type RecursiveList[T] = T | list[RecursiveList[T]]

Небольшая мелочь, о которой хорошим тоном будет знать, если в вашем коде есть наследования классов: typing.override (аналог override из C++) для маркировки методов, который переопределяют метод базового класса.

Остальные изменения меньше повлияют на написание/чтение среднего мэйснтримного кода, полный список изменений доступен тут:
https://docs.python.org/3.12/whatsnew/3.12.html

P.S.
На правах админа порадуюсь такой мелочи как pathlib.Path.walk :)
Из той же серии видел как разработчики в интернетах радуются добавлению itertools.batched

🎉 Анонс статьи всё 🎉

Я обновил оригинальный пост, и теперь там есть ненапряжный технический обзор статьи, который можно прочитать за завтраком ☕️

Так что вот еще раз ссылка (клик) и всем спасибо за внимание! 🤗

Задачи на табличных данных

Это нетехнический краткий пост про саму область анонсированной статьи, можно смело пропускать если знаете.

Упрощая, исследуя нейросети для табличных данных, люди стремятся не к получению штучных сложных результатов (о которых мы обычно слышим, в духе “обыграть человека в шахматы” или вот ChatGPT), а к улучшению существующих решений на огромном числе задач “попроще”, и туда входит действительно миллион всего: от прогноза погоды на завтра и рекомендации фильмов до классификации частиц в физике высоких энергий.

И расклад такой:
- очень часто данные в этих задачах — по сути Excel таблички
- нейросетям на таких табличных данных тяжело 🙁
- если улучшить нейросети для табличных данных, то миру будет хорошо 👍

@simple_it_channel

TabR — новая нейросеть для табличных данных

Finally, анонс нашей статьи: "TabR: Unlocking the Power of Retrieval-Augmented Tabular Deep Learning"! Я там первый автор, но конечно это командная работа.

🙂 ПЛАН ПРЕЗЕНТАЦИИ 🙃
1. основные ссылки в этом посте ниже
2. ТЕХНИЧЕСКИЙ РАЗБОР СТАТЬИ — В КОММЕНТАРИЯХ К ЭТОМУ ПОСТУ (клик)
3. следующий пост — нетехнический комментарий об области в целом.

Ссылки:
- Статья
- Код
- Тред в Twitter с обзором модели и результатов
- Пост на Reddit

P.S. Картинка показывает прогресс нейросетей (DL models) на каких-то 43 задачах начиная с 2021 года. И тут есть прикольный plot twist, который касается всех моделей, кроме MLP: FT-Transformer и MLP-PLR взяты из наших же предыдущих статей :)
- FT-Transformer взят отсюда
- MLP-PLR взят отсюда

@simple_it_channel