ServerAdmin.ru

Внезапно сделал для себя полезное открытые. ChtaGPT в рамках одной задачи набросал вспомогательный bash скрипт, где использовал вот такую вещь для логирования:

# logger -t my-backup "Backup started"

В результате в /var/log/syslog улетает строка:

2026-09-16T00:08:44.108406+03:00 srv-data my-backup: Backup started

То есть в стандартный системный лог прилетает строка с меткой приложения или скрипта my-backup. По этой же метке можно посмотреть логи в journalctl:

# journalctl -t my-backup
Sep 16 00:08:44 srv-data my-backup[8297]: Backup started

Столько лет администрируют Linux, пишу скрипты или использую чужие, но нигде не обращал внимание на такую конструкцию. Это же очень удобно. Я обычно в таком виде делаю логирование:

# echo `date +%F_%H-%M` Backup started >> /var/log/backup.log

# cat /var/log/backup.log 
2026-09-16_00-08 Backup started

Потом надо не забыть настроить ротацию этих логов и их отправку в общее хранилище, что добавляет лишних хлопот и проверок. Можно, конечно, и так через echo в syslog закидывать, но там свой формат, которому надо соответствовать. Через logger быстрее и удобнее. Из системного лога данные точно улетят куда надо, а с меткой приложения их будет легко найти.

Сейчас посмотрел по базе своих скриптов. Увидел logger только в одном месте в какой-то длинной конструкции на bash, которую давно нашёл в интернете. Больше нигде нет. То есть я реально с этой утилитой не сталкивался.

LLM сегодня расширяют границы познания. Нужно только осмысленно с ними работать, а не копировать бездумно то, что они предлагают. Я глазами всегда проверяю, что они делают. Благо у нас не программирование и кода немного. Нетрудно быстро разобраться в нагенерированном.

❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.

———
ServerAdmin: 📱 Telegram | 🌐 Сайт | 📲 MAX 😩

#linux #bash #terminal

Бесплатный PAM, который уже используют в крупных компаниях!

Jumpserver PAM -- для компаний любых масштабов.

Бесплатная версия с открытым исходным кодом закрывает большинство задач для наведения порядка в сети и безопасного доступа специалистов и подрядчиков к серверам и сервисам.

Для расширенных сценариев есть платная редакция с дополнительными возможностями и поддержкой на русском языке.

JumpServer PAM это:
• Контроль доступа к RDP, SSH, веб-интерфейсам и СУБД
• Фильтрация SQL-запросов и SSH-команд
• Подробный журнал действий
• Встроенный 2FA
• Масштабирование и надёжная кластеризация
• Установка одной командой

Познакомьтесь с JumpServer PAM на вебинаре 17 сентября в 12:00 по Москве
Регистрируйтесь по ссылке: Регистрация на вебинар

И присоединяйтесь к сообществу пользователей (ссылка на телеграм-канал):
• Инструкции и документация
• Кейсы внедрения
• Лучшие практики и рецепты
• Чат с нашими экспертами
#реклама
О рекламодателе

Вчера разбирался и настраивал очень необычный файловый сервер, состоящий из одного файла на Python, работающий даже с Windows XP и IE6, в том числе на парковке. Речь пойдёт про open source проект Copyparty. Он меня впечатлил своей самобытностью и функциональностью. И при этом показался полезным в конкретных прикладных задачах. Потратил некоторое время на его изучение, так что постараюсь кратко и по существу рассказать про него.

📌Перечислю его возможности, которые показались мне наиболее интересными. Он умеет кучу всего, всё перечислять слишком объёмно.

▪️Очень простой запуск: # python3 copyparty-sfx.py
▪️Поддержка протоколов: HTTP, WebDAV, SFTP, FTP, TFTP, SMB/CIFS, то есть может работать и через браузер, и как сетевой диск в винде и т.д.
▪️Многопоточная передача, дедупликация, дозагрузка при разрыве связи. Сервис очень хорошо себя ведёт на загрузке больших файлов. Файлы бьёт на чанки с проверкой их хэшей. Дозаливает или перезаписывает только изменения.
▪️Есть cli, что вкупе с предыдущими возможностями делает этот сервер удобным в некоторых случаях в качестве замены rsync.
▪️Сохранение метаданных файла даже при загрузке через браузер. Сохраняется оригинальная дата создания файла, плюс добавляется время загрузки.
▪️Приложение под Android для быстрой загрузки файлов.
▪️Гибкие права доступа и аутентификация (в том числе по IP). Например, можно настраивать доступ к файлам только по прямым ссылкам, без обзора директорий. Можно разрешить только загружать файлы или только перемещать из текущей директории.
▪️Гибкие правила загрузки. Например, запрет на загрузку файлов больше определённого размера, автоудаление файлов через 5 минут после загрузки, автосоздание структуры каталогов в виде даты и времени (для фоток удобно).
▪️Хуки на загрузки и скачивания.
▪️Подробное логирование, метрики для мониторинга
▪️Смотреть картинки, видео, слушать музыку можно прямо через браузер.

Из минусов отмечу странный и неинтуитивный веб интерфейс. Видно, что автор его сделал таким по приколу. Ему так захотелось. Проект на удивление стал весьма популярным. На него много обзоров, звёзд ни гитхабе (46.7k ⭐️). Я про него узнал случайно в комментариях к заметкам.

Покажу на одном небольшом и вполне реальном примере удобство этого сервера. Допустим, у нас есть сетевой сканер. Мы хотим, чтобы он складывал сканы в сетевую папку. У самого сканера доступ только на запись файлов и больше ничего. Он даже не будет видеть содержимое сетевого диска. У пользователей будет анонимный доступ на чтение в эту директорию. Они смогут смотреть сканы через браузер, в том числе на смартфоне или в сетевом диске в Windows. У администратора будет полный доступ.

Copyparty настраивается с помощью файла конфигурации:

[global]
e2dsa, smbw, z
smb-port: 445

[accounts]
scanner: SCAN_PASS
admin: ADMIN_PASS

[/scans]
/mnt/scans
accs:
 r: *
 w: scanner
 A: admin

Запускаем:

# wget https://github.com/9001/copyparty/releases/latest/download/copyparty-sfx.py
# python3 copyparty-sfx.py -c copyparty.conf

SMB протокол работает плохо в Copyparty. Автор прямо об этом предупреждает. Если сканер поддерживает ftp или webdav, лучше использовать их.

Приложение под Android очень простое. В основном нужно для быстрой загрузки файлов в пару кликов. Веб интерфейс адаптивен, можно использовать его без приложения.

Кому понравился проект, посмотрите видео с обзором. Если понимаете английский на слух, слушайте оригинал. Автор остроумен и интересен, поэтому у обзора на такой специфичный продукт 606 😳 тысяч просмотров. Вот ещё демка на потыкать. Стоит за CF, поэтому напрямую не откроется. Обратите внимание на страничке с демо на правый нижний угол. Это тоже шуточка от автора.

Меня очень впечатлил этот файловый сервер. Я прочитал всю инструкцию в репозитории, оценил все возможности, посмотрел несколько обзоров. Классная штука. Может упростить велосипедостроение на bash, взяв на себя часть функциональности, например, по удалению старых файлов, созданию директорий, нужному именованию файлов и т.д.

———
ServerAdmin: 📱 Telegram | 🌐 Сайт | 📲 MAX 😩

#fileserver

Когда в ИТ три человека, появляется четвёртая работа — выяснять, кто чем занимается.

— Кто взял заявку бухгалтерии?
— Саша вроде.
— А сервером кто занимается?
— Я думал, ты.
— А в филиал кто-нибудь написал?
— Сейчас спрошу.

И вот вместо работы кто-то в команде постепенно превращается в диспетчера.

Нужно помнить, кому что передали, проверять, взял ли человек задачу, смотреть, кто сейчас свободен, напоминать про зависшие обращения и периодически разруливать классическое «я думал, это делает кто-то другой».

Пока админ один, такой проблемы почти нет. Когда появляется команда и поток обращений растёт — координация сама становится отдельной работой.

В Okdesk эту «диспетчерскую» нагрузку можно снять: заявки распределяются между сотрудниками и командами, назначаются ответственные, задаются приоритеты и сроки, настраивается автоматическая маршрутизация.
 
❓Вопрос «Саша это делает?» больше не нужен — достаточно открыть платформу и увидеть, кто отвечает за заявку и на каком она этапе.

Хотите увидеть, как это работает на практике?

Приходите на вебинар — разберём на примере «Мобиус Технологии», как разделить потоки между поддержкой, инженерами и экспертами, настроить маршрутизацию под разные типы обращений и масштабировать обслуживание без потери SLA.

👉 Получить бесплатный вебинар можно по ссылке https://lead.okdesk.ru/mnogourovnevyj-servis

Реклама. ООО «Облачные решения». erid: 2SDnjekFeg3

Хочу напомнить об одной особенности настройки файрвола на арендованных VPS и дедиках, да и не только там, а и у большинства обычных провайдеров. С этим постоянно приходится сталкиваться, но иногда забываешь и тратишь лишнее время на отладку. Я хоть и сам с этим постоянно сталкиваюсь, и заметки ранее делал, но всё равно иногда протупишь и забудешь.

Суть в чём. Почти у всех провайдеров есть список портов, которые заблокированы для входящего или исходящего трафика. И чем дальше, тем больше этот список. Начиналось это всё с блокировки 25-го порта на отправку почты по SMTP, а сейчас мы имеем уже довольно внушительный список, который по умолчанию заблокирован.

Я обо всём этом неизменно вспоминаю, когда настраиваю файрвол, поэтому про него и упомянул в начале. Вроде всё сделаешь - правила напишешь, порты нужные откроешь, всё запускаешь, а трафик не идёт. И начинаешь разбираться, что тут не та так. Вроде всё верно - порты открыты, служба запущена, а трафик извне не идёт. И тут вспоминаешь об ограничениях.

Чаще всего провайдеры блокируют порты для службы SMTP и те, что используют сервисы, уязвимые к атакам типа amplification. Это когда в ответ на запрос, служба отправляет ответ в несколько раз больший по размеру, да ещё и на изменённый адрес получателя. То есть блокировки часто затрагивают:

▪️25 TCP - исходящий трафик
▪️465, 587 TCP - исходящий трафик, где-то уже и эти порты начинают по умолчанию блокировать, но пока ещё не так активно, как 25-й
▪️123, 53, 389, 1900, 11211 UDP - входящий трафик

Пока писал заметку, проверил актуальные списки некоторых провайдеров. Не увидел там 123 (NTP) и 53 (DNS) портов. Возможно сейчас это уже не так актуально и блокировать по умолчанию эти порты перестали, но раньше я точно кое-где с этим сталкивался, поэтому сразу про них вспомнил, когда начал писать. NTP на вход одно время активно блокировали, когда эксплуатировалась популярная уязвимость протокола к amplification.

Дальше очень часто блокируют входящие порты виндовых служб из-за того, что через интернет они редко используются, а вот всякие черви и прочие зловреды их активно используют:

▪️135, 137, 138, 139 UDP или оба UDP и TCP
▪️445 TCP

Последняя блокировка SMB особенно неприятна, так как иногда хочется по белым спискам открыть службу для передачи файлов, но не получается, так как хостер блокирует. Сейчас эта проблема решена новым протоколом SMB over QUIC, который работает по 443 порту. Можно будет нормально файлы по интернету передавать напрямую.

Вот пример списка заблокированных портов от Selectel. Он внушительный, но по текущим временам практически образцово-показательный. Чем крупнее хостер, тем обычно длиннее у него этот список. Но тут хотя бы 3389 и 5060 не закрыты. Например, Timeweb Cloud блокирует и их. Вот ещё пример ограничений для дедиков от Яндекс облака. Там тоже всё стандартно, без особой жести.

Так что имейте ввиду и перед арендой серверов и в процессе настройки, что многие сервисы могут быть по умолчанию заблокированы. Причём какие-то можно разблокировать по заявке в техподдержку, а какие-то нет. Об этом стоит позаботиться заранее, чтобы потом не тратить время и нервы в беседе с поддержкой.

Ну и не забывайте про работу ТСПУ 😪 и прочие ограничения. Например, на доступ к подсетям электронного правительства в РФ 🤷‍♂️. Иногда из-за работы ТСПУ даже по SSH к некоторым виртуалкам не получается подключиться. Приходится их просто бросать и арендовать новые. Такие времена настали.

❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.

———
ServerAdmin: 📱 Telegram | 🌐 Сайт | 📲 MAX 😩

#хостинг

Для тех, кто давно занимается или занимался поддержкой веб серверов, скорее всего известен популярный в своё время продукт AI-Bolit. Это был сканер исходников сайта, который искал там вредоносный код. Он быстро снискал популярность. Я сам им активно пользовался. Он реально помогал навести порядок во всяких необновляемых годами Wordress, Drupal, Joomla.

На волне популярности AI-Bolit даже Яндекс сделал подобный продукт - Manul. Причём они открыто говорили, что обменивались опытом с создателем AI-Bolit. Оба продукты были бесплатны, код в open source. Для проверки сайтов достаточно было загрузить одиночный скрипт сканера и базу зловредов. Работало всё относительно быстро и просто. Яндексовский Manul почему-то не взлетел и довольно быстро закрылся.

Со временем исчез и AI-Bolit. Я про него вспомнил, когда разбирал архив закладок в браузере в папке sysadmin. По старой ссылке попал в совершенно другое место. Как оказалось, AI-Bolit не исчез. Его купила компания Cloudlinux. У нас это название не на слуху, но все знают дистрибутив AlmaLinux, клон RHEL. Альму собирают как раз в Cloudlinux. У них есть отдельная линейка продуктов imunify360, которая является антивирусом для сайтов. Именно туда и ушли все наработки AI-Bolit.

Я немного походил по сайту, посмотрел, что там есть. Оказалось, что функциональность Айболита плюс-минус сохранилась в бесплатном продукте ImunifyAV. Он полностью бесплатен без каких-либо ограничений. Работает как простой сканер, в отличие от других платных продуктов в линейке, которые могут лечить, уведомлять, блокировать и многие другие вещи.

Захотелось попробовать, но не получилось. Мешают блокировки. Сайт ImunifyAV, как и сами пакеты продукта, антивирусные базы и т.д. не доступны без VPN. При таких вводных пользоваться им неудобно, так как городить средства обхода на веб серверах нет никакого желания.

На самом деле мне не понятно, почему подобного рода сканеры не развились. Их реально не хватает. Стандартные антивирусы не очень удобно использовать только для проверки исходников, устанавливая их на сервера. А проверять сайты хочется. У нас очень распространены продукты Bitrix. А это горы исходников на php, которые периодически ломают. Навести порядок в большом старом Битриксе - пуд соли съесть. Сложная задача. И каких-то специализированных инструментов для этих целей нет.

Думаю, тут дело в том, что крупный бизнес, где есть деньги, решает эту проблему организационными методами. Тот же самый git, если в нём аккуратно вести проект, меняя код только через репозиторий (а в том же Bitrix или Worpdress это можно делать через админку), очень облегчает задачу поиска уязвимостей. Плюс развитые бэкапы, контроль изменения файлов, своевременное обновление, логирование и SIEM, контроль зависимостей и т.д. Всё это помогает решать задачу поиска уязвимостей и отката изменений, если они случились.

А те, у кого бардак в разработке и поддержке, взломанные необновлённые сайты, как правило не имеют лишних денег на покупку чего-либо, соответственно и продукты для них писать не имеет большого смысла. Не понятно, как всё это монетизировать. В итоге в этой нише и нет практически ничего, кроме упомянутого Imunify360 и его бесплатной версии ImunifyAV. Причём его целевая коммерческая аудитория - хостеры с услугой Shared Hosting.

———
ServerAdmin: 📱 Telegram | 🌐 Сайт | 📲 MAX 😩

#security

Есть серьезный разговор…
об ИТ-инфраструктуре и требованиях к ней в современных условиях

Как активное внедрение ИИ изменило подход к выбору железа, с чего начать при выборе приватного облака и как создать отказоустойчивое решение под свои задачи. Обо всем этом и не только — на бесплатной конференции Selectel ТехноДень 8 октября.

Топ-менеджеры, ИТ-директора и инженеры топовых технологических компаний соберутся на одной площадке и обсудят ИТ-тренды, инфраструктуру, ИИ, данные и информационную безопасность. Вас ждут 20 экспертных докладов, 20 интерактивных стендов, живое общение и живая запись подкаста Вселенная Плюс на главной сцене конференции.

Присоединяйтесь к Selectel ТехноДень, чтобы лично задать вопросы экспертам рынка и обменяться опытом. Количество мест ограничено, регистрируйтесь уже сейчас →

Реклама. АО "Селектел". erid:2W5zFGpCP9K

Поделюсь одной очень удачной находкой, которой теперь пользуюсь постоянно. Это наглядный пример использования локальных специализированных моделей для выполнения конкретных ярко выраженных задач, которым не нужно много ресурсов. Речь пойдёт про приложение Говорун для Android.

Это бесплатный open source проект на базе модели распознавания речи от Сбера GigaAM v3 для перевода речи в текст. Говорун может работать в фоне и активироваться в любом приложении, где есть поле ввода. Просто нажимаете кнопку Говоруна, наговариваете содержимое, оно сразу же переводится в текст тут же в поле ввода.

Приложение есть как на гитхабе, так и в магазине приложений RuStore:
⇨ https://github.com/amidexe/govorun-lite
⇨ https://www.rustore.ru/catalog/app/com.govorun.lite
В Google play вроде нет, не нашёл его там. Можно просто скачать apk с гитхаба и установить вручную.

Говорун работает локально на телефоне, в том числе без интернета. Звук никуда не отправляется. Качество очень приличное. Я не сравнивал с другими приложениями, и вообще раньше ими не пользовался. Думал, что будет много ошибок, потом всё это со смартфона неудобно исправлять. В Говоруне качество очень хорошее. Ошибок почти нет. Если и приходится что-то исправлять, то это в основном неправильная разбивка на предложения. Надо привыкать говорить чётко, разделять паузами предложения, и без слов паразитов. Вот их тоже приходится вычищать, править текст. А так, если говорить более-менее чётко, то он переводит в текст с отличным качеством.

У меня старенький смартфон Realme 10. На нём говорун работает без каких-либо проблем, не тормозит. Работа в фоне построена на базе функциональности специальных возможностей андроида. Программа постоянно висит в памяти и немного поджирает батарею. Можно настроить её автоматическое выключение средствами смартфона (у меня так можно), тогда придётся каждый раз самому запускать.

Теперь не обязательно раздражать людей голосовыми. Можно использовать Говорун и отправлять текст.

❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.

———
ServerAdmin: 📱 Telegram | 🌐 Сайт | 📲 MAX 😩

#android

САП "Клавдий" - архивация электронной почты для организаций любого масштаба!
• сбор писем с почтовых серверов, архивов и из SMTP-трафика
• поиск по письмам и вложениям
• дедупликация и сжатие
• доступ к архивной почте через веб или любой почтовый клиент
• кластеризация и хранилище с настраиваемой длительностью хранения
• бесплатная версия до 50 почтовых ящиков

САП "Клавдий" - решение для тех, у кого:
• почтовый сервер, который задыхается от старых писем
• возникает необходимость найти и восстановить старое письмо
• есть кладбище PST-файлов и почтовых ящиков уволенных сотрудников
• есть обязательство сохранять всю переписку за несколько лет
• планируется переезд на другой почтовый сервер
• ограниченный бюджет на решение этих проблем

Подключайтесь к онлайн-демо.
Среда, 16 сентября, в 12:00 по Москве.
Ссылка для регистрации: Регистрация на вебинар

Также подключайтесь к нашему тг-каналу: Ссылка на канал
#реклама
О рекламодателе

Записал для вас небольшое видео прямо на смартфон одним кадром, так что не судите строго. Я вообще не занимаюсь съёмками и монтажом. Просто хотелось поделиться необычным впечатлением.

Я из ностальгических соображений собрал из старого железа системник под Windows XP. Установил туда софт того времени и немного посидел за ним. И меня очень впечатлил отклик системы и общая производительность. Несмотря на то, что всё работает на обычном HDD, которому лет 10-15, система ведёт себя очень шустро.

Программы запускаются практически мгновенно. Нет подлагов на файловых операциях. Ты сидишь и прям кайфуешь от работы. У меня относительно новый комп на базе DDR4 и платформы того времени, NVME диск, 32 гига оперативы. Всех ресурсов с избытком, но такого отклика системы и приложений нет. Всё работает чуть медленнее. Заметно даже на банальном просмотре фоток через встроенный просмотрщик в Windows 11. В XP этот листинг картинок всё равно немного быстрее, хотя и на моём компе не скажешь, что он тормозит, но глазу всё равно заметна разница.

Прогресс в развитии компьютерного железа и систем за последние 20 лет огромный. Но такой параметр, как отзывчивость системы как-будто вообще не рассматривается. Софт стал тяжёлый, отзывчивость упала даже на современном железе. Запускаешь Фотошоп и ждёшь несколько секунд пока он прогрузится. Это длится дольше, чем 20 лет назад.

———
ServerAdmin: 📱 Telegram | 🌐 Сайт | 📲 MAX 😩

#железо

🤖 DevOps в эпоху AI трансформации: что работает уже сейчас!

17 сентября Сбер собирает DevOps-инженеров, SRE и платформенные команды на встречу о том, как AI меняет работу с инфраструктурой, релизами и безопасностью.

Обсудим:
🔘Platform Engineering и IDP: как строить внутренние платформы без лишней сложности
🔘Agentic engineering: каких агентов уже можно доверить пайплайнам
🔘Security на скорости: как закрывать уязвимости, когда счет идет на часы

Своим опытом поделятся практики из Авито, Сбера, Cloud․ru и Т-Банка.

Встречаемся 17 сентября в 17:00 в Сбер.Среде (Москва, Земляной Вал 9А) или онлайн. Мест всего 150 — успей занять своё по ссылке!

▶️ Очередная подборка авторских IT роликов, которые я лично посмотрел и посчитал интересными/полезными. Это видео из моих подписок за последнее время (обычно беру период в 2 недели), что мне понравились.

⇨ Я перестал гнаться за ИИ. Теперь строю только то, что мне действительно нужно
Смотрел одно время видео этого автора. С вами почти не делился, потому что не считал их полезными. При просмотре думал, ну и дурдом он построил с этими агентами, которых с десяток и каждый что-то делает, исследует, ошибается, ломается и т.д. И всё ради мнимого повышения производительности и гонки за новыми технологиями. В итоге автор просто загнал себя и теперь отдыхает. ИИ-агенты реально повышают когнитивную нагрузку и высасывают энергию. Я из-за этого вообще перестал покупать подписки. Эта гонка за токенами и результатом выматывает. Мне для нормальной жизни как-будто всё это и не особо надо.

⇨ ИИ агенты на сервере Proxmox и не только. Про агентов на примере Hermess Agent и Deepseek Harness
Для тех, кто ещё в обойме ИИ-движухи 😁 На самом деле видео хорошо как раз тем, что можно просто послушать и погрузиться в тему, не занимаясь этим самостоятельно и не тратя силы и время. Можно на прогулке послушать. Я обычно так и смотрю все эти видео. Агентов слишком много развелось. Я поначалу пробовал некоторые, а теперь бросил. OpenCode, как золотая середина, оптимальный выбор.

⇨ My Daily Tech Stack: Apps and Tools I Actually Use
Люблю такие видео, когда специалисты рассказывают про свои инструменты. Чаще всего что-то интересное и для себя присматриваешь. Автор рассказал про Obsidian, Ghostty, Starship, Pi Agent, OpenWhispr, Colima, Zed, Orca, ntfy.

⇨ 7 вещей, которые стоит установить на новый сервер Proxmox
Проходное видео ради видео, для себя лично ничего полезного не увидел, но кому-то может быть полезно, кто не знаком с инструментами, про которые рассказывает автор: lm-sensors, nvme-cli, smartmontools, iperf3, ethtool, NUT, ProxMenux. Я всё это и так знаю и использую.

⇨ Как взламывают пароли — Kali Linux, Hydra и Hashcat
Наглядный пример того, как работают автоматизированные brute-force атаки с помощью легендарной hydra. Не знаю, насколько она ещё актуальна в наши дни. В видео ничего особенного, просто пример того, как это может работать, для тех, кто даже не имеет представления, что это такое.

⇨ Домашний сервер: что внутри и зачем он мне? | Homelab 2026
Ещё одно видео про домашний сервер от нового для меня автора. Мне понравились его история, монтаж и грустные глаза. А какие они ещё могут быть у человека которому: "Каждый вечер прилетает отчёт, показывающий полную статистику по потребляемому трафику в моей домашней сети". Цитата из видео. Желание настроить вот это всё ещё и дома - профдеформация увлечённых айтишников. Это одновременно и увлекает, приносит удовольствие, и выматывает. У меня дома уже появился полноценный серверный шкаф с гудящим оборудованием внутри.
В ролике рассказ о Proxmox, Nginx Proxy Manager, Dockhand, Portainer, Dozzle, Authelia, Gitea, Pulse, Beszel, Uptime Kuma, UniFi, AdGuard Home, NordVPN, n8n, SearXNG, MeTube, Plex, SkySend, PhotoPrism, Open WebUI, Excalidraw, Stirling PDF, Outline.

⇨ Ollama и LM Studio больше не нужны? Я протестировал Unsloth Studio
Обзор нового проекта Unsloth Studio для запуска LLM на своих ПК. Судя по обзору, это максимально дружелюбное для пользователя приложение. Ставится как обычная программа на винду, сильно разбираться в нюансах не надо. Программа сама подбирает подходящие модели под железо, качает их и запускает. По сути это продвинутая версия LM Studio, которой я сейчас пользуюсь. Если есть комп с современной видеокартой и хочется поиграться с локальными LLM - Unsloth Studio будет хорошим выбором для этого.

❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.

———
ServerAdmin: 📱 Telegram | 🌐 Сайт | 📲 MAX 😩

#видео

🛡 LLM, Guardrails и Zero Trust:
вебинары о безопасной работе с ИИ

➡️ 15 сентября
Как защитить чувствительные данные при работе с LLM с помощью Guardrails

Эксперты Cloud․ru расскажут о том, как Guardrails помогают контролировать данные, которые передаются модели: персональные данные, API-ключи, внутренние идентификаторы и другую чувствительную информацию. А еще покажут, как встроить Guardrails Filter в процессы.

Зарегистрироваться

➡️ 17 сентября
ИИ в облаке: кто отвечает за безопасность

Эксперты Cloud․ru разберут, как выстроить безопасную ИИ-инфраструктуру без лишних рисков. Отдельно обсудят подход Zero Trust: расскажут, как контролировать доступ к данным, моделям и сервисам в облаке.

Зарегистрироваться

Если вы работаете с LLM, GenAI-сервисами или строите ИИ-инфраструктуру в облаке — присоединяйтесь.

Думаю те, кто хоть немного следят за развитием LLM знают, что не так давно вышла Qwen3.8-27B, которую может взять и использовать любой желающий. На неё очень хорошие отзывы, она реально умная и может успешно решать некоторые задачи. По моему опыту использования локальных моделей, именно модели Qwen давали самый хороший результат.

В общем, очень мне хотелось тоже её попробовать. Но сразу скажу, что на видеокарте с 8ГБ это пустая затея, кто бы что ни говорил. Ничего путного у меня не получилось, а заметку делаю, чтобы сэкономить чьё-то время, если кто-то начнёт мечтать о невозможном и задумает проводить такие же эксперименты.

Я перепробовал кучу настроек, но результата выше 2 токена в секунду не получилось. Теоретически, такой производительности может хватить на какие-то рутинные задачи, которые не требуют мгновенного выполнения, но у меня таких нет. А работать вручную с такой производительностью невозможно.

Самые хорошие результаты были получены с настройками из этого видео:

▶️ Запустил Qwen3.8 27B на одной видеокарте 8 ГБ! (Лучше, чем ожидалось)

- Модель - unsloth/Qwen3.8-27B-GGUF IQ4_XS
- Context length - не более 70к
- K и V Cache Quantization Type - Q4_0
- GPU Offload - 26
- CPU Thread Pool Size - по числу физических ядер CPU
- Speculative Decoding - MTP
- Max Draft tokens - 2
- Draft probability - 0.75
- Enable Thinking - True (поставить галку)
- Reasoning Budget - Off (убрать галку)
- Temperature - 1
- Top K Sampling - 20
- Repeat Penalty - 1
- Min P Sampling - 0

Остальное в дефолте. Не знаю, что там ожидалось (я про заголовок), но у меня иногда те же 2 токена в секунду на RTX 5060 8 ГБ получились, как и у автора. Иногда ниже. Я перечитал все комментарии с критикой и советами по изменению настроек, но лучше не стало. Пробовал некоторые другие советы - всё мимо. Потерял кучу времени, результата - 0. Теоретически можно ещё LLM помучать на тему этих настроек, но, думаю, смысла нет. Одно хорошо - уже прохладно стало, отопление ещё не включал, а пока с LLM работаешь🔥, кабинет обогревается до комфортной температуры.

С такой видюхой, как у меня, про локальные модели общего назначения проще забыть и вообще их не запускать. Результат будет хуже, чем почти на всех публичных бесплатных. Другое дело какие-то специализированные модели, например, для распознавания объектов на видеопотоке, или анализ фотографий с тем же распознаванием объектов или лиц, распознавание речи. Это уже будет рабочая тема. Я всё это делал, нормально работает, производительности этой видюхи хватает. А в общении в чате или агентском режиме ловить нечего. Оно работает и даже что-то делает, но как я сказал, хуже бесплатных публичных моделей, так что смысла нет мучать своё железо, пока они доступны.

А в целом модель умная. Поделал некоторые относительно простые вещи на ней. Работает медленно, но результат даже в такой заквантованной и ограниченной по ресурсам модели нормальные. Если чётко выдавать задания и не торопиться получить результат, она в фоне может делать дела.

———
ServerAdmin: 📱 Telegram | 🌐 Сайт | 📲 MAX 😩

#ai