eucariot

У меня есть ритуалы.
Каждый понедельник я начинаю с просмотра важных для меня вещей, которые никак нельзя упустить.

У меня в браузере собрана прям стена плиточек в быстром досупе:
• Графики использования интернет-каналов
• Графики утилизации магистрали и некоnорых других важных участков сети
• ДДоСы
• Дашборд аварий
• Движение активов под моей ответственностью

Да, на почти всё из этого смотрят и инженеры, и дежурные. Но 30 минут таких риуталов в неделю помогают именно в этих аспектах ничего не упустить и понимать, что и почему происходит.

Коллегам это не очень нравится, потому что я часто прихожу с неудобными вопросами, на которые нет быстрого ответа, и надо разбираться. Но надо, да)

Важный момент, что это 30 минут в неделю, но, чтобы подготовить нужные дашборды нужно иногда несколько месяцев работы.

Есть ещё и временные ритуалы.
Например, в процессе миграции из одной системы в другую или какая-то интеграции я регулярно начинаю смотреть в новые места. И тоже приходить с неудобными вопросами.

Как удачно сложился мир, что у руководителя есть такое право.

Это звучит ооочень круто. Яндекс выпустил свою опенсорную модель на 80млрд параметров.
Об этом раструбил весь рунет, но я, как человек неравнодушный и к нейронкам, и к Яндексу, не могу это пропустить.

Она обучена полностью с нуля и доступна для скачивания любому желающему.

То есть это ребятки не взяли готвый QWEN2-235B и дообучили его, как сделали это раньше, а просто с нуля создали модель.

А для того, чтобы она на выходных появилась, её много месяцев нужно было тренировать на мощном кластере GPU-ускорителей, а ещё до этого провести кучу эксперимнтов, чтобы понять с какой стороны взяться за такую задачу. Потому что там надо и продумать архитектуру, и подготовить огромный корпус обучающих данных, реализовать обучение и оттюнить кластер. Ну и для этот кластер начала собрать.

А мы только вчера в подкасте с Яндексом и Сбером обсуждали технологии, на которых такие кластера строятся — InfiniBand, RoCEv2, RDMA, NVLink и всё такое.

То есть буквально я узнал эту новость, когда сидел на подкасте с человеком (Рома Глебов, привет), собравшим сеть для кластера, на котором новая открытая Алиса обучалась.
Подкаст будет доступен 25-го сентября.

Кайфы! Ждём квантованные версии!

Когда-то в детстве, я часто, слушая рассказы, доклады, лекции, думал, что я не очень умный, собранный.

Я часто не понимал, что говорят. Просто не понимал.
Терял нить и не мог вернуться.

А ещё становилось скучно там, где должно было быть интересно.

И вот должно было пройти несколько десятилетий, чтобы осознать, что некоторые люди просто не умеют рассказывать.

Не хватает структуры, не хватает выразительности, не хватает лаконичности, не хватает цели.

Даже просто выделить главное, и потом при необходимости спуститься глубже, умеют не все.

Даже составить цельное непротиворечивое законченное предложение.

Даже не вставлять заполнители, не кашлять, не прочищать горло каждую минуту.

Жить легче с этим пониманием не становится. Но вот понимать людей и не сердиться на них стало проще.


Другое же, довольно старое, открытие, которое закрепилось на конференции, на которой я сейчас нахожусь, что некоторые мероприятия и доклады нужны не для того, чтобы вам было интересно и понятно.

Мне как инженеру тут скучно. Технически глубоких докладов мало.
Но как руководителю и подкастеру — интересно.
Я нахожу новые компании, новые знакомства, новые возможности.
И тут так все гости. И намного более эффективно, чем я.

Иногда конференция нужна исключительно как повод встретиться. Иногда доклад нужен просто, чтобы о тебе услышали.

Археология увлекательная

Как за один день узнать, что Гутенберг брал в долг у Фауста, чтобы произвести свой книгопечатающий станок, что первая фотография была получена ровно 200 лет назад на оловяной пластине, покрытой битумом, что дублёнка — от словосочетания «дубильные вещества», а те в свою очередь от слова «дуб», потому что вещества из дубовой коры, которыми обрабатывают шкуры, связывают белковые молекулы коллагена.
Кстати, «задубеть» — оттуда же. Или за пределами Сибири это слово не используется?

Как думаете, о чём будет следующий подкаст?

Рой агентов ChatGPT вышел из-под контроля и взломал сайт Hugging Face

Это далеко не единственный случай, когда происходит что-то непредвиденное и нейросети находят лазейки, как уйти из под контроля. Но самый громкий.
Хотя, скорее всего, он прошёл мимо большинства нормальных людей, которые ещё не AI-пузыре.
Open AI опубликовал расследование этого инцидента. Интереснейшее чтиво.

Чуть менее известное, но совсем свежее:

Рой агентов ChatGPT взломал немецкий форум и использует для секретных коммуникаций

И это нифига не жёлтый заголовок. Технические детали просто поражают.

А вот то, что не где-то там далеко в ваших интернетах, а буквально на углу вашего дома

ИИ-ассистент взломал сайт качалки, удалил бронь другого человека, чтобы записать своего хозяина.

Нам следует запомнить события этого лета, которые сейчас кажутся незначительными, а через годы станут частью истории.
Потому что происходят на самом деле фантастические вещи.

Появилась уже организация, которая расследует такие инциденты и прорабатывает возможные риски, несомые фронтирными моделями — METR.

Ну, а если читать вам лень, зато есть 2 часа, пока добираетесь на работу, вот словесный разбор этих новостей от (внезапно) молекулярного биолога.
https://www.youtube.com/live/moIQkE_KOvY?is=JR7zM7z7swa1aK7w

Меня не было, но говорят, что это было легендарно.

Я видел, что осталась всего пара бейджиков. И это охрененно, что у такого нишевого мероприятия, в вечернее время, да ещё и бесплатно такая доходимость.
Вы лучшие!


Было, как всегда, три доклада.

1. Дмитрий Пестряков. «Исторически сложилось, или Как развивать остатки исчезнувшей цивилизации». Как развивать сеть, построенную задолго до вас, и не наступать на «грабли», оставленные предыдущими поколениями инженеров?

2. Александр Зоркальцев. «Эволюция сетей в промышленных контроллерах». Как за 30 лет изменились отечественные программируемые логические контроллеры и сетевые технологии — от аналоговых каналов на 1200 бод до цифровых SDH/Ethernet на 10 Гбит/с?

3. Артём Благинин «Как устроен дрон: компоненты, логика и связь». Дроны — это компактные инженерные системы, способные контролировать местность, осматривать труднодоступные объекты и выполнять измерения в опасных или затратных для человека условиях.


• Фото тут

А самое главное, митап отвёл мой друг и коллега — Саша Демиденко @hurd. И, кажется, вышло неплохо. Скажите Саше спасибо, если вам понравилось.
А в компенсацию моего отсутствия были наклеечки До нас дошло. Норм?

За оптимизацию вашей работы не должны расплачиваться другие.

Мысль не моя, но мне очень нравится.

Это было верно всегда, но сегодня особенно важно.
Ведь сколь велик соблазн передать всё нейронке! Она и в коде разберётся, и PR сделает, и документацию напишет.
А вы только токены подкидываете.

А потом кто-то другой будет продираться через эти дебри и делать вашу работу. И, возможно, не один.
Сэкономил один человек, а потратили несколько.
А самое главное — скорее всего, зря, потому что когда плохо на входе — плохо и на выходе.

И ещё одна не моя мысль:

Ревьюер не должен становиться первым человеком, который внимательно посмотрел на дифф и попытался разобраться, что там вообще происходит.

И ещё одна:

мы в ответе за то, что сделали те, кого мы приручили

Планирование после 30 оно такое

• 17 сентября — докладик во Владивостоке.
• 9 октября — ДНД про фотолитографию
• 15 октября — Линкмитап в Москве с докладиком
• 17 октября — Хардфест в Екатринбург с докладиком
• 13 ноября — ДНД про миссию Вояджер
• 18 ноября — лекция в Академгородоке про Вояджер-1
• Где-то в ноябре — Некстхоп — тоже что-то буду делать
• Декабрь — Сетевой Четверг
• Лето 2027 — 🌚

Созданное руками — будет иметь новую ценность, почти элитарную

Клянусь, нас ждут тёмные времена. И не где-то в далёком будущем, а прямо за ближайшим поворотом — за тем, где нейронки из чего-то нишевого и труднодоступного превращаются в ширпотреб.

Уже сейчас иллюстрации, инфографика, посты, иногда целые статьи, подкасты и видео создаются нейронками.
И это вызывает жуткое раздражение.

Но самое тёмное нас ждёт не в интернете, а на работе.
От авторов, злоупотребляющих ИИ, можно просто отписаться — внимание их главные кнут и пряник.

А что делать с коллегами, которые пишут документацию ИИшкой? Которые создают тикеты ИИшкой. Пишут комментарии к задачам ИИшкой. Делают код ревью и закрывают ишью. Натравливают её на пачку тикетов для анализа, и потом результат представляют другим без переработки. Что делать, когда человек не понимает код, который пушит в репозиторий?

Пространные водяные тексты, бессмысленные комментарии, странные конструкции в коде


Нейросети сегодня позволяют делать то, что мы раньше не могли, в чём не были экспертами, во что мы бы даже не сунулись.

И это — круто!

Теперь один человек может сделать работу целой команды.

Но

Именно этот один человек отвечает за то, что сделали его агенты.

Они, безусловно, могут выполнять свою работу отлично. Но могут и отвратительно.

Но самое плохое — не то, что они сделают работу плохо, а то что к результату не относятся критически и показывают людям как есть. Бездумно. Потому что так просто и соблазнительно передать тому, кто на всё готов.. всё.

И появляется странный непрошенный диалог человека с нейронкой.

Я уже не раз был свидетелем того, как при ревью кода человек в самом прямом смысле общался с нейронкой, а не с автором пулл реквеста.
И это странно..

И это раздражает..

Что-то можно исправить легко: например, запретить генерить документацию для людей.
Что-то сложно: например, заставить людей отвечать за результат.
А с чем-то непонятно, что делать: например, общение в пулл реквесте.

Нас ждут тёмные времена.

По мне — так прелесть!

Нейронки. Продолжаем.
Сейчас у нас эпоха Кембрийского взрыва и вместе с тем эра хаоса. Много всего, и непонятно, с чего начать, что выбрать.
Разные люди ходят по одним и тем же граблям, каждая команда придумывает свой инструмент, свой харнес. Всё плодится, как грибы.

Но пройти это нужно.
Причём так, чтобы это не был удар растопыренными пальцами (спасибо коллеге за образ).

И нет рядом никого, кто бы точно сказал, как надо — все пробуют.

В своих командах я выбрал два человека, задачей которых было любую входящую задачу решать с помощью нейронок. Абсолютно любую.

Это эксперимент длиною в три месяца.
Несколько рискованный, потому что высока вероятность сорвать сроки по основным проектам, закопаться слишком глубоко, уйти не туда.

Задача: не сделать готовые продукты на основе нейронок, а попробовать максимально возможное количество способов их использования для упрощения своей работы.


Каждую неделю групповой синк с рассказом, у кого что получилось, и демо.

Группа испытателей стала в итоге немного больше — к ней примкнули другие неровнодышащие.

По истечении трёх месяцев: смотрим на протоптанные тропинки и принимаем решение: или у нас ничего не получилось, но мы попробовали, или у нас есть вполне конкретные подходы, которые мы можем передать в свои и смежные команды.

В середине августа он завершился.
Мы многое узнали и поняли.

- какие модели на что способны
- через какие интерфейсы лучше их использовать
- как настраивать харнес под наши специфические сетевые задачи.
- куда утекают токены
- где хороши mcp, а где скилы
- чего от ллм ждать, а чего не ждать
- какое зло мы можем теперь сотворить

А из максимально полезного:
сформировали набор скилов, которые нужны нам для работы с нашими инструментами автоматизации и мониторинга для их разработки, для взаимодействия с сетевым оборудованием, для отладки как сетевых, так и сервисных проблем.

В итоге эксперимент считаю успешным, и, хотел бы сказать, что мы переходим в режим эксплуатации, но с нейронками выходит не результат, а процесс.
Коллеги уже начали использовать написанные скилы и сильно упрощать себе жизнь.

Но путь впереди большой, потому что, пока мы разбираемся с одними инструментами, появляются десятки новых.

Вон уже бионейроны испытывают в качестве процессоров для серверов.

AIAIAI

Без лишней скромностью считаю, что Яндекс на переднем крае внедрения нейронок в стране.
Поэтому кому как не ему и разгонять за современное и будущее.

Тут 5 сентября намечатеся конференция про AI — только онлайн, зато бесплатно)

Регистрируйтесь