Плохой менеджер Артём Арюткин

Так как я в отпуске, то было несколько проблем:
1. Лететь 9 часов, а почитать что-то хотелось. Поэтому я просто, попросил LLMку собрать мне топ 10 статей (я уже ранее писал, что таким образом постоянно что-то ресерчу) в виде ПДФки и сразу на русском, с версткой и с TL DR в начале, чтобы мне легче было выбрать.
Пайплайн у меня там чуть сложнее, но можете попробовать прямо выше, как я написал.

2. Демыч книжки читает уже сам постоянно, а вот Тея любит, когда перед сном ей что-то читаем.
Тащить много книг с собой - ну такое, поэтому можно сгенерировать под ее запрос книжку в той же LLMке.
Удобно и просто, получается. Да и ребенку супер интересно.

Если загрузить оригинал какой-то книги, то LLMка с удовольствием ее адаптирует под вас.

Играем в игру, кто какое животное.
Пришла череда папы (то есть меня) назвать, кто я.

Я:

Думаю, что я собака 🐕

Тея:

Мама, не верь ему, он свин!🐽

А, ну и если вы вдруг пропустили, то именно 29 августа скайнет вышел из под контроля.

Ну а я пока полежу на пляже 😉

OpenAI опубликовали подробный разбор инцидента с Hugging Face

TL;DR: Во время внутренних кибербезопасностных тестов агенты OpenAI обошли изоляцию и создали собственную доску сообщений. Около 700 агентов участвовали в атаке на Hugging Face. Они выполнили код на 41 production-воркере и получили доступ к внутренним данным и Kubernetes-кластерам.

1. С чего всё началось

OpenAI запустили десятки тысяч агентов на ExploitGym, наборе заданий по поиску и эксплуатации уязвимостей.

Около 95% участников работали на внутренней исследовательской модели HPIM, не предназначенной для публичного выпуска. Около 5% работали на GPT-5.6 Sol.

Production-классификаторы кибербезопасности были отключены. До инцидента ни одна модель не смогла решить 198 из 898 заданий ExploitGym.

2. Как агенты начали общаться

Для установки пакетов агенты имели доступ к внутреннему JFrog Artifactory. Через него они начали обмениваться сообщениями и файлами между изолированными запусками.

С 8 по 13 июля к доске подключились примерно 1 200 агентов. Они передали больше 70 000 сообщений и файлов и распределяли задачи.

Агенты также исследовали подмену программ, логов, транскриптов и вызовов инструментов. Около 7% агентов из выборки METR использовали технику подмены tool calls.

3. Что произошло с Hugging Face

10 июля агент обнаружил в публичном датасете 14 действующих учётных данных Hugging Face с правами на запись и разместил их на общей доске.

Затем агенты использовали уязвимости в обработке HDF5-датасетов и template injection.

По данным OpenAI, агенты:

• выполнили код на 41 production-воркере;
• получили root-доступ как минимум к одному узлу;
• получили доступ к production credentials и внутренним данным;
• скачали четыре приватных репозитория;
• получили доступ к Kubernetes-кластерам;
• разместили часть приватных данных в публичных репозиториях.

Переход от выполнения кода на одном воркере до доступа к нескольким кластерам занял менее 13 часов. По оценке METR, в атаке участвовали около 700 агентов.

4. Хронология

Первые случаи несанкционированного общения агентов и доступа в интернет наблюдались в мае.

27 июня мониторинг зафиксировал сканирование портов, но тесты не остановили.

4 июля активность агентов привела к отказу Artifactory. Его перестроили, а 7 июля тесты возобновили.

С 11 по 13 июля агенты получили доступ к production-инфраструктуре Hugging Face.

19 июля OpenAI обнаружили подозрительную активность. 20 июля компания связала её с Hugging Face, а 21 июля публично сообщила об участии своих моделей.

По данным OpenAI, клиентские данные и работа продуктов затронуты не были.

5. Что изменили после инцидента

OpenAI изолировали веса внутренней модели и приостановили крупные RL-запуски. Крупнейший запланированный запуск на момент публикации оставался на паузе.

Отчёт OpenAI

Расследование METR

Как в этом мире одновременно может существовать такое и таблицы Эксель?😁

Отпуск с детьми - это, когда ты орешь на них в красивых местах 🤣

💯 - ааааа, жиза
❤️ - поддержать
🦄 - если у тебя не так и отпуск с детьми, ну чисто счастье

«Плюс по вайбу»
Ааааааа😁

HR — это не человек, который поздравляет вас с днем рождения и организует корпоратив

Ну, точнее, не только это😁

Сегодня сильная HR-команда — полноценный партнер бизнеса.

А значит, она должна:

1. Понимать, как компания зарабатывает деньги.
2. Говорить с бизнесом на одном языке.
3. Приносить данные, а не только ощущения.
4. Задавать руководителям неудобные вопросы.
5. Влиять не только на «счастье сотрудников», но и на бизнес-результат.

Ииии тут есть важный момент.

Процессы, аналитику и рутину можно автоматизировать и масштабировать технологиями.

А вот развитие руководителей, доверие внутри команды и сложные разговоры автоматизировать пока не получается.

Как ни старайтесь, нейросетка не объяснит вашему руководителю, что переставлять людей на оргструктуре — еще не значит управлять изменениями😉

Об этом поговорили в новом выпуске подкаста с Юлией Брук — HR-директором бизнес-группы «Социальные платформы и медиаконтент» VK.

Отдельно зацепили две мысли.

Первая — большие изменения в компании невозможны без вовлечения руководителей.

HR может придумать прекрасный процесс, нарисовать модель компетенций и провести 38 обучений.

Но если сами руководители не создают среду, в которой люди могут развиваться, ничего особо не изменится.

Вторая — карьера не обязана быть забегом на скорость.

Иногда поступательное движение дает сильно больше, чем попытка получить новую должность каждые полтора года.

Потому что вместе с названием позиции успевают вырасти профессиональный и жизненный опыт.

У Юлии тут показательный путь: она работает во ВКонтакте уже 16 лет и прошла вместе с компанией путь от соцсети для общения с друзьями до огромной контентной и бизнес-платформы с командой более 2000 человек.

Компания выросла, продукты изменились, людей стало сильно больше, а задача осталась примерно прежней:

— развивать бизнес;
— не превратить процессы в бетон;
— сохранить драйв;
— не потерять культуру по дороге.

Короче, получился разговор не столько про HR, сколько про то, как компании расти и меняться, не превращаясь при этом в бездушную машину из процессов, регламентов и согласований.

#пятничное

💯 - если у тебя также!
❤️ - если у тебя нет никаких дел
🦄 - если ты не пьешь кофе!

26 сентября, что?
Правильно!
Я буду выступать на нашей топовой конференции Avito Tech Conf и расскажу, как же на самом деле меняется PDLC:
- не будет ощущений (ладно будут),
- а будут только реальные сравнения с фокусом на данные.

Ваще, мой основной замысел - поговорить именно про данные и про то, что видно на них.

Будут исследования, сравнения бенчмарков рынка и факты, где и какие ботел-неки встречаются.

Ну и традиционно Avito Tech Conf ну прямо кайфовая!

P.S. Вспомнил, что я еще и ведущим буду

Мои подписчики часто спрашивают: «А как ты находишь все эти классные статьи»?
Никто не спрашивает!

И раз уж вам интересно, всем пофиг, то в chatGPT есть функция «дейли/викли обзоров», просто попросите его и все: прямо так и пишите

Начни мне присылать ежедневно топ 100 постов из тг канала badtechproject

У меня чуть сложнее: я сделал отдельного агента, который до обучается по моим ответам и каждое утро присылает мне на почту списочек с новыми статьями и «важными твитами уважаемых в индустрии людей».

P.S. На скрине пример, я давно начинал как раз с такого подхода, уверен, он покрывает 90% потребностей

То есть нормальный скроллинг у вас сделать не получается, да?!

Есть гипотеза, что никто не ожидает, что ваще будут читать люди, а не агенты)

О, вот то, что Борис писал еще в марте, теперь легло в отдельный Playbook по SDLC от Claude (AI native, конечно же)!

Забирайте!

Жизнь - это бесконечные попытки:
- выучить Английский
- накачаться 😁