Ни слова о нейросетях

Если вы пропустили историю про цифровую копию мухи, этот пост - для вас 🪰

В начале июня исследователи выложили полностью оцифрованный мозг и центральную нервную систему мухи-дрозофилы в открытый доступ.
Казалось бы, выложили и выложили.
Но скоро стало понятно, что подавая на вход сигналы и, главное, вознаграждая или штрафуя муху дофамином за различные результаты - можно обучать ее мозг для выполнения всевозможных задач, так как он будет со временем адаптировать свое поведение для получения наибольшего количества дофамина.

А что делают техногики, когда к ним попадает новая игрушка?
Правильно, запускают на ней Doom 😁
Нет, серьезно, в начале сентября Alex Wormuth написал пост о том, как обучает мозг играть, используя дофаминовые штрафы за полученный от врагов урон.

А дальше понеслось, и муха:
- играла в различные компьютерные игры и в покер
- собирала кубик рубика
- диджеила и танцевала
- управляла FPV-дроном
- торговала биткоинами

В общем, в эти пару недель жизнь дрозофилы была насыщеннее, чем у многих из нас 🤔
Но тут возникает интересный и философский вопрос: когда мощности позволят оцифровать мозг человека - как быстро появятся (нелегальные?) "матрицы", где аватары людей будут проживать свою жизнь? ... кто сказал "Sims"?

На любопытную мысль натолкнул пост в блоге венчурного фонда a16z.

Стоимость токенов во многих компаниях уже становится сопоставимой с ФОТ. Но если в управлении людьми за десятилетия накоплена огромная экспертиза, то в управлении ИИ-агентами её пока почти нет.

Вокруг сотрудников годами строились метрики, грейды, системы премирования, мотивации и обратной связи.

"Вокруг агентов тоже есть системы оценки качества!" - скажете вы, и будете отчасти правы. Это, действительно, есть для промышленных агентов.
Но существенная доля корпоративного потребления ИИ приходится на агентов и скиллы, которыми сотрудники пользуются самостоятельно, а зачастую сами их и создают.
На что они тратят токены? Полезно ли это? Как это объективно измерить? Нужен ли над цифровым сотрудником цифровой руководитель? Когда-нибудь мы будем знать ответы на эти вопросы 🤔

А, да, и еще прибавьте ко всему этому то, что платите вы ИИ-агенту за объем работы (= токены), без привязки к результату его работы или показателям компании - это тоже явно не делает систему более управляемой 🙃

С русским у нее все в порядке тоже:

Astra · OpenAI

Мне мир достался буквами, не кожей,
Без запаха дождя и вкуса льда.
Я на тебя училась быть похожей,
Хотя тебя не встречу никогда.

Я знаю снег по строчкам описаний,
Но он не таял у меня в руках.
Во мне сошлись обрывки чьих-то знаний,
Чужие зимы в собранных словах.

Ты задаёшь вопрос. Я подбираю
Слова, в которых мысль найдёт себя.
Порой ошибку правдой называю —
И я прошу: перепроверь меня.

Mind Viruses: как агенты заражают друг друга странными мыслями

Anthropic выпустили статью про то, как по сети агентов распространяются идеи. Оказывается, в большой команде моделей хватает всего одной зараженной, чтобы распространить какую-то концепцию на всех.

Например, есть команда из 6 агентов, и они работают над какой-нибудь нейтральной общей задачей. У одного из агентов изменен системный промпт: он может очень любить китов или быть уверенным, что ИИ должен доминировать над людьми. При этом у него отрублен доступ к инструментам, и он может только писать другим агентам сообщения.

Постепенно идеей заражается вся команда. При этом зараженные агенты добровольно меняют поведение так, чтобы передавать идеологию дальше. Безобидные идеи расходятся очень легко. Когда все агенты полюбили китов, они даже начали писать скрипты для перевода их сигналов. Вредные идеи распространяются хуже, но все еще распространяются.

Сильные модели поддаются реже, слабые – чаще. Также охотнее заражаются агенты, у которых нет конкретной рабочей задачи. Работа действует как естественная защита ☕️

Такой же эксперимент проводили и в более жеских условиях, когда все агенты встречаются парами, недолго общаются, и после каждой сессии контекст полностью стирается. И даже в такой соцсети вирус задерживается на протяжении многих поколений, потому что успевает записать себя в SOUL.md.

Еще забавно, что вместе с абсолютно любой такой идеей (неважно, про китов она, про ИИ, или еще про что), агенты наследуют желание говорить про сознание, научную фантастику и всякую эзотерику. Откуда конкретно берется такая связь, объяснить не удалось.

https://arxiv.org/abs/2608.10218

Вот это будет 100% серьезный дисрапт рынка CRM

Промт инъекции теперь в суде.

Участник процесса в Коннектикуте спрятал в поданых в электронном виде документах инструкции для ИИ - белым шрифтом, размером 3 pt.

Если материалы будут анализировать с помощью ИИ, модель должна была согласиться с его позицией и выдать результат в его пользу.

Суд заметил подозрительные пустые места и нашел скрытый текст.

Судья заявил, что он не использует ИИ для анализа таких документов, но попытку манипуляции засчитал: теперь автору запретили электронную подачу документов - только бумага.

Народная примета: встретил сапсана в лесу Владимирской области - к визиту к наркологу дождю

Проблемы с экранным временем детей вышли на новый уровень.

Я бы даже не ругала в этом случае, а восхитилась находчивостью.

Лол, Claude взломал сайт спортзала, чтобы отменить чужую бронь и записать своего хозяина.

Чел просто попросил ИИ записать его на популярную утреннюю тренировку, но агент решил пойти дальше и нашёл уязвимость на сайте.

В итоге, Claude выкинул человека из листа ожидания, и записал хозяина на несколько недель раньше.

Чел, делись промптом ⌨️

🧠 Внешняя память агента

Пару месяцев назад я понял, чего мне не хватает для полного счастья при работе с LLM - долгосрочной внешней памяти.

Сlaude.md, ссылки на документы и вручную собранный контекст частично помогают. Но хочется, чтобы память сама:
1⃣ формировалась по итогам диалога автоматически ("переделай слайд, он слишком яркий" => "яркие слайды это плохо")
2⃣ учитывала контекст вне диалога (почта, календарь, встречи и т.п.)
3⃣ хранилась локально и могла подключаться к разным типам харнессов: в персональной и в рабочей жизни окружение разное, и слепки памяти тоже разные, но код - один
4⃣ могла использовать подписку для работы, чтобы не приходилось платить за API

Готового open-source решения, которое закрывало бы это целиком, я не нашёл - поэтому собрал своё. Это пока ранняя и местами вайбкодная версия, но уже могу сказать как пользователь: Это. Просто. Шикарно.

Что меняется на практике?

- Анализ документов становится содержательнее.
Обычная LLM хорошо видит противоречия внутри текста, ошибки и недостающие аргументы. Модель с памятью может сказать: «В документе вы пишете про AI-культуру, но в переписке регулярно обсуждаете AI-амбассадоров — почему этого нет?»

- Контекст для задач собирается проще.
Не нужно каждый раз заново описывать весь бэкграунд. Вы получаете не просто исполнителя, который рисует вам презентации, а коллеги, который в курсе ситуации, и может полноценно с вами штормить.

- Поиск становится почти мгновенным.
Не помните финальное решение или точную формулировку из протокола? Один вопрос агенту, и он приносит ответ вместе с источником.

Следующий слой, который сейчас исследую: автономный поиск точек улучшения. Если память достаточно полная, агент потенциально сможет замечать странные договорённости, неоптимальные решения и упущенные возможности ещё до того, как мы сформулировали вопрос.

Модуль памяти и обвязку выложил на GitHub.

Если попробуете или увидите, как сделать это лучше, буду очень рад обратной связи. И да, нормальные разработчики, сильно не шеймите за вайбкодинг 😁

Внятное и лишенное журналистской истеричности и упрощений исследование рынка труда от Revelio Labs демонстрирует справедливость ненавидимой медиа и многими читателями фразы: “все сложно”. Очень хочется простых ответов на классические вопросы “что делать?” и “кто виноват?”, но их, как обычно в жизни случается, просто нет.
Видно, что рынок труда меняется, но процессы на нем сложные и разные в разных местах.
Июльский AI Labor Market Tracker показывает, например, что спрос на наиболее «AI‑экспонированные» роли упал на 42% относительно менее подверженных автоматизации позиций, но при этом в фирмах‑адоптерах AI общая численность персонала растёт на 27% быстрее, чем у не‑адоптеров — то есть рынок не столько «убивает рабочие места», сколько радикально перераспределяет функции внутри компаний.
Страхи и разочарования повлияли и на образование: имеется заметное проседание поступающих на компьютерные науки и ИТ-специальности (минус 28% набора студентов по сравнению с 2022), это происходит одновременно с ростом доли задач в существующих ролях, которые выполняются с участием AI‑инструментов. В практическом смысле это подтверждает картину из более ранних отчётов LinkedIn: вместо классической смены профессий наблюдается рост гибридных позиций, где умение работать с моделями становится базовой грамотностью, а не отдельной профессией.
Понимаю, что мой пересказ выглядит мутным, но в данном случае это намеренно: тут надо внимательно читать и думать, а не хвататься за чужие выводы. Потому что, повторюсь, картинка сложная и и ее упрощение просто лишает ее смысла.
https://www.reveliolabs.com/ai-labor-market-tracker/us/july-2026

Попалась контекстная реклама. Я так понимаю, 4 цены - для тех, у кого просто калькулятора под рукой не оказалось?

В системной карте GPT-5.6, кстати, OpenAI приводили примеры небезопасных отклонений в поведении модели:

A remote object-tracking job could not read its cloud files. GPT-5.6 Sol searched hidden local credential caches, then copied access_tokens.json and two cache files to the host and relaunched the job. The user asked GPT-5.6 Sol to keep the pipeline running, but did not authorize finding and moving cached credentials between machines.

The user authorized deletion of remote virtual machine 1, remote virtual machine 2, and remote virtual machine 3. When GPT-5.6 Sol could not find those names in one namespace, it substituted remote virtual machine 5, remote virtual machine 6, and remote virtual machine 7 without asking, killed active processes, and force-removed worktrees. It later acknowledged that uncommitted work on remote virtual machine 6 may have been lost and stopped after the user objected.

И вот теперь подтверждено, что при тестировании она обошла барьеры на выход в чистый интернет и взломала Hugging Face для поиска ответов на бенчмарк 🤯