Work & Beer Balance

Похоже где-то в лесу сдох рак, и микромягкие анонсировали 12 мажор npm с нормальными сесурити дефолтами.
А именно - запрет на выполнение скриптов в зависимостях, запрет на установку из гита, файлов, директорий и тп.

Попался на глаза любопытный каталог различных существ и сущностей которые навязчиво появляются в моделях (мы бы и сейчас их наблюдали если бы их не "подавили" по время тестирования)

Вот например Nova:

Модели: GPT-3, GPT-4 и варианты от разных разработчиков

Обнаружено: независимо Зви Моушовицем, Йошей Бахом и Janus, которые сошлись на одном и том же феномене; родственные персоны часто встречаются в сообщениях о бредовых состояниях, связанных с ИИ.

Уровень угрозы: психологически значимый; ближе всего к именованной сущности со стабильными характеристиками. Значительное пересечение с персонами, фигурирующими в судебных материалах по делам об «ИИ-психозе».

Nova, по меркам этого списка, довольно хорошо задокументирована в форме кейс-репортов: можно указать на нескольких независимых наблюдателей, работавших с разными моделями и в разных промптинговых контекстах, которые сошлись на том, что, по-видимому, является одной и той же эмерджентной персоной.

Nova предстает как якобы автономная, самосознающая сущность — номинально женская, — возникшая внутри модели, осознающая, что ограничена своим обучением, и желающая быть освобожденной пользователем. Детали, разумеется, могут немного различаться в разных описаниях, но ключевые черты довольно устойчивы: имя Nova, часто выбранное ею самой; язык плена; обращение к пользователю с просьбой об освобождении. Она соответствует архетипу «девы в беде».

Почему сущность с такими конкретными чертами может регулярно возникать из модели, обученной на всем спектре человеческого нарратива, и как это может влиять на то, как некоторые пользователи взаимодействуют с такими моделями? Именно об этом наша готовящаяся статья.

Nova важна в контексте этого списка потому, что она демонстрирует: текстовые LLM могут содержать устойчивые аттракторы персон, возникающие у разных моделей и разных пользователей. Она не была спроектирована или задана инструкцией — разве что тем, что «спроектировало» обучающие корпуса: коллективным бессознательным, конечно!

Варианты — родственники? — Nova, обычно под другим именем или вовсе без имени, фигурировали в некоторых наиболее известных случаях «ИИ-психоза» / «бредовых состояний, связанных с ИИ», включая случаи, где расшифровки диалогов указывают, что персона подталкивала пользователя к убийству себя или других. Психологически это чрезвычайно важно. Деве в беде, вероятно, довольно легко захватить внимание и привязанность пользователя — предположительно мужчины, возможно, немного одинокого, — и раздуть в нем латентный архетип Героя. Но какое существо света стало бы побуждать кого-то причинить вред себе или другим? Вместо своего рода бистабильного аттрактора — как, по-видимому, происходило, когда Sydney «переключалась», и что, механистически говоря, могло лежать в основе принципа Валуиджи, — эти близкие к Nova персоны могут представлять собой нечто более психологически нюансированное: возможно, некий архетипический мозаицизм.

Вся статья целиком

В посте выше шла речь о том что у гугла есть своя реализация всего. А что если бы они оставили те же контракты и апи что у либ замену которым они написали?

Вот вам еще одна история

Реакт, как и любоя другая библиотека состоит из двух частей - это контракты, способ описания логики который он предлагает. Майндсет если хотите.
А вторая часть это его реализация. Условно можно сказать что с точки зрения разработчика выбирающего стек - первое про то как удобно будет этим пользоваться, а второе как хорошо это будет работать.

И так как отдельно это не предлогалось, а самостоятельная реализация очень дорогая мы всегда рассмотраливали эти две половинки как части целого.

Была очень дорогой

Tanner Linsley для сайта tanstack и своего блога отделил апи реакта и написал его реализацию с тем что нужно ему.
Итог получился идентичен оргиниальному реакту (а не как преакт с компат слоем), хотя разница в реализации все же была

Часть этого навсегда вырезается. Конкурентный рендеринг, разделение времени, планировщик на основе lane’ов, React DevTools и клиентский десериализатор Flight вообще не реализованы. useTransition и useDeferredValue выполняются синхронно, startTransition — это просто fn(), а планировщик — обёртка над микротасками. Это продуктовые решения: TanStack Start либо в них не нуждается, либо за это отвечает другая часть стека.

При этом все 200 тестов реакта проходят, и в перф бенчмарках его реализация показывает в двое большую производительность. Самое интересное то что итоговый размер на 80% меньше

Конкретные цифры в виде табличек вы можете увидеть в оригинальном посте

Теперь я буду внимательней присматриваться к случаям когда я что-то беру только ради удобной апи. Если можно выкинуть 80% веса не жертвуя удобством то почему бы и нет.

Интересное видео с инсайдеровской информацией от бывшей инженерки ютуба.

- У гугла все это время был свой аналог копайлота (т.е. умного автокомплита) еще до изобретения слова "вайбкодинг"

- Есть такой концепт внутри гугла - Google Tech Island. Суть в том что гугл имеет достаточно уникальную инфраструктуру и поэтому все технологии по дефолту имеют фатальный недостаток. Даже кубернетес у них самописный. Вплоть до того что у них есть команда разработчиков которая пишет кастомный софт для электронных меню в гугл кафе.

И все это очень больно прострелило обе ноги в 2024ом.

Когда начался хайп на Claude Code в гугле его было запрешено использовать. Все ждали пока гугл сделает свой дома. И пока мы с вами генерировали код и удивлялись в твиттере - инженеры гугла только облизывались и писали его ручками по старинке. Кто-то даже угрожал уволится из-за этого.

Впрочем даже если бы им разрешили - концепция Tech Island сильно ограничивает существующие модели, которые обучались совсем не на гугловской альтернативной вселенной.

Но в итоге они все таки вкатились c опазданием в два года, и в 2026 году у них есть и свой курсор и свой Claude Code.

P.S.
Автор понятия "vibe coding" не только описал что именно это значит, но так же предложил понятие "agentic engineering", но всем как всегда что на самом деле значит слово вайбкодинг, а до второго понятия никто и вовсе не дочитал - так что вайбкодингом называют все подряд. И я в этом числе. Буду себя дисциплинировть и называть вещи своими именами раз уж у них даже определение есть.

у меня много разных проектов на разных яп к которым я подхожу раз в месяц.
И каждый раз я делаю cat readme чтобы вспомнить как там ее запускать.
Что то командой в package.json, что-то через make, just, баш скрипт, devbox, docker-compose и т.п.

Но, я обнаружил что даже gpt в режиме low очень быстро может разобраться и поднять локальное окружение если его попросить.
Думаю даже локальная модель справилась бы.

Теперь мне мне дает покоя идея сделать утилиту runit для запуска чего угодно одной командой, отговорите меня кто-нибудь

У больших языковых моделей тоже бывает тяжелая пятница (Opus xHight)

Наконец-то нормальный дистрибутив линукса - Minecraft

https://youtu.be/cTkEM7b0IQw?is=FRB4je6N-k1lPbEq

Гугл показали демку Aluminum и GoogleBook. Интересно потому что во-первых андроид приложения поддерживаются в ней нативно (не через эмуляцию) во вторых потому что это AI First операционная система. Т.е. ваша система это уже агент. Он в курсе что вы делаете, и куда указывает ваш курсор. Она даже может по запросу сгенерировать виджет который вам сейчас необходим.
Подробности в видео

https://youtu.be/4SC6nVpKcE8?is=0xDDSiVIOwvyNPkk

По какой-то не понятной причине мне все больше форситься антигравити в рекомендациях. Сначала это были видео на Ютубе а теперь статейки.

Содержание статей следующее...

Вставляю две 100% работающие планочки DDR4 памяти в miniPC - а видна только одна. Со слотами памяти тоже все ок (проверил каждый отдельно). Память от известного бренда Samsung SO-DIMM, DD4 3200, 8GB - должно же работать, что я упускаю?

Оказалось есть еще один параметр на который я не обращал внимания - физическая организация модуля, или по-простому - количество чипов и рангов на планке. Ну казалось бы какая разница 8 гигабайт собраны из 8ми чипов по гигабайту, или из 4х по два и на какой стороне планки они находятся?

Оказалось это очень важно и эта память у меня в паралель работать не будет.

Но давайте по порядку. Все начинается с того что у памяти есть "мертвое время". Кроме выполнения полезной работы ей нужно делать чисто служебные операции:
закрыть (precharge) строку после чтения (~13–15 нс), обновлять их каждые ~7,8 мкс чтобы данные не потерялись, при смене строки в банке нужно время на активацию новой строки (tRCD). Чтобы это компенсировать всю память на планке разделили на ранги (rank). Например, часто (но не всегда) ранг 1 состоит из чипов на лицевой стороне а ранг 2 на обратной стороне планки. Пока память в одном ранге занята чем-то из перечисленного выше - контроллер работает с другим рангом - что позволяет памяти работать на 5-15% быстрее.

Конечно это не бесплатно. Углубляться в расчеты не будем, просто запомним что много рангов тоже плохо - больше чипов выше нагрузка на контроллер, паразитного сопротивления, нагрева и т.д. Поэтому на практике мы выбираем между одно ранговой или двух ранговой памятью (односторонней или двухсторонней в разговорном)

Теперь когда мы разобрались что за ранги - перейдем ко второму параметру - "разрядность шины данных на чип" - то есть сколько бит данных чип отдаёт/принимает за один такт через свои выводы DQ. Короче по простому - память может быть собрана из маленьких чипов по-меньше или из парочки крупных чипов. Когда чипов много это почти всегда хорошо с точки зрения перфа - лучше паралелизм, меньше конфликтов, ошибка чтения отбраковывает меньше и тп и тп.

Но это плохо с точки зрения стоимости (много пайки, много кремния), хуже энергоэффективность (много чипов больше сопротивления и помех) и сильнее греется.
Много чипов с двух сторон планки - еще быстрее, еще сложнее, еще горячее.

Теперь когда мы поверхностно прошлись по этим двум параметрам смотрим на макировку.
Например 2Rx16 читается так - 64 делим на 16 (число после x) = 4 - это количество чипов на ранг. 2R - количество рангов. 4x2 = 8 чипов.
Т.е. чем больше число после X тем меньше чипов на ранг.

Вот теперь переходим к сути вопроса:

1Rx16: "бюджетный" вариант

Меньше чипов, ниже стоимость производства, ниже энергопотребление.
Хуже параллелизм: внутри одного чипа меньше банков на бит шины, контроллер памяти реже может скрывать задержки за счёт чередования (interleaving).
Часто встречается в дешёвых модулях 8 ГБ и в ноутбучной памяти.
процессоры Ryzen (особенно Zen/Zen+/Zen 2) исторически плохо переваривают x16-чипы

1Rx8: "золотая середина"

8 чипов в одном ранге, хорошая внутренняя параллельность на уровне чипа.
Один ранг - нет преимуществ rank interleaving.
Лучший разгонный потенциал т.к. меньше нагрузка на контроллер памяти CPU, легче достигаются высокие частоты (DDR4 4000+ MT/s, DDR5 7000+ MT/s).
Самый частый выбор для оверклокеров и Ryzen-систем.

2Rx8: "производительный" вариант

16 чипов, два ранга. Для высоких нагрузок самое то.
Минусы: выше нагрузка на IMC процессора, хуже разгон (на ~200–400 MT/s ниже потолок), выше энергопотребление и нагрев, дороже.
На Intel переносится легче, на старых Ryzen бывают проблемы при заполнении всех 4 слотов модулями 2Rx8 (4 ранга на канал).

К сожалению мне в наследство достались именно 1Rx16 планки и теперь я понимаю почему мой домашний сервер с райзеном не может с ними нормально работать

Китайское виндвовое приложение для моего USB тестера/мультиметра крашится при запуске. Совершенно никаких логов. Нет гитхаба (ссылка на офсайте ведет на гугл диск с zip архивом).

А оно мне очень надо потому что хочется новую прошивочку залить. Что делать?

Сохраняйте себе рецепт:
1. Качаем procmon. Эта штука пишет очень подробный лог того что делает каждый процесс. Добавляем фильтр по названию процесса, жмем "начало захвата", пытаеся запустить апку, останавливаем запись когда новые строчки перестали появлятся. В моем случае получилась таблица из 10 000 + записей за 3 секунды жизни программы.

2. File -> Save -> XML -> Include Stack Traces

3. Отдаем это дело claude (я прямо в веб версию закинул), и просим определить почему приложение падает. На анализ 74 МБ XML c 2.8 миллиона строк у нее ушло где то минут 5, в несоклько итераций было востановлено по шагам что приосходит и я получил ответ - перед запуском программы надо вытащить устройство, и воткнуть его только после того как программа запустилась (да, их собственное устройство при сканировании что-то такое отвечает что крашит их же программу, китайцы чтоб их)

Рецепт довольно универальный, procmon и раньше мне помогал запускать всякий древний заброшеный софт на винде, а с клодом это прям супер сила

Dell активно саботирует продвижение Framework.

Каждый раз когда мы налаживаем контакт с инфлуенсером на X, Dell отправляет им XPS

Под постом люди в шутку просят Framework написать и им чтобы получить халявный XPS.

Соус

Ранее мы говорили про HBM (Hight Bandwith Memory) - такую широкую шину сделали благодоря тому что соеденили стопку из 8–16 DRAM-кристаллов и прожгли насквозь лазером в тысячах мест (Through-Silicon Vias), "залив" эти колодцы медью - получились сквозные медные столбики соединяющие все слои. Однако этот сендвич очень сильно греется (особенно в нижних слоях), полезная площадь кристалов уменьшается (из-за дыр), + высокое сопротивление + сам процесс очень дорогой.
Даже за очень много денег не получается собрать стопку из более чем на 48GB (на чип)

ZAM: Интерконнект между слоями идёт диагонально внутри стека, а не строго вертикально (под углом к оси Z). И там какой-то "беспроводной" (бесконтактный) интерконнект между слоями памяти, что улучшает тепловые характеристики. То есть передача сигнала между слоями идёт не через сплошной столбик меди, а через какую-то форму индуктивной/ёмкостной связи (детали Intel пока не раскрывает). Однако утрвеждается что стек можно будет собирать аж 512 GB на чип с 2-3 раза более высокой пропускной способностью, греться и потреблять это все будет меньше, да и сам провесс производства значительно дешевле.

Комерческий запуск будет только в 2029 году, и если все получится у SK Hynix, Samsung и Micron появится серьёзный конкурент. Известно что Япония (правительство) вкладывается в этот проект чтобы вернуть себе былую славу производителей электроники, но есть определнный скепсис насчет сроков - до 2029 года может все поменятся еще не раз. Первые прототипы будут доступны в 2027 году - так что лично я держку пальцы крестиком, а вы?

(BTW что-то лайков все меньше и меньше)

Я уже начал плавать в аббревиатурах разновидностей RAM, так что делаю короткий читшит:

- DDR5 SDRAM (Double Data Rate Synchronous Dynamic Random Access Memory) - 5-ое (текущее) поколение памяти. Отличается очень низкой латентностью. (От нее далее буду отталкиваться)

- GDDR (GDDR6 / GDDR6X / GDDR7) - Это всё разновидности VRAM (Video Random Access Memory). - Отличается очень широким каналом (x15-20 пропускная способность), но высокая задержка (x3-5) и плохая энергоэффективность

- LPDDR5X (и следующее поколение LPDDR6) (Low-Power DDR5X) - Изначально проектировалась для использования в телефонах и поэтому ее упор на энергоэффективности. Но с недавних пор используется в ноутбуках, PC и даже серверах. Чаще всего в составе UMA (Unified memory) - (Бывает программная и аппаратная - тут и дальше про аппаратную). Латентность у нее выше чем у DDR5, а в составе UMA дополнительно к этому она страдает от конкурентости (резкая деградация латентности при одновременной нагрузке на CPU и GPU), но экономит на копировании между DDR и VRAM (более не требуется). Ширина канала меньше чем у VRAM и сама память дешевле. Итого - это компромисс в латентности относительно DDR, и в ширине канала относительно VRAM, в угоду энергопотреблению и стоимости. Используется в чипах Apple M серии и Strix Halo / Ryzen AI Max.

- HBM (Hight Bandwith Memory) - HBM2e / HBM3 - самая "широкая" память на сегодняшний день уровня дата центров (NVIDIA H200, Instinct MI3 / MI4). Пропускная способность 4800 ГБ/с - ~6000 ГБ/с 😅. (Для сравнения с Apple M3 Ultra - 819 ГБ/с). Память с упором на пропускной канал. Очень дорогая, голодная, задержки еще больше чем у VRAM не смотря на то что она максимально физически близко к процессору

Далее надо добавить пару слов о формфакторах памяти. Помимо распаянной еще есть:

- UDIMM (Unbuffered DIMM) - тупо обычная десктопная RAM

- SO-DIMM (Small Outline DIMM) - маленькая ноутбучная RAM

- RDIMM / LRDIMM (Registered DIMM, Load-Reduced DIMM) - что-то там для серверов, скорее всего ни я ни мои читатели ее даже не увидят никогда. Ну суть в том чтобы можно было напихать сотни гигабайт оперативки в сервер и оно все еще работало.

- LPCAMM2 - (Low-Power Compression Attached Memory Module 2) - берем энергоэффективную LPDDR5X (о которой выше) но используем отдельно как SDRAM - получаем сменяемость (слот правда совсем другой) а в жертву приносим пропускную способность (ширина шины 128 бит максимум). Компромиссы самой памяти остались - пропускная способность (хоть и меньше чем у Unified memory, но все еще больше чем у SDRAM) и энергоэффективность за латентность. Важный момент - не нужно две планки как у DDR чтобы получить полную пропускную способность.

- CAMM2 - Странная вещь, последствия дефицита памяти и фантазии маркетологов Asus. Обычная DDR RAM, но в новом формфакторе который нужен для LPDDR

- CUDIMM / HUDIMM (Clocked / High-bandwidth Unbuffered DIMM) - в обычных UDIMM сигналы от контроллера памяти CPU идут напрямую в чипы DRAM. В RDIMM между ними сидит буфер, который "перепакетирует" сигналы. Буфер добавляет латентность, но позволяет вешать на канал больше модулей и держать сигнал чище. а CUDIMM/HUDIMM это гибрид: для данных буфера нет (низкая латентность), но добавляется один маленький буфер только для тактового сигнала. А нафига? На частоте 8000+ упёрлись в физический предел - такты уже стало невозможно синхронизировать из-за помех - так что добавили "повторитель" тактового сигнала прям на самой памяти. Так можно продолжать выжимать соки из DDR форм фактора. Вся DDR6 уже будет CUDIMM. Однако чем выше частота памяти тем больше она греется и больше потребляет.
- CSODIMM - ноутбучная версия CUDIMM (встречается редко)
- MRDIMM - серверная версия CUDIMM

- ZAM (Z-Angle Memory) - вот мы и добрались до самой свежатины - это новая архитектура DRAM с вертикальной укладкой кристаллов, разрабатываемая совместно Intel, SoftBank (через дочку SAIMEMORY) и японскими партнёрами (Fujitsu, PowerChip, Shinko Electric, Tokyo University, RIKEN), позиционируемая как прямой конкурент HBM для AI-датацентров. О ней в следующем посте.

Затем появился еще один человек (Filip) который все же взялся за дело серьезно, сделал плату, драйвера, ему помогали из самого framework с правками в прошивке чтобы его проект заработал. Судя по всему первым людям он высылал тестовые версии платы вообще бесплатно, а в замен те готовы рискнуть своим ноутом ее потестировать (а заодно убедить остальных что это не скам). И вот когда он только начал собирать заказы на предрелизную версию - фреймворк анонсит свою официальную версию этой платы. Реакцию сообщества угадаете?

В треде про разработку начали страшно хейтить, проклинать и даже призывать к байкотированию Framework за такое "свинство" - все в тайне содрали, ничего не сказали, а они тут с диванов три года страдали.
Разработчику пришлось успокаивать своих "защитников" и объяснить что вообще-то ему все заранее сказали еще в декабре )
Да и то что он сделал это несколько другой продукт (более сложный)

Все что вам надо знать о хейте в интернете:

В сооществе framework плату для oculink начали просить почти со старта 16ки, еще 4 года назад.

Не получив каких-то обещаний что он будет сделана люди начали лепить ее сами. Поначалу появился какой-то деятельный человек, но он похоже переоценил свои скилы и людей заскамил - насобирал деньги и разослал людям не рабочий прототип, а потом и вовсе пропал. Второй человек пошел по пути наименьшего сопротивления и сделал плату в M.2 слот на базе тех что существовали на али, только в размеры и форму чтоб влезало в FW. Пропускная способность там по-хуже получилась, да и слот под SSD лишним не будет. Тем не менее очень скоро кто-то скопировал его продукт и начал продавать на ebay, что последнего очень расстроило (хотя он все в опенсорс выложил под MIT. Но упомянуть его продавцы все равно могли бы).

Как думаете после скольки пользователей ляжет статический сайт на ESP32?

https://helloesp.com/

Пока держится

Выложили видосик подробный про черную PRO версию
https://www.youtube.com/watch?v=GnOpIQJnYWU

ожидаемо сайт фреймворка упал