Embedded Doka

Интересно при чтении нехудожественных книг сопоставлять те или иные описанные в них явления с собственным опытом либо фактами из окружения.

"Парадокс безработицы" из Теории Игр рационально объясняет почему рыночные законы таковы, что всегда будет присутствовать безработица. Если интересно, то объяснение "на пальцах" быстро нагуглилось. Кому интересно, но лениво читать - можете заглянуть в 1й коммент.

В связи с этим приобретённым знанием, смотрю теперь через новую призму на ситуацию массового переманивания сотрудников (а то и целых команд) на кратно б0льшие деньги одной зелёной организацией у другой организации, которая любит/умеет/практикует нанимать и привозить себе сотрудников из регионов 🤦‍♂️

@embedoka

Попалось в рекомендациях видео с интересной точкой зрения (вполне годно смотреть на 2х).

Вспомнил как мне 15 лет назад рассказывали про ежегодный ритуал кровопускания в московском Huawei:
каждый год компания избавляется от 10-15% инженерного штата, чтобы эти места заняли новые сотрудники.

Кажется, и там и тут целеполагание одно: получить более мотивированных сотрудников (что в принципе имеет место быть: сравните производительность сотрудника на испытательном сроке и после 10ти лет в компании (или вспомните себя в таком кейсе)).

@embedoka

Для меня это столь же мило как и пасхалочки в топологии микросхем 😃

Ну и, конечно, "национальность" патента угадывается с первой картинки, а кому интересны подробности вот фулл:

🗒 Method and apparatus for brain wave inducing system

#пятничное
@embedoka

USB-B male to Type-C female

Вот он: переходник мечты моей 😍

Нужен такой кабель раз в ~10 лет, но когда становится нужен - не найдёшь 😭

А тут компактное решение в виде адаптера: можно хранить в коробке с переходниками или прямо в USB-B порте тех девайсов, для которых он может понадобиться 🙃

PS: На али в ассортименте и нонейм варианты задёшево (искать по printer adapter usb type-c)

@embedoka

Этого, конечно, следовало рано или поздно ожидать, но запасаемся попкорном и гадаем будет ли снята 2я часть: LLM от DeepSeek на Arduino? 😅

источник
@embedoka

> ollama run deepseek-r1:70b

Q: Сейчас 2025 год, мне 17 лет и я хочу выбрать карьерный путь: я решил что не буду получать высшее образование, а хочу заняться одним из двух: освоить программирование Arduino и разработку электроники или освоить Javascript и уйти в индустрию IT. Что ты бы мне мог посоветовать: что из этого более перспективно для карьеры?

A: В 2025 году, при выборе карьерного пути без высшего образования между освоением Arduino/электроники и JavaScript/IT, более перспективным вариантом будет изучение JavaScript и进入 IT-индустрии. Это связано с высоким спросом на специалистов в этой области, широким спектром вакансий и возможностью быстрого стартаthanks к большему количеству обучающих ресурсов и курсов. Однако, если вы увлечены электроникой и хотите создавать физические устройства, Arduino тоже может быть хорошим выбором, но с учетом нишевых рынков и необходимости дополнительных знаний в области аппаратного обеспечения. Удачи в вашей карьере!

(на скрине режим <think> "внутреннего диалога" LLMки? 🤯)

@embedoka

Вдогонку к бенчмарку: классный онлайн-калькулятор, способный ответить на вопрос сколько вешать в граммах сколько точно памяти нужно для запуска того или иного инференса LLM-модели с учётом заданного квантования, KV-кеша, размера батча и много чего еще:

💾 https://llm-system-requirements.streamlit.app/

Очень здорово, что можно оценить размер хотелок заранее для тех, кто планирует локальную эксплуатацию инференса, и потихоньку начать копить на нужный сетап 💰

@embedoka

В свободное время начал шатать LLM'ки на локальном железе. Кажется еще чуть-чуть и пересекутся две кривые: доступность мощных и предобученных моделей для решения широкого круга задач (локально) и дешевое железо для их запуска.

Вот тут писали про использование Phi-4 для FPGA-разработки (там в комментариях еще сгенерённый код двухклокового FIFO). Что примечательно, эта Phi-4 по размеру влезает в стоковый Mac mini M4 за $600 и позволяет все эти же упражнения делать локально.

Сейчас у меня две платформы, чтобы потрогать разные LLM "дёшево и сердито и вмещается в рюкзак с ноутбуком 😅":
▫️Mac mini M4 (16GB 120GB/s)
▫️NUC-подобный х86 со встройкой Radeon 780M (96GB 60GB/s)

У эппла самая большая проблема - фикс размера ОЗУ (притом без 100% предоплаты доступны только базовые версии), но если всё упирается в её пропускную способность или есть возможность задействовать в дополнении к GPU еще и NPU (как в случае с Whisper) - тут конечно в своей ценовой категории мак мини вне конкуренции).

Еще наткнулся на довольно исчерпывающий бенчмарк LLM'ок на широком спектре оборудования. В конце бенчмарка приведено заключение:

▫️Покупайте геймерскую серию от NVIDIA, если хотите сэкономить
▫️Берите серверную версию NVIDIA, если у вас бизнесовые задачи
▫️Возьмите макинтош, если не хотите заморачиваться с обслуживанием и хотите тишины и энергоэффективности (и говорить всем, что у вас мак 😃)

❓Инженеры, а какие LLM и для каких задач вы используете локально на машине: поделитесь в комментариях.

@embedoka

Single-LED UI/UX interface в девайсах

Свыше двух лет назад поднимал эту тему (рекомендую к прочтению). И тту попался совершенное феерический
UX интерфейс одноцветного светодиода в хранилищах WD NAS.

Как говорится, добавив ШИМ к LED, получаем воистину безграничные возможности, а эта ваша азбука Морзе. Что в ассортименте:

▫️Выкл
▫️Вкл
▫️Медленное мерцание
▫️Быстрое мерцание
▫️Пульсация
▫️Быстрое моргание

- Странно что нет медленного моргания и непонятно как отличить мерцание от пульсации неподготовленному к таким развлечениям пользователю. Есть идеи по поводу того почему был выбран именно такой вариант ❓
(помимо классического: инженер - немного художник: он так видит 😆)

@embedoka

Пользуясь случаем, поздравляю всех участников канала с неотвратимо наступающим! 🎩

Спасибо за то что читаете, репостите и даёте обратную связь в комментариях, всегда с интересом читаю ваши идеи и советы 😍

🔝Самый популярный пост: про сотовую связь в космосе.

⚠️ По уже ставшей ежегодной традицией, в комментариях к этой записи можно написать каких материалов на канале не хватает и вообще что бы вы хотели видеть - кто знает: быть может именно вы подкинете свежую идею?

DIY по-русски:

Конструктор ВАЗ-2107 для сборки лицами, достигшими 18лет + LED-панели управляемые по протоколу HUB75 c Raspberry Pi

Действует спец.предложение: собери по прилагаемой инструкции конструктор и получи шанс полгода ходить пешком 😄

@embedoka

.. ну и конечно: "тагильские школьники запустили Doom на транспортной карте с помощью простого советского..."

#пятничное
@embedoka

Бенчмарк Whisper.cpp на 60-минутном файле с русской речью:

▫️large-v3 [GPU]: 15:40 (4x)
▫️large-v3-turbo [GPU]: 5:45
▫️large-v3-turbo [GPU+NPU]: 3:20 (18x)

Как видно из цифр и скрина: использование NPU (ANE - Apple Neural Engine) не только ускоряет инференс, но и существенно повышает энергоэффективность.

А теперь о болях:
при помощи утилиты мониторинга видно, что температура чипа под нагрузкой достигает неприличных цифр, при этом вентилятор продолжает работать бесшумно. Это всё потому, что вентилятор крутится на 20% от полной мощности и никакими ухищрениями (штатными настройками макоси) не получилось сдвинуть эту настройку с мёртвой точки. Конечно же с точки зрения Эппла это не баг, а фича (ведь ваш мини будет оставаться бесшумным при любых нагрузках, охраняя ваш чуткий сон), но мною это воспринимается как подлый запрограммированный износ и ограничение доступа к железу.

И о решении этой боли:
Нужно всего лишь купить😄 одну из двух существующих на сегодняшний день программ для контроля оборотов вентилятора (TG pro или macsfancontrol). Более того - обе программу существуют только в виде GUI-варианта. Это просто счастье неимоверной величины, о котором я не мог мечтать сидя под линуксом на "железе простолюдинов"😃

Программы конечно красивые и считывают несколько десятков температур различных комплектующих макмини, но мне-то нужна единственная фича: поддать газку на единственной вертушке 🙏

PS: Пока сижу на триале и, кажется, знаю что себе на рождество подарю 🤬
(быть может за две недели еще какие-то моменты всплывут, требующие срочной покупки супер-навороченной программы с супер-красивым GUI 😳)

@embedoka

Не было у бабы забот, да купила баба порося* (с)

Все так нахваливали Apple Silicon M4, что я не удержался и взял себе в качестве подарка на НГ Mac Mini в минимальном сетапе.

Назначение: headless-сервачок для разных payload, который удобно возить с собой. Изначальный план был взять M4 pro c 48GB RAM, чтобы поковыряться on premise со всякими интересными LLM (но выяснились детали: вы можете купить любой кастом от эппла, но только по предзаказу и полной предоплате, так что я решил взять миник на минималках, чтобы решить насколько оно мне надо, а там уже по ощущениям пропгрейдиться до M4 pro или до еще невышедшего Mac Studio M4 Max). Т.е. сама идея концепта привлекла: вместо того чтобы обзавестись GPU с PСI-e концом (и ломать голову над тем куда этот конец можно пристроить) взять CPU+GPU c монолитной широкой шиной к памяти: и пусть две 4090 с 24ГБ будут в 20х быстрее чем M4 pro c 48GB - с учётом всех обстоятельств я готов к этому компромиссу.

какие еще хайлайты у Mac Mini M4:
▫️он действительно мелкий и не сильно много места занимает в рюкзаке с ноутом
▫️(наконец-то😃) теперь любой мак начинается с 16ГБ ОЗУ - за ту же цену
▫️более-менее бодрый NPU (который позиционируется под Apple Intelligence, но народ наловчается использовать его и для кастомных МЛ нагрузок)


*Все знают что пользователи техники эппл должны страдать. В следующем посте - о том как именно это происходит в данном случае.

@embedoka

#пятничное
@embedoka

Недавно в поездке в Европу со мной приключилась история: по прилёту выяснилось, что мой основной (а в поездке - единственный) рабочий инструмент (ноутбук Dell Latitude) отказался включаться. Неисправность, которая была диагностирована на основе перемигивания белым и оранжевым светодиодами при попытках включения, говорила о проблемах с памятью ОЗУ.

Что ж, тут возраст ноутбука сыграл мне на пользу: ведь только устаревшие ультрабуки оснащены съёмными модулями ОЗУ (в моём случае это один слот формата SODIMM DDR4).

1️⃣ Поиски плашки
Казалось бы что могло пойти не так вечером буднего дня в одной из столиц ЕС: приходишь в магазин и покупаешь любую (из наличия) плашку SODIMM DDR4. Посмотрел на картах ближайший компьтерный магаз - им оказался MediaMarkt. Зашёл на сайт и, выбрав нужный адрес, сделал поиск заветной плашки. Убедился что плашки в магазе и бодро потопал, чтобы уже в магазе узнать о том, что "такое" у них конечно есть, но с пылу-с-жару оффлайн такое не купить - надо делать предзаказ онлайн 😭 (в общем, современная парадигма: оффлайн магазин - это шоу-рум и пункт вывоза заказов. Есть номинальное количество товаров, но всё оно на прилавках). Про альтернативные магазины, где, возможно, "в наличии" консультанты подсказать затруднились.

2️⃣ Поиски звезды
Во время этой беготни и поисков выяснилось, что у одного из коллег ноутбук с двумя слотами и он мог бы поделиться. Но засада поджидала в другом месте: чтобы извлечь заветную плашку крестовой отвёртки оказалось недостаточно: пентахол/гексахол/torx надёжно защищал внутренности ноутбука от любопытных. Я, конечно, попробовал попытать счастья, зайдя в лавку торгующую мобильными телефонами - но владелец-араб знатно офигел от моего "скрюдрайвер" и не мог врубиться что я хочу 🙈 (видимо нечасто у него такое спрашивают).


Надо ли говорить, что оживить ноут я смог лишь по возвращению? 😭

Есть ли мораль у этой истории? А это как посмотреть: ранее я перед каждой поездкой защищался от риска, связанного с повреждением информации либо выходом из строя SSD и делал бэкап перед вылетом, теперь же я буду докучи к этому таскать такой вот наборчик "тревожного человечка" 🥹

PS: Для рисков, подобных описанному, наклёвывается более продуманное решение - предлагаю обсудить его в одном из следующих постов.

@embedoka

#пятничное
@embedoka

oreboot is a fork of coreboot, with C removed, written in Rust.

- считаю это переименование одним из лучших каламбуров среди римейков того, что было переписано на Rust 🤣🤣🤣

@embedoka

#пятничное
@embedoka

#пятничное
@embedoka