Паразитное сопротивление

Сегодня хочу рассказать о наболевшем, а именно об использовании LLM в ежедневном рабочем процессе дизайнера микросхем.

Первое и главное — в обозримом будущем LLM не лишат уже имеющихся аналоговых дизайнеров куска хлеба, но серьезно затруднят джунам вход в профессию. Очень много простых задач больше не требуют помощника-человека.
Второе, вытекающее из первого — умелое использование LLM ускоряет много рутинных задач, и корпоративный аккаунт Claude или ChatGPT (а лучше оба) — must have.
Третье — не надо заменять что-то, кроме рутины. Творческие или просто сложные задачи нейронки решают плохо, и обычно проще сделать самому, чем разгребать то, что получилось. Лучше сконцентрироваться на том, чтобы научиться качественно давать LLM задачи, которые она заведомо умеет решать. И автоматизировать этот процесс.

У меня есть привычка время от времени проводить свежим LLM собеседование на джуниор дизайнера. Именно собеседование и именно по дизайну LLM ещё не проходят.
Помимо этого, недавно удалось посмотреть на попытку разработать специализированного агента для аналогового дизайна — результаты было грустными и смешными одновременно, даже на очень простых схемах.

Впрочем, кастомный агент уже неплохо справляется с генерацией тестбенчей и анализом тестового покрытия при аналоговой и mixed-signal верификацией. Все дело только за нормально написанной документацией — и вот тут-то экономия времени и сил при использовании LLM просто потрясающая.

LLM — прекрасный корректор. Проверка документа или набора документов на полноту, непротиворечивость, на совместимость пинов разных блоков, и так далее. Написание и отладка хороши темплейтов и процедур генерации займет какое-то время, но оно окупится с лихвой буквально через десяток блоков, которые надо будет документировать.

LLM "из коробки" также прекрасно анализируют и визуализируют данные, и это колоссальная экономия времени во время брингапа новой микросхемы. Разумеется, и тут результаты ещё лучше, если обложить сетку ограничениями и скиллами, чтобы она внезапно не меняла форматы и методы, а также не решала за вас, что именно вы хотите.

Из того, что делают все, и что мне не нравится — презентации. Узнаваемый водянистый стиль, который постоянно акцентирует не то. Впрочем, возможно, окружающим просто надо лучше промтить.

Ну и понятно, если вам надо что-то кодить, то Python можно больше не учить. Я ни черта не понимаю ни в одном языке программирования, но с Claude "написал" колоссальное количество тестов на основе одной программы, сделанной и отлаженной нашим тест-инженером. Совместная работа дизайнеров и тест-инженеров над брингапом микросхемы (для этого и нужен корпоративный аккаунт) — это, по состоянию на сегодня, самое выгодное применение LLM в моей ежедневной работе.

Азиатские и европейские биржи встретили утро понедельника пятипроцентным падением вообще всего полупроводникового сектора. Кажется, именно на такие случаи была придумана формулировка про наказание невиновных и награждение непричастных.

CEO Anthropic Дарио Амодеи написал статью, в которой призвал замедлить и зарегулировать развитие AI из соображений безопасности для человечества. Его немедленно поддержали Сэм Альтман и Илон Маск; более того, Альтман заявил, что выход OpenAI на биржу откладывается — именно из соображений безопасности.

Сравнивать Амодеи с академиком Сахаровым, получившим Нобелевскую премия мира за борьбу с ядерным оружием, которое он же сам и создал, я не буду, хотя такой путь к премии выглядит надёжнее, чем у Дональда Трампа. Важнее и интереснее в этой истории то, что злые языки (не буду показывать пальцем на зеркало) уже говорят о том, что истинный смысл этих заявлений в том, что у инвесторов, вкладывающих баснословные деньги в развитие AI, заканчивается терпение относительно того, когда же вложения начнут приносить дивиденды — и заканчивается желание вкладываться в гонку вооружений.

Самые злые языки уже даже заговорили о том, что "пузырь AI" лопнул. Так ли это, можно будет узнать уже в ночь с воскресенья на понедельник, когда самыми первыми откроются азиатские биржи. Никто из разработчиков больших моделей на биржах, разумеется, не представлен, так что главным пострадавшим станет микроэлектронная индустрия в лице крайне зависимых от AI производителей памяти, графических ускорителей и дальше по цепочке, вплоть до фаундри и поставщиков оборудования и расходных материалов для производства.

Более того, даже если тревога в итоге окажется ложной, завтра биржи все равно будет штормить. Не переключайте канал!

На моем любимом Youtube-канале Asianometry вышло прекрасное видео об устройстве современных роботизированных микроэлектронных фабрик и о том, как именно работает перемещение пластин между операциями — в герметичных контейнерах под потолком.

Самый заплюсованный комментарий — "Everything sufficiently nerdy, geeky or technical will eventually implement a rail system."
Только ссылки на установку Factorio не хватает.

Google работает над проектом Frozen V2 — специализированным ускорителем, оптимизированным под конкретную модель Gemini. Это довольно любопытный сигнал, потому что в последние годы индустрия ИИ в основном двигалась в сторону универсальности: ускорители становились всё мощнее, чтобы поддерживать всё больше архитектур и всё более крупные модели. Топовые LLM — монструозные конструкты, требующие датацентров как для обучения, так и для инференса, и развивающиеся со скоростью в недели, если не в дни. Так зачем же может быть нужно зашивать в кремний конкретную сеть, которая гарантированно устареет еще до начала производства?

Дело в том, что большой процент прикладных задач не требует передовых моделей. Рецепты вкусных обедов, суммаризация документов, переводы и множество других ежедневных задач могут прекрасно решаться простыми LLM. Есть и другая причина: некоторые задачи вообще нежелательно отдавать в облако. Деловые переговоры, корпоративные документы... Здесь важнее уже не качество модели, а приватность.

Гибкость аппаратной реализации критически важна в процессе обучения, но требования для инференса гораздо проще, и внедрение обновлений на фиксированную архитектуру — вполне разумная задача. Более того, если архитектура заранее известна, то можно позволить себе вещи, непозволительные для универсального ускорителя: агрессивную квантизацию, более простую организацию памяти, минимизировать перемещение весов между памятью и вычислительными блоками — то самое место, где современные LLM всё чаще упираются в энергопотребление и пропускную способность, а не в арифметику. В пределе можно вообще перейти к in-memory computing, где энергонезависимая память весов становится частью вычислителя.

Вообще, история микроэлектроники регулярно развивается именно так: cначала появляется новая вычислительная задача, которую выполняет универсальный процессор. Затем выясняется, что задача становится массовой, после чего она получает собственный специализированный блок. Так появились FPU и GPU, потом аппаратные кодеки JPEG и H.264, криптографические ускорители, а сейчас уже и NPU.

Google Frozen V2 — это попытка задать вопрос: а не подошли ли LLM к той же самой точке? Недавно нашумела работа, в которой LLM-генератор детских сказок на ночь запустили на микроконтроллере ESP32, используя различные приёмы хранения параметров во Flash вместо RAM. А как насчет вашего приватного переводчика в формате музейного аудиогида? Или личного секретаря внутри сопроцессора в мобильнике?
 
P.S. Дороже всего можно будет продать оффлайнового секьюрного AI-психотерапевта. Дарю идею в обмен на долю в вашем стартапе.

Акции ASML, да и всех микроэлектронных компаний вообще, существенно упали на фоне новостей о том, что "Китай запустил в серию DUV-литограф." Потенциальная независимость КНР от иностранного микроэлектронного оборудования — это потенциально очень важная новость, но к ней есть довольно много вопросов.
Первые разработки DUV в Китае начались больше двадцати лет назад, но:
Во-первых, китайская компания SMEE еще несколько лет назад обещала выпустить DUV-литограф для норм 28 нм, со словами "буквально через полгода". Время шло, а "полгода" все никак не сокращались, пока публичные заявления и даже утечки из прессы на этот счет совсем не прекратились.
Во-вторых, свежие новости касаются другой компании, Shanghai Aishengna Electronic Technology Group. Эта компания, в отличие от SMEE, государственная, и она, согласно публичным данным, консолидировала китайские команды, занимающиеся DUV, в том числе и из SMEE. Репорты говорят о плане поставить пять машин крупным китайским производителям в 2026 году и около 20 в 2027 году.
Китайские планы — штука противоречивая, и в целом вся китайская программа импортозамещения микроэлектронного машиностроения выглядит как некоторый технический прогресс, совмещенный с провалом в коммерциализации. Литография при этом с точки зрения внедрения выглядит хуже всего — другие виды китайских тулов, особенно для ''mature nodes" вполне себе внедряются, хотя и не вытесняют полностью иностранных конкурентов.

Вот и эту новость я бы, по крайней мере пока, читал как "есть прототипы, их отдают на тестирование." SMEE якобы были на этой стадии в 2022 году, но пройти дальше в итоге не сумели. Так что полагаю, что коммерческому лидерству ASML в ближайшие лет десять ничего не угрожает.

P.S. Не является инвестиционным советом: пока рынок в панике, может быть уместно покупать все, что упало.

Пока TSMC, Samsung, Intel и немного SMIC соревнуются в уменьшении проектных норм для цифровых вычислений, уже переходя от нанометров к Ангстрёмам, огромное количество вспомогательных и прикладных микросхем делается на гораздо более скромных и, главное, дешёвых технологиях.

В начале двухтысячных, когда процессорная индустрия перешла на 300 мм пластины, главной "рабочей лошадкой" для всех остальных стали нормы в 180 нм — хорошо отработанные, дешевые, более удобные в работе с питанием в 5 В, чем 130 нм, тоже производившиеся на 200 мм. Современные 180 нм процессы часто дооснащают специализированными компонентами, позволяющими делать прецизионные аналоговые схемы, СВЧ и высоковольтные чипы. Прямо сейчас на 180 нм делают и продолжают делать много полезного, включая микроконтроллеры, АЦП, дискретные силовые приборы и их драйверы.

Со временем, когда проектные нормы передовых цифровых чипов ушли ещё вперёд, в сторону FinFET, производство на 300 мм пластинах подешевело и оказалось для многих приложений экономически выгоднее, чем на 200 мм. В этот момент для микроконтроллеров и других cost-sensitive чипов стали привлекательны процессы 65/55 нм, на которых, например массово производятся чипы STM. Первый сугубо аналоговый фаб на пластинах 300 мм открыла ещё в 2009 году Texas Instruments.

В последние несколько лет в проектных нормах для дешёвых чипов случились сразу два интересных тренда:
1) Во время ковидного кризиса дефицит производственных мощностей снова сделал более привлекательными пластины 200 мм — просто потому, что они были в наличии.
2) Тренд на гетероинтеграцию передовых SoC потребовал большого количества вспомогательных компонентов, например интерпозеров и оптического интерконнекта. Производить эти компоненты оказалось наиболее выгодно на пластинах 300 мм с самым простым имеющимся в наличии литографическим оборудованием. То есть, по нормам 65/55 нм. В итоге, именно эти проектные нормы опять оказываются наиболее дефицитными из дешевых, и фабрики активно предлагают разработчикам дешевых чипов переходить на нормы 28/22 нм, которые и существенно дороже, и несколько менее удобны для построения нецифровых чипов.

Впрочем, STM делает новые микроконтроллеры уже на 18 нм, а Infineon и вовсе запустил производство дискретных транзисторов на пластинах 300 мм, так что принципиально экономика может сходиться и в таких условиях.

Вся та часть моей карьеры, которая прошла в России, была связана с микросхемами для космических применений. И все те годы я слушал одни и те же аргументы от прибористов и начальников всех мастей — "переходить на более тонкие проектные нормы для стойких к воздействию радиации микросхем нельзя". Причем было так даже в моменты, когда "более тонкие" — это было 350 нм, а аргументы обычно были такие, что не просто становилось больно, а очень хотелось схватить очередного государственного мужа за остатки седины и начать тыкать его лицом в свежие научные статьи и результаты экспериментов.

Высокопоставленный работник одной российской фабрики говорил в интервью, что сделать микросхемы для космоса на проектных нормах ниже 90 нм «технологически невозможно». Совершенно случайно так совпало, что технологически невозможно сделать что-то на нормах ниже 90 нм на этой конкретной фабрике. А на сайте другой российской фабрики довольно долго красовалось утверждение, что радиационной стойкости и вовсе нельзя добиться на проектных нормах ниже 600 нм, потому что иначе «заряженные частицы прошивают кремний». По удивительному совпадению, минимальными проектными нормами, доступными той фабрике, были как раз 600 нм, и даже наличие через дорогу университета, довольно активно изучавшего радиационную стойкость на куда меньших проектных нормах, этих людей не останавливало.

К чему это я, собственно говоря? Intel представили предназначенный для аэрокосмических применений чип Starfire: 8 CPU, 4GPU, 3 NPU, и все это на проектных нормах 18Å и 3 нм для разных чиплетов в составе SiP.

Видимо, все проблемы Intel последних лет от того, что они не читают интервью российских сановников от микроэлектроники.

AI-бум, несмотря на опасения скептиков, продолжается — и продолжает определять экономику всей полупроводниковой отрасли. Помимо основных выгодоприобретателей (производителей памяти и TSMC), в плюсе оказываются поставщики всего, что полезно для AI-датацентов (Infineon на днях открыли в Дрездене производство силовых дискретов на 300 мм пластинах) и даже вчерашние аутсайдеры фаундри-рынка.

Природа настолько очистилась TSMC настолько перегружен заказами на передовые проектные нормы, что их клиенты вынуждены обращаться к другим поставщикам. Samsung Foundry, согласно свежим слухам, получили контракты с AMD, Google, Tesla и BYD. Двое последних особенно интересны, так как речь идет про Automotive-grade процесс 8 нм.

По итогам такого везения, Samsung анонсировали полную загрузку своих мощностей и, впервые за долгое время, возврат (в следующем квартале) к прибыльности фаундри-подразделения. Выходу на прибыльность поможет повышение цен, которое Samsung теперь может себе позволить, даже несмотря на все еще существенно более низкий, чем у TSMC, выход годных.

OpenAI и Broadcom представили чип Jalapeño.

Занятно, что буквально пару месяцев назад Broadcom подписала договора с Meta на разработку чипов для инференса и обучения, а еще раньше — аналогичное соглашение с Microsoft.

Подробностей в пресс-релизах мало, но можно понять, что чип OpenAI предназначен только для инференса, а значит для удешевления пользовательских услуг. При этом, он не залочен на какую-то конкретную нейронку, а будет поддерживать "current and future LLMs across the industry". Последнее особенно интересно. Хочет ли OpenAI стать поставщиком "железа" для конкурентов? В любом случае, амбиции Альтмана ужались от гигафабрик до вполне реального чипа, произведенного на TSMC и занимающего, судя по фото, целиковое окно литографа (850 кв.мм.)

Согласно релизу, разработка программно-аппаратного компекса велась с широким использованием LLM (и ведь никто не скажет, где именно!) и заняла всего девять месяцев, что вдвое быстрее разумного, даже с учетом широкого переиспользования экспертизы Broadcom.

В Воронеже разрушился главный корпус "ВЗПП-С".

Воронежский Завод Полупроводниковых Приборов-Сборка - одно из крупнейших в РФ микроэлектронных предприятий, занимающееся производством дискретных приборов, модулей на их основе, а также корпусированием интегральных микросхем, в том числе импрозамещающих ПЛИС.

Продолжающийся бум AI ставит перед менеджментом полупроводниковых компаний новые интересные задачи.

Профсоюз производящего память подразделения Samsung угрожал устроить трехнедельную забастовку, если вымотанные постоянными переработка и сотрудники не получат справедливую долю из сверхприбылей, получаемых компанией. Такой простой не только принес бы компании огромные убытки, но и мог бы поставить под угрозу намечающиеся большие сделки (например с NVIDIA).

После собравшего около сорока тысяч человек митинга и предупредительной забастовки в течение одной ночной смены, удалось достичь соглашения, аналогичного тому, что незадолго до того получили сотрудники конкурентов из SK Hynix: больше 10% операционной прибыли будет направлено на бонусы сотрудников. Ожидаемые суммы — порядка четырехсот тысяч долларов на человека в год.

Впрочем, сделка ещё до вступления в силу оказалась под угрозой. Не только потому, что в SK Hynix ещё повысили выплаты, но и потому, что в других подразделениях Samsung бонусы составили около четырех тысяч долларов. В том числе в подразделении, занимающемся упаковкой памяти.

Интересно, наверное, быть менеджером в Samsung.

В порядке культурного самообразования посмотрел все фильмы про Джеймса Бонда (спорный опыт, в целом не рекомендую).

Электронные гаджеты часто играют важную роль в сюжете, а “A View to a Kill” (1985) целиком построен вокруг планов главного злодея захватить экономическую власть в мире через монополию на производство передовых микросхем. Добиться этой монополии он планирует, уничтожив Кремниевую долину.

В фильме есть смешные детали вроде зрелищной погони за украденным для реверс-инжиниринга чипом и совмещения фотографий оригинальной микросхемы и советской копии.

В 1985 году говорить о том, что уничтожение Кремниевой долины повлечет коллапс мирового производства микросхем, уже было натяжкой — Япония была на пике, у Intel уже были заводы в Аризоне и в Израиле, а IBM занималась производством на восточном побережье с шестидесятых. ITRI на Тайване уже работал, а Роберт Цао уже основал первую из больших тайваньских фабрик — UMC, CEO которой был в 1985 году Моррис Чанг. До основания Чангом TSMC оставалось меньше двух лет.

Впрочем, подобные упрощения для блокбастера вполне понятны, да и разговоры о том, как захватить мир, нейтрализовав один центр микроэлектронного производства, никуда не делись — просто, спустя сорок лет, место Калифорнии занял Тайвань.

P.S. В самом конце Бонду за спасение Кремниевой долины вручают орден Ленина. В ответ на удивленный вопрос представители КГБ со смехом говорят, что советская микроэлектронная наука в их лице без Кремниевой долины никуда.

P.P.S. Пирс Броснан > Тимоти Далтон > Шон Коннери > Дэниэл Крэйг > Роджер Мур

Айтишная часть зарплатного гайда IC Resources тоже довольно интересная. Быть разработчиком микросхем не менее выгодно, чем делать приложения для айфона, но если вы умеете в что-то, связанное с AI, вы на коне.

Рекрутинговое агентство IC Resources (рекомендую, кстати, они отличные), выпустило очередной гайд по зарплатам в электронике и смежных отраслях.

Гайд касается Юкей и на первой же странице говорит, что на континенте платят лучше, но, как первое приближение, вполне репрезентативен.

Решительно все профильные новостные сайты процитировали фразу Chief Scientist NVIDIA Билла Дэлли о том, как ИИ помог уменьшить объем работы по портированию цифровых библиотек с процесса на процесс с 80 человеко-месяцев до одной ночи на одном GPU.

Звучит крайне увлекательно, но есть некоторые сомнения. Сразу оговорюсь, что цифровые библиотеки на 2-3 нм я никогда не разрабатывал и не портировал. Мой личный минимум по обеим задачам — 65/55 нм, плюс я относительно недавно заказывал портирование у внешнего подрядчика.

Во-первых, задача именно портирования библиотек прекрасно автоматизируется безо всякого ИИ. Основная головная боль там - DRC, а генерацию топологии можно заскриптовать, что сразу уменьшает объем работ по переносу на порядок (если процессы сходные). В общем, даже для очень передового процесса 80 человеко-месяцев выглядят ка дизайн с нуля в чистом поле, а не портирование с процесса на процесс.

Во-вторых, очень большую долю затрат (и человеческих, и вычислительных) в разработке и портировании библиотек занимает не собственно дизайн, а верификация и характеризация. И вот тут, даже если "overnight on one GPU" — это реальная скорость портирования, то сделать полноценную характеризацию большой библиотеки за это время с такими ресурсами физически невозможно.

В-третьих, эта конкретная задача сводится к хорошо очерченной многопараметрической оптимизации, которая является для ИИ очень удобной задачей. Не случайно именно на сходных задачах ИИ достиг самого большого прогресса — в рисовании пиксельной топологии СВЧ-фильтров, в расстановке блоков в топологии и т.д. Поэтому конкретный пример портирования цифровой библиотеки не может быть объективным маркером применимости ИИ к дизайну микросхем вообще. В том же интервью Дэлли сказал, что NVIDIA также использует обученный на корпоративных базах ИИ в качестве энциклопедии для джунов — но не для собственно написания RTL.

Так что цитата звучит красиво и хайпово, но выглядит как сравнение теплого с мягким.