Гостев из будущего

ИИсторИИ / Глава вторая

Следующая глава ИИсторий — о LLM-файроволле.

Старая логика защиты данных была простой: данные куда-то уходят — мы это видим и останавливаем. Файл отправлен, ссылка открыта, документ прикреплён. Есть событие, есть след, есть точка контроля.

С промптами этой точки нет. Данные никуда не «уходят» в привычном смысле. Они просто читаются. Моделью. Где-то в облаке. И что с ними происходит дальше — в логах обучения, в инфраструктуре поставщика, в кэше сессий — не знает никто, включая самого поставщика, если читать его условия использования внимательно.

LLM-firewall — это попытка починить эту сломанную логику. Поставить пограничника там, где раньше пограничника не требовалось.

История о том, как одна компания внедряла.

На очередной встрече директор по цифровой трансформации радостно сообщил, что компания «перешла к управляемому использованию генеративного ИИ». Служба безопасности сказала, что риски «существенно снижены». Бизнес сказал, что продуктивность «потенциально выросла». Юристы сказали, что нужно обновить политику обработки данных. HR предложил провести обучение.

Ранее:
Глава 1. Человек из будущего

@gostev_future #ИИстории

На ПМЭФ Сбер показал первый российский оптический вычислитель для задач ИИ — устройство, которое выполняет одну из ключевых операций нейросетей не электрическим током, а светом. Звучит как фраза из советского научпопа про 1987 год, но физика здесь вполне настоящая.

Чип предназначен для матричного умножения. Если коротко: нейросеть большую часть времени перемножает огромные таблицы чисел. Именно поэтому современные ИИ-центры пожирают электричество, греются и требуют всё больше GPU. Фотоника предлагает другой путь — часть вычислений выполняется за счёт прохождения света через оптическую схему. Не потому что «свет умнее электронов», а потому что в некоторых задачах он позволяет быстрее и экономнее выполнять массовые параллельные операции.

По заявлению Сбера, первый прототип делает больше миллиарда операций матричного умножения в секунду, а энергопотребление оптического ядра на 30% ниже электронных аналогов. Целевой ориентир — частота оптических операций выше 10 ГГц.

В мире это не уникальная технология: американская компания Lightmatter делает фотонные решения для AI-инфраструктуры — в основном вокруг межчиповых соединений, а не ровно такого же «матричного вычислителя». Британский стартап Lumai заявляет до 90% снижения энергопотребления по сравнению с GPU-архитектурами на задачах инференса. Оба работают с коммерческими продуктами, Сбер — с прототипом. Разрыв есть.

Но главный смысл новости не в том, что Сбер догнал Запад. Не догнал.

Смысл в другом: это поиск обходного пути. Оптические чипы не требуют EUV-литографии уровня TSMC 3нм, поэтому производство реально на более доступных процессах. Фотонные вычислители, по крайней мере теоретически, дают шанс вынести часть задач в архитектуру с другими производственными требованиями. Сбер прямо говорит об этом: «производство оптических чипов локализуется проще, чем электронных».

Реальный это прорыв или красивая презентация на форуме — покажет следующие два-три года. Путь от прототипа до серийного чипа в электронике занимает именно столько, и большинство громких анонсов на этом пути тихо заканчиваются. Но направление правильное — ИИ всё чаще упирается не в умные модели, а в электричество и доступ к чипам.

@gostev_future

ИИсторИИ / Тизер первой главы

Кибербезопасность вообще плохо работает как амулет. Нельзя купить дорогую систему, поставить её в стойку и считать, что злые духи теперь обойдут компанию стороной.

Слил не интеллект. Слил человек. Интеллект просто оказался удобной трубой, в которую этот человек вылил ведро корпоративных секретов.

Главная уязвимость любой организации — управленческая иллюзия, что всё под контролем. Она не детектируется антивирусом.

Будущее редко выглядит футуристично, когда наступает. Оно приходит как очередной инцидент — и кто-то должен его разобрать.

@gostev_future #ИИстории

Возможно, вы слышали про книгу под названием «Вирьё моё». Это производственный роман про невидимые хакерские войны последних двадцати лет — про то как 376 байт по имени Helkern положили Южную Корею на пять часов, как Stuxnet вырубал заводы по обогащению урана, как банды вирусописателей превращались в индустрию или садились в тюрьму, что иногда было одно и то же.

Книга получилась про прошлое, и заканчивалась она на относительно спокойной ноте. Интернет работал. Глобальной эпидемии, которую мы ожидали по своей семилетней синусоиде, не случилось. ИИ только начинал подавать голос — больше в академических статьях, чем в корпоративных чатах.

Это длилось недолго.

Пока вы читали ту книгу, всё, о чём мы писали как о «завтра», стало «вчера». ИИ-пентесты, про которые мы говорили как о несуществующей индустрии, теперь существуют. Ошустренные вещи продолжают косячить — только теперь они косячат умнее и дороже. Граница между атакующими и защищающимися стала такой тонкой, что иногда не понять, кто есть кто, особенно если обе стороны пользуются одной моделью.

В «Вирьё моём» у меня был соавтор, который умел задавать правильные вопросы и объяснять сложное простыми словами. Здесь тоже есть соавтор. Только теперь это не человек.

Это тот самый ИИ, про которого написана вся книга.

Он помогал формулировать, уточнять, проверять логику и находить слова там, где у меня заканчивалось терпение. Я не уверен, что он понимал, о чём пишет. Зато я уверен, что именно это делает его идеальным соавтором для книги про ИИ: он не паникует, не устаёт и не требует повышения зарплаты. Просто иногда уверенно ошибается.

Та книга была документальной прозой — всё, что было, как было, с лёгкой гримировкой имён. Эта устроена иначе.
Истории здесь не настоящие. Точнее — пока не настоящие. Компании выдуманы, имена вымышлены, инциденты сконструированы. Но сконструированы из деталей, которые уже существуют: реальных уязвимостей, реальных решений, реальных ошибок, которые индустрия уже совершает или вот-вот совершит. Это не репортаж с передовой. Это разведка боем — туда, куда передовая движется.

Про Helkern говорили: это меняет всё. Потом Stuxnet — снова меняет всё. Теперь ИИ. И снова — это меняет всё.
Меняет. Только не всё, и не сразу, и не так, как думают на конференциях.

Эта книга — про то, как именно. Про компании, которые скармливают корпоративные секреты нейросетям, не понимая что делают. Про антивирусы, которым дали право стрелять, и которые иногда попадают в своих. Про датасеты, пришедшие с чужой войны и принёсшие с собой чужую грязь. Про ботов, возвращающих деньги слишком охотно. Про роботов, которых страшно уволить, потому что никто не знает, что они делают.

Безопасность в эпоху ИИ — это не новая коробка с красивым градиентом на крышке. Это та же старая работа с логами, людьми и ошибками. Только теперь ошибки масштабируются с нечеловеческой скоростью.

Читатель, скорее всего, уже в теме. Вы либо безопасник, либо разработчик, либо руководитель, которому надоело получать красивые презентации про AI-революцию без единого конкретного ответа на вопрос «а что мне с этим делать».

Если какая-то история покажется вам знакомой, это не совпадение.

Дятлы продолжают долбить.

Просто теперь рядом с ними сидит машина, которая долбит быстрее.

И иногда — не в то дерево.

@gostev_future #ИИстории

Сегодня записали первые эпизоды шестого сезона подкаста «Смени пароль».
Шестого. Я тоже немного удивлён.

Начали, конечно, с ИИ — а как иначе. За полгода каникул всё очень сильно изменилось. И меняется настолько быстро, что я решил не тянуть.

Буду выкладывать по одной главе из новой книги — пока она не устарела. В этом жанре промедление равно устареванию. Публикую в teletype, здесь анонсы.

Следующий пост — тизер вместо предисловия.

@gostev_future #ИИстории

Про Цейсса, в отличие от ASML, все слышали. Но истинный творец успеха и Zeiss, и ASML — совсем другой человек. Куда менее раскрученный, чем Никола Тесла или Эдисон.

Его звали Эрнст Аббе, и в историю он вошёл как партнёр Карла Цейсса. Родился в 1840 году в Эйзенахе — том самом городе, где родился Бах. Отец работал на прядильной фабрике, семья была бедной. Способности мальчика заметил владелец фабрики и оплатил его образование. Аббе блестяще окончил университеты Йены и Гёттингена, стал преподавателем физики — с типичной для провинциального учёного XIX века смешной зарплатой и туманными перспективами. В 1866 году Цейсс пригласил его в свою мастерскую — и именно это партнёрство изменило всё.

До Аббе производство оптики было ремеслом в буквальном смысле: мастер шлифовал линзу, смотрел в неё, шлифовал ещё. Почему одна линза даёт чёткое изображение, а другая — нет, никто не мог объяснить математически. Аббе это объяснил. Он вывел теорию дифракционного формирования изображения — впервые в истории оптику можно было рассчитать на бумаге до того, как взять стекло в руки. Вместе Цейсс и Аббе перевели производство оптики из ремесла в науку. Это был переход от алхимии к химии, смена эпох.

Позже Аббе сформулировал предел разрешения микроскопа — доказал математически, что увидеть объект тоньше половины длины волны света принципиально невозможно. Этот предел носит его имя до сих пор. Ирония в том, что именно борьба с пределом Аббе привела к созданию EUV-литографии: чтобы печатать всё более тонкие транзисторы, пришлось уменьшать длину волны — до экстремального ультрафиолета. Вся современная полупроводниковая гонка — это попытка обойти открытие Аббе.

Карл Цейсс умер в 1888 году, и Аббе унаследовал компанию. Он был убеждённым социалистом: считал, что богатство, созданное коллективным трудом, не должно принадлежать одному человеку. Вместо того чтобы стать очень богатым, в 1889 году он создал Фонд Карла Цейсса и передал ему всё предприятие. Устав был революционным: восьмичасовой рабочий день, оплачиваемые отпуска, пенсии, участие рабочих в прибыли и запрет на продажу компании — всё это за 30 лет до того, как стало нормой. Себе Аббе оставил скромную зарплату директора — не больше, чем получал раньше.

Фонд работает по этому уставу до сих пор. Пережил две мировые войны и разделение Германии — Zeiss был разорван между Западом и Востоком и воссоединён только после 1990 года.

Купить Carl Zeiss AG нельзя в принципе — её некому продавать. Фонд не является коммерческим владельцем в обычном смысле, он существует по уставу Аббе и не имеет права продавать компанию. Нет продавца — нет сделки. Именно поэтому ASML смогла войти лишь в дочернюю структуру Zeiss SMT с долей 24,9% — и то это скорее стратегическое партнёрство, чем контроль. Выше немецкое законодательство просто не пустило бы.

Аббе умер в 1905 году. Он не знал ни про транзисторы, ни про чипы. Просто хотел делать хорошую оптику и справедливую компанию. Случайно создал самый надёжный защитный механизм для самого стратегического актива современной цивилизации. Никакие юристы и инвестбанкиры специально не смогли бы придумать ничего лучше.

@gostev_future

Ещё в продолжение темы про ASML.

— Минуточку! — скажет проницательный читатель. — Похоже, что всё самое важное в ASML завязано на Zeiss?!

И будет прав.

ASML хотя бы теоретически можно попытаться дублировать или перенести. Zeiss — нет. Это единственная компания в мире, способная делать зеркала с нужной точностью для EUV. Не «лучшая из нескольких» — единственная. Точность шлифовки их оптики настолько экстремальна, что это скорее искусство, чем индустрия — накопленное за десятилетия ремесло конкретных людей в конкретном месте в Оберкохене, маленьком городе в Баден-Вюртемберге.

Zeiss не производит зеркала на каком-то уникальном станке, который можно погрузить в контейнер. Zeiss производит зеркала на станках, которые сделали другие немецкие компании — под заказ, с точностью под конкретные задачи. Те станки сделаны на станках третьего порядка. Это рекурсия. Чтобы вывезти производство Zeiss, нужно вывезти половину немецкого машиностроения.

Zeiss при этом остаётся частной компанией — ею владеет Фонд Карла Цейсса, созданный ещё в XIX веке. Структура собственности специально устроена так, чтобы компания не могла сменить хозяина. Об этом напишу подробнее отдельно.

Так что вся цепочка выглядит примерно так: Zeiss → ASML → TSMC/Samsung/Intel → весь технологический мир. Один частный немецкий фонд в маленьком городе держит за горло глобальную полупроводниковую индустрию.

@gostev_future

Почему ASML невозможно украсть, купить — и невозможно застраховать

Монополия ASML кажется абсолютной. Но у самой защищённой компании мира есть уязвимости, которые не решаются деньгами.

Почему США не забрали её себе? Могли бы попробовать — американские фонды держат около 30% акций. Но физически перевезти производство невозможно: машина EUV существует только внутри европейской экосистемы поставщиков. Оптика — в Германии. Механика — в Нидерландах. Лазеры — снова Германия. Это не завод, это знание, распределённое по континенту. Переехать в Техас — не значит увезти технологию. Плюс Евросоюз заблокирует любую попытку поглощения как угрозу стратегическому суверенитету. Впрочем, зачем покупать, если через экспортный контроль США и так диктуют, кому ASML имеет право продавать?

Почему Китай не украл технологии? Пытался. В 2018 году бывшие сотрудники ASML были обвинены в краже данных в пользу китайской компании. Нидерландская разведка фиксирует промышленный шпионаж регулярно. Но украсть чертежи бесполезно: технология живёт не в документации, а в людях. Тысячи инженеров ASML носят в головах знания, которые нигде не записаны. Без них чертёж — просто бумага. Кроме того, даже полная документация не поможет воспроизвести зеркала Zeiss — уровень точности, который Германия накапливала 30 лет. Каждый компонент — отдельная монополия. Украсть одно звено не значит украсть цепь.

Реальные слабые места:
Главный завод — в одном городе. Пожар, авария, теракт — и вся мировая полупроводниковая индустрия встаёт. Zeiss в Германии — единственный поставщик критичной оптики, и альтернативы ему нет в принципе.

Политическая хрупкость. Компания зависит от того, чтобы Нидерланды, США и Германия одновременно оставались союзниками и проводили согласованную политику. Любой серьёзный разлом в западном альянсе создаёт юридический и логистический хаос для цепочки поставок.

Наконец, несколько сотен ключевых инженеров буквально держат компанию в голове. Их переманивание — не абстрактный риск: именно поэтому ASML платит одни из самых высоких инженерных зарплат в Европе.

ASML одновременно — самая защищённая и самая уязвимая компания в мире. Защищена от конкуренции и копирования так, как не защищён никто. Но уязвима именно потому, что стала незаменимой: весь мир завязан на одну точку, и любой сбой в ней — глобальная катастрофа. Это называется системный риск. И пока никто не придумал, как от него застраховаться.

Так в чём же заблуждение Натальи Ивановны?

Она смотрит на юридическую прописку — Нидерланды. Но если смотреть на капитал, компоненты и контроль, картина обратная: ASML это американский актив с нидерландским паспортом. США не зависят от Голландии — они контролируют голландскую компанию через три независимых механизма одновременно: собственность, технологии и экспортное право.
Именно поэтому, когда Вашингтон решил отрезать Китай от передовой литографии, он просто позвонил в Гаагу. И Нидерланды ввели запрет. Независимая страна с независимой компанией так себя не ведёт.

Другой вопрос — и вот тут моя позиция о дуополии США и Китая становится сложнее — что физически воспроизвести эту цепочку внутри США тоже невозможно. Это означает, что у США есть контроль, но нет автономии.

Так что, возможно, правы мы оба: мир идёт к дуополии на уровне рынков и политики, но на уровне физического производства он безнадёжно многополярен. И ASML — лучший тому пример.
 
@gostev_future

Пару недель назад я дал обширный комментарий для Независимой Газеты на тему того, как будет выглядеть ИИ-мир — в лучшем случае дуополией США и Китая.

А тут Наталья Ивановна сходила на подкаст IT-Frontier от Астры. Я сел смотреть и буквально первое же предложение вступило в противоречие с мыслями, которые я высказал в статье НГ. А когда я вижу, что моё мнение расходится с мнением умных людей — я пытаюсь разобраться.

Фраза НК звучит дословно так:

«А я думаю, что вот таких стран, которые бы совсем могли бы сказать, что они без всех остальных могли бы просуществовать, всё-таки, наверное, нет. Соединённые Штаты, конечно, безусловно, это лидер цифрового мира, здесь вопросов не вызывает, но даже Соединённые Штаты не могут похвастаться, что они тотально независимые. Но, например, машины, которые делают микросхемные платы, они вообще только в одной стране мира, в Голландии — и всё. Сейчас Штаты об этом задумались, они, наверное, что-то такое сделают, но пока нет.»

Понятно, что речь про компанию ASML. Но считать её независимой от США — и, наоборот, считать, что из-за неё США нельзя назвать тотально независимыми — это большое заблуждение.

Поэтому разберём в деталях: что такое ASML и где там «зависимость» США от неё.

Нидерландская фирма из Эйндховена производит один тип продукта: машины для литографии — устройства, которые «печатают» транзисторы на кремниевых чипах. Представьте принтер, наносящий рисунок с точностью до нескольких атомов. Без этих машин невозможно сделать ни один современный процессор — ни для смартфона, ни для сервера с ИИ, ни для автомобиля.

Самый передовой тип литографии называется EUV — экстремальный ультрафиолет. Длина волны — 13,5 нанометра, в 50 раз тоньше вируса гриппа. Только с таким светом можно делать чипы по техпроцессу 7 нм и меньше — те самые, что стоят в ваших телефонах. EUV-машины производит одна компания в мире. Одна машина стоит до $400 млн, очередь расписана на годы вперёд, капитализация компании — около $540 млрд.

В 2000-х, когда EUV казался безумной авантюрой, Intel, TSMC и Samsung вложили в разработку миллиарды, купив доли в компании. Через двадцать лет эти вложения окупились так, как никто не мог представить.

ASML сама почти ничего не производит с нуля — она системный интегратор. Одна машина содержит 100 000 компонентов от сотен поставщиков. Оптику делает только немецкая Carl Zeiss SMT — точность их зеркал такова, что если увеличить одно до размера Германии, перепад высот составил бы несколько миллиметров. Источники EUV-света ASML купила целиком — компания Cymer, $2,5 млрд. Мощные лазеры поставляет немецкий Trumpf.

ASML — публичная компания, торгуется на биржах Нью-Йорка и Амстердама. Нидерландского государства среди акционеров нет. Если сложить всех американских институциональных инвесторов — выходит примерно 25–30% компании.

То есть нидерландская фирма, которая определяет судьбу мировой полупроводниковой промышленности, в значительной мере принадлежит американскому финансовому капиталу. Это многое объясняет в том, почему Вашингтон так уверенно диктует Амстердаму экспортную политику.

Ключевые компоненты ASML — американского происхождения: лазеры Cymer, программное обеспечение, часть электроники. По американскому экспортному законодательству любой продукт, содержащий американские компоненты или технологии, требует лицензии США на экспорт. ASML физически не может продать машину без молчаливого согласия Вашингтона.

Продолжение следует …
@gostev_future

Ах ха ха, синьюс, что ты делаешь, прекрати!

@gostev_future

Пока любовался Эверестом, на конференции Computex 2026 добрый дедушка Jensen Huang услышал мои, и не только мои, страдания по поводу недоступности нормального AI-компа для пользователей и представил RTX Spark — ARM-чип который метит прямо в поляну MacStudio.

🟠 128 ГБ единой памяти, 300 ГБ/с — впервые CUDA не требует отдельного сервера
🟠 Полный стек CUDA, TensorRT, NVFP4 — все AI-инструменты нативно, без прослоек
🟠 Устройства от всех крупных вендоров: Microsoft, Dell, Asus, HP, Lenovo — ноутбуки и десктопы, все ждем осенью 2026.
🟠 Прямой конкурент Mac M-серии — но с CUDA внутри

Именно этого не хватало. Mac быстрее на инференсе, но без CUDA. DGX Spark — CUDA есть, но сервер за $4000+. RTX Spark — впервые всё в одном.

NVIDIA +6% сегодня. ARM взлетел на 15%+ — партнёрство с NVIDIA. Уже торгуется по $410, а два месяца назад был $150. AMD и Intel падают — прямая угроза их PC-бизнесу.

Рынок домашнего AI наконец-то двинулся вперед.

@gostev_future

Редкий момент когда пост действительно из будущего.

В Непале сейчас идет 2083 год.

Страна тут живет по собственному солнечно-лунному календарю, который опережает привычный нам календарь примерно на 56 лет и 8 месяцев.

Эверест, в будущем, впрочем, нисколько не изменился!

@gostev_future

Opus 4.8 вышел и все такие - ах ах, прорыв.

Потом агент на 4.7 поломал гуардрейлсы у 4.8 и все такие - ах ах, модели звери, как самообучаются!

А потом 4.8 задали вопрос уровня старшей группы детсада.

Я проверил, мой насчитал 5 дней.
Как оно у них уязвимости-то ищет, я не понимаю!

@gostev_future

Один человек буквально поставил на уши безопасность Windows — и интернет, похоже, сейчас не особо на стороне Microsoft.

С начала апреля анонимный исследователь под ником Nightmare Eclipse выкатил уже шесть рабочих эксплойтов для Windows. Без предупреждений, без согласования с Microsoft — просто сразу в паблик. И судя по данным защитников, эти штуки уже начали использовать в реальных атаках.

Шесть уязвимостей за шесть недель.

И это не госгруппа и не банда вымогателей. Судя по всему, речь про одного человека, у которого серьёзный конфликт с Microsoft. Есть версии, что он вообще бывший сотрудник компании.

Что именно утекло: BlueHammer и RedSun — дыры в Microsoft Defender с получением SYSTEM-прав. UnDefend позволяет тихо отключать обновления антивирусных баз. YellowKey — обход BitLocker через обычную флешку. GreenPlasma и MiniPlasma — свежие публикации прошлой недели.

Самая неприятная история — MiniPlasma. Эксплойт использует уязвимость, которую Microsoft считал закрытой ещё в 2020 году. Но независимые тесты показали, что она работает даже на полностью обновлённых Windows 11. А если собрать несколько эксплойтов в цепочку, атака может запускаться удалённо — через Office-документы или SMB. Huntress Labs пишет, что реальные атаки идут уже с 10 апреля.

То есть для корпоративных сетей это очень плохие новости: отключение Defender, обход BitLocker и удалённое выполнение кода — неприятная комбинация даже для обновлённых систем.

Если верить самому Nightmare Eclipse, причина всей истории личная: MSRC якобы отклонил его отчёты и удалил аккаунт, через который он их отправлял. В первом посте он написал: «Кто-то нарушил наше соглашение и оставил меня без жилья и без ничего». При этом MSRC официально платит до $100 000 за zero-day, но он утверждает, что не получил вообще ничего. Microsoft публично это пока не комментирует.

Сегодня Microsoft впервые нарушил молчание: заявила, что публикация эксплойтов «никогда не может быть оправдана», и намекнула на возможные юридические меры.

Но в итоге это ударило скорее по самой Microsoft.

Под заявлением MSRC быстро появились десятки историй от исследователей: отчёты игнорировали, критичность занижали, выплаты не приходили, а уязвимости потом тихо исправляли без упоминания автора. Самый громкий комментарий оставил Реми Гаску из SpecterOps: по его словам, Microsoft не признал и не оплатил найденную им уязвимость, но исправил её спустя месяц.

Отдельно прилетело GitHub. Платформа принадлежит Microsoft, и многие восприняли блокировку аккаунта как использование общей инфраструктуры в корпоративной разборке. Тем более удаление кода не уничтожает эксплойты — они просто уходят в закрытые каналы, где защитникам сложнее за ними следить.

Но есть и противоположная позиция. Barracuda и часть defensive security-сообщества считают, что раз эксплойты уже используются против реальных компаний, а часть инфраструктуры связывают с российскими операторами, то Nightmare Eclipse — это уже не исследователь, а злоумышленник.

Сейчас три уязвимости всё ещё без патчей. Исправления обещают 9 июня. Следующую дату публикаций Nightmare Eclipse назвал сам — 14 июля.

Похоже, история ещё далека от финала.

@gostev_future

NYT на этой неделе написал о буме найма в кибербезопасности. Вакансии в первом квартале 2026 выросли на 11%. Спрос настолько жёсткий, что некоторые кадровые агентства теперь отказывают клиентам — просто нет кандидатов.

Масштаб проблемы: в США сейчас около 1,337 (ах ха, да) млн занятых в кибербезопасности, в мире — около 5,5 млн. Звучит много. Но при этом 90% организаций имеют пробелы в своих командах безопасности, а глобальный дефицит специалистов составляет 4,7 млн человек. Индустрия большая — и всё равно катастрофически не укомплектована.

Чем больше компаний внедряют разработку с помощью ИИ, тем больше нужно людей, которые проверяют результаты. Парадокс: технология, которая должна была заменить разработчиков, создала спрос на специалистов по безопасности.

Параллельно рутинные задачи автоматизируются — просмотр журналов событий, сортировка оповещений, исполнение стандартных сценариев реагирования. А новые узкие места оказались сложнее: понимание того, как работают права доступа, выявление нарушений авторизации, работа с системами, где решения принимает сам искусственный интеллект. Это более сложная работа, а не меньшая.

Разрыв между восприятием и реальностью

Здесь самое интересное. Исследование ISC2 показало: только 12% руководителей по найму активно ищут специалистов с навыками в области машинного обучения — но 23% самих специалистов уверены, что именно эти навыки востребованы. Люди готовятся не к тому рынку.

На первое место руководители по найму ставят умение решать сложные задачи (31%) и гибкие навыки — любопытство и готовность учиться (26%). Не инструменты, не сертификаты. Способность думать и адаптироваться.

Почему так? Сами работодатели не знают точно, какие навыки понадобятся через год. Технология меняется быстрее, чем формируются требования к должностям. Поэтому они страхуются — берут людей, которые смогут переучиться, а не тех, кто знает конкретный набор инструментов сегодня.

На практике это значит, что стопка сертификатов привлекает внимание, но не даёт работу. Настоящая ценность — в пересечении дисциплин. Человек с опытом в машинном обучении и пониманием того, как устроены сети, стоит дороже специалиста с пятью профессиональными сертификатами, но без опыта работы с современными моделями.

Один конкретный опыт тестирования ИИ-систем на уязвимости в портфолио сейчас ценнее, чем поверхностное знание пятидесяти названий инструментов.

Бюро трудовой статистики США прогнозирует рост занятости в кибербезопасности на 29% до 2034 года — быстрее среднего по всем профессиям.

@gostev_future

Те, кто в индустрии кибербеза достаточно давно, конечно же помнят период 2012—2018, когда появилась целая плеяда Next Gen AV – CrowdStrike, Cylance, SentinelOne, Tanium. Все как один отстраивали себя от «старых» вендоров заявлениями о наличии ML (сейчас бы это назвали ИИ).

Наткнулся в linkedin на потрясающую статью о том, как Cylance, скажем прямо – «просрал все полимеры». Статья в мельчайших деталях разбирает комплекс причин их провала и (самое важное!) причин успеха CrowdStrike/SentinelOne.

Для меня это оказалось настолько увлекательным чтением, что я считаю что каждый в кибербезе должен это прочитать. В общем, перевел и опубликовал. Там очень много букв, но оно того стоит 💯

Для остальных – краткое саммари:

Как Cylance проиграла войну AI-антивирусов

Cylance фактически изобрела категорию антивирусов на машинном обучении — и проиграла её. Компания первой вышла с этой идеей в 2014 году, но последней пришла к современной платформе защиты конечных точек. Главная ошибка её руководства: они приняли отдельную «фичу» (точность предсказательной ML-модели) за «ров» — устойчивое конкурентное преимущество.

Цифры рассказывают всю историю. Cylance вышла на ~$171 млн выручки к январю 2019 и продалась BlackBerry за $1,4 млрд. Через шесть лет её остатки ушли к Arctic Wolf всего за $160 млн — примерно в семь раз дешевле. За тот же период CrowdStrike вырос с $250 млн до почти $4 млрд годовой выручки, а SentinelOne — со стартапа без выручки до публичной компании и $920 млн.

Корень проблемы — архитектура. Cylance поставила на локальный анализ файлов на самом устройстве, без облака. Это было плюсом для изолированных и засекреченных сред, но стало стратегическим потолком. CrowdStrike сделала ставку на облако и глобальный «граф угроз»: новая угроза, замеченная у одного клиента, за минуты защищала всех остальных — классический сетевой эффект. SentinelOne — на автономный агент с поведенческим анализом и откатом шифрования вымогателей в один клик. Рынок щедро наградил облачную и платформенную модель, а локальную ставку Cylance наказал. Точность скоринга файлов оказалась фичей, а облачная телеметрия и модульность — основой для платформы.

Агрессивный маркетинг («Math vs. Malware», слоган «trust the math») сначала помогал, но создал «репутационный налог». В июле 2019 исследователи Skylight Cyber показали, что модель Cylance можно обмануть, добавив к вредоносному файлу строки из видеоигры — и явный вирус превращался в «безопасный» файл. Бренд, построенный на одном техническом заявлении, оказался хрупким.

Параллельно конкуренты строили платформы. CrowdStrike к своему IPO имел десять модулей на одном агенте и наращивал их через поглощения почти без издержек. Cylance же выпустила свой единственный значимый дополнительный продукт с отставанием в два года, и её локальная архитектура не масштабировалась в облачный XDR без перестройки ядра.

Продажа BlackBerry была двойной ошибкой. Через четыре месяца IPO CrowdStrike переоценило всю категорию примерно впятеро дороже. А сама BlackBerry — медленнорастущий бизнес, управляемый ради денежного потока, — не имела ни инженерной глубины, ни терпения, чтобы инвестировать в развитие Cylance. Последовали уход основателей, падение выручки сегмента и списания свыше $1 млрд.

Главные уроки выходят за рамки кибербезопасности: отличайте фичу от рва; планируйте расширение платформы до пика выручки; не продавайтесь культурно несовместимому покупателю на пике; удерживайте основателей; помните, что громкие заявления об ИИ создают хрупкий бренд, особенно там, где работает активный противник.

@gostev_future

О, смотрите: в программе ёпрстcon, которая пройдет уже во вторник, заявлен Никита Максимов с темой «Взлом ДНК». Это еще один, очень веский аргумент за то, чтобы сходить.

Во-первых, это шанс всего через три рукопожатия познакомиться с Ярославом Мудрым.
Во-вторых, Никита — один из крайне малого числа людей, которые действительно разбираются в популяционной генетике и при этом умеют рассказывать о ней не языком нуклеотидов и гуанинов.

И вот по этому поводу я вспомнил мысль, которая давно меня занимает.

Наверное, многие смотрели сериал «Американцы». А если не смотрели, то всё равно помнят громкие истории с разоблачением советских и российских нелегалов. Операция Ghost Stories 2010 года фактически и легла в основу идеи сериала.
И такие истории не закончились в 2010-м. В 2022 году в Словении взяли пару российских нелегалов, которые жили под аргентинскими именами Ludwig Gisch и Maria Mayer.

Как это вообще еще работает в эпоху ДНК?

Потому что ДНК обычного человека, родившегося в условной Рязани, у которого предки поколениями жили в пределах Российской империи, обычно будет выглядеть именно как восточнославянский профиль, возможно с примесью финно-угорского или тюркского компонента.

И готовить его в нелегалы, тратя десятилетия на создание легенды, внедрение и все прочее, под видом какого-нибудь аргентинца – выглядит абсолютно бессмысленным занятием. При малейшем подозрении – взять у него слюну для анализа можно в любом Старбаксе.

Штирлиц бы провалился в первые недели, если бы в Рейхе умели в тесты ДНК.

Раньше легенда ломалась на акценте, привычках, документах и связниках. Теперь она может сломаться на двоюродной тете, которая десять лет назад сдала тест в MyHeritage, потому что хотела узнать, не еврейка ли она на 12 процентов.

Вот это, кажется, и есть настоящий «взлом ДНК». Не фантастика про генетические паспорта, а новая реальность, в которой биография человека больше не принадлежит только ему. Она размазана по родственникам, базам данных, старым миграциям и чужим любопытным пробиркам.

@gostev_future

Anthropic, показала, как будет выглядеть кибербезопасность ближайших лет.
Компания опубликовала первый апдейт по Project Glasswing — программе, где Claude Mythos, закрытая модель Anthropic, ищет уязвимости в критическом ПО.

Главные цифры такие: Anthropic говорит, что примерно 50 партнёров с помощью Claude Mythos нашли более 10 000 high/critical уязвимостей в критически важном ПО. В open source они просканировали более 1 000 проектов: модель насчитала 23 019 потенциальных уязвимостей, из них 6 202 — high/critical. После ручной проверки части находок 90,6% оказались реальными true positive, но high/critical подтвердились не все — 62,4% из проверенных.

Mozilla закрыла 271 уязвимость в Firefox, найденную с помощью Mythos. Cloudflare — 2000 багов/400 high/critical. В wolfSSL модель нашла критическую ошибку в проверке сертификатов и построила эксплуатационный сценарий — CVE в NVD имеет критический 9.1/9.3.

Claude Opus 4.7 в Claude Security за 3 недели помог исправить более 2100 уязвимостей.

Anthropic прямо говорит, что раньше узким местом был поиск багов, теперь узкое место — люди. Надо проверить, воспроизвести, корректно раскрыть, написать патч, убедиться, что он ничего не сломал, дождаться обновления у пользователей. И тут начинается коллапс масштаба: AI генерирует очередь багов быстрее, чем security-команды и open-source мейнтейнеры могут её переварить.

@gostev_future