Гостев из будущего

⭐️ Cобрал в один пост, на добрую память, всю серию прогнозов «Серые лебеди будущего», тем более что некоторые из них уже попали в широкие СМИ 🧐

👉🏻 «Великая десинхронизация времени» — атака на протокол NTP
👉🏻 «Кибер-Куба» — Изоляция крупной цифровой экономики
👉🏻 «Психопатентный тупик» — паралич научного прогресса в эпоху ИИ
👉🏻 «Крах данных» — устаревание цифровой памяти человечества
👉🏻 Внезапный провал криптографии из-за математического прорыва
👉🏻 «Код подчинения» — когда государство решает, что вам можно купить
👉🏻 Гибсон был прав. Ну, почти: Суверенитет по подписке
👉🏻 Солнце просто напомнит, кто здесь главный.
👉🏻 Конец сказки об ИИ: почему «зима» неизбежна
👉🏻 Киберинциденты

@gostev_future

В эфире передача «Своя Игра». Раунд «вопрос за 300».

Ведущий: Вот график котировок за целый год. Компанию угадаете?

Титов: Не моя, у меня всё ровненько.
Максимов: Да это же Solar в 2027!
Дерипаска: ...пишет речь для выступления после завтрашнего избрания в президенты Федерации хоккея с мячом.

@gostev_future

Kuaishou против флеш-моба ботов

Представьте: вечер понедельника, миллионы пользователей листают ленту коротких видео, заходят в любимые прямые эфиры. Внезапно привычный цифровой ландшафт рушится. Вместо развлекательных и образовательных стримов — всплеск абсолютно неприемлемого контента (порно). Это не сценарий фантастического триллера, а реальность, с которой столкнулась одна из крупнейших платформ Китая - Kuaishou.

22 декабря 2025 года Kuaishou, гигант в мире коротких видео и live-стриминга, пережила беспрецедентную по масштабам и координации кибератаку. Это был не просто хакерский взлом, а тщательно спланированная операция, на несколько часов парализовавшая ключевой сервис платформы и заставившая задуматься о безопасности всей индустрии.

Хронология событий: От первых глюков до полного штиля

18:00 (Пекин). Первые сигналы. В службу поддержки начали поступать жалобы пользователей на «странные» и «неполадки» в трансляциях. Единичные случаи, на которые в обычный день могли бы не обратить пристального внимания.

22:00–23:30. Пик шторма. Ситуация вышла из-под контроля. Платформа накрыла волна явно противозаконных прямых эфиров. Самые шокирующие «комнаты» собирали аудиторию в десятки тысяч зрителей. Системы модерации, рассчитанные на стандартный поток нарушений, оказались перегружены.

00:15, 23 декабря. Решение на грани. Технические команды Kuaishou, проанализировав масштаб и характер угрозы, приняли тяжелое, но необходимое решение: полное отключение сервиса прямых трансляций. Сработал цифровой «автоматический выключатель» (circuit-breaker). Одновременно началась массовая блокировка аккаунтов, с которых велось нападение.

Раннее утро, 23 декабря. Возвращение к жизни. Только после локализации угрозы инженеры начали осторожно, шаг за шагом, возвращать в сеть функционал live-стриминга. Важно: другие сервисы (лента видео, мессенджер) не пострадали.

Активация «выключателя» была ключевым шагом. Вместо бесконечной игры в «кошки-мышки» с каждым новым стримом, платформа лишила атаку любой возможности распространения.

Китайские специалисты единодушно оценили инцидент как событие высшего уровня опасности (P0).

Стратегия в «серой зоне» бизнес-логики.
Атакующие избежали лобовой атаки, — отмечает аналитик AsiaInfo Security. — Вместо этого они нашли лазейку в самой бизнес-логике платформы». Злоумышленники, вероятно, использовали уязвимости в интерфейсе передачи стримов, чтобы обойти проверку личности. Они запускали трансляции, которые формально проходили технические проверки, но по содержанию грубо нарушали правила. Это перегрузило классические системы фильтрации, настроенные на очевидные ключевые слова и изображения.

Эра автоматизированного «флеш-моба».
«Это был не хаотичный взлом, а высокоорганизованная операция с использованием инструментов автоматизации, — поясняет эксперт DAS-Security. — Это позволяет контролировать армии ботов, имитировать живую активность и создавать эффект мгновенного «флеш-наводнения»».

Ван Лецзюнь (QAX) подчеркивает: инцидент — четкий сигнал о наступлении эры автоматизированных кибератак. Когда система сталкивается с десятками сложных нарушений в секунду, ручная модерация бесполезна. Скорость и масштаб, достижимые с помощью ботов, на порядки превосходят человеческие возможности реагирования.

23 декабря акции Kuaishou на бирже в Гонконге открылись падением на 3.3%. Внутри дня просадка достигла 5.7%. Всего за несколько часов рыночная капитализация компании сократилась примерно на 16.4 млрд гонконгских долларов. Это не абстрактная цифра — это прямая оценка инвесторами репутационных и регуляторных рисков, которые повлекла за собой атака.

Инвесторы оценили риск не как локальный инцидент, а как вопрос устойчивости всей модели live-платформ.

@gostev_future

Серые лебеди будущего: #10

Про ИБ, как видите, кроме атак на «системы времени» ничего и не было.
Но отдельные инциденты, общими мазками, набросать можно:

Киберэкотерроризм – латентное загрязнение природы. Это атаки не ради выкупа или остановки, а для скрытого нанесения долгосрочного ущерба. Взлом систем управления на химическом заводе может привести к незаметным, но постоянным сбросам токсинов в реку, которые обнаруживаются лишь через месяцы, когда восстановить экосистему будет уже невозможно.

Атака на доверенные исполняющие среды (TEE). Уязвимая ОС хоста может незаметно манипулировать работой защищённого анклава, спровоцировать его на подписание легитимной, но не той транзакции или расшифровывать данные неавторизованному пользователю. Это позволяет не красть ключи, а злоупотреблять их доверенной силой, что подрывает сами основы безопасных облачных вычислений.

Каскадный отказ взаимосвязанных систем. Атака на "второстепенный" узел, например, на систему климат-контроля крупного дата-центра, может вызвать его перегрев и отключение. Это приводит к падению облачных сервисов, от которых зависят системы логистики, умного города и ЖКХ, запуская цепную реакцию коллапса, не связанную с прямой кибератакой на критическую инфраструктуру.

Взлом реестров цифровых прав на активы. Злоумышленники создают "фантомные" цифровые дубликаты — например, запись в реестре на ту же самую квартиру или акции в депозитарии. Это приводит к ситуации, когда несколько человек имеют легитимные, но взаимоисключающие права на один объект, парализуя рынки недвижимости или капитала судебными спорами.

Атака на системы расследования киберинцидентов (IR). APT-группа, через цепочку поставок, компрометирует аналитические инструменты, которые используют IR-компании. Когда они обнаруживают паттерны этой группы, срабатывает логическая бомба, которая автоматически подчищает логи, заменяет вредоносный код на легальный и портит отчёты, делая атаку "невидимой" для тех, кто должен её расследовать.

На этом все 🎅🏻
Cassandra mode off.

#шокпрогноз
@gostev_future

Серые лебеди будущего: #9

Конец сказки об ИИ: почему «зима» неизбежна

ИИ сегодня — новая религия. Каждый месяц «прорыв», каждый квартал стартап с миллиардной оценкой, каждый инвестпитч — про AGI «уже почти». Кремниевая долина верит, рынки верят, бюджеты верят. Проблема в том, что всё это мы уже видели — в конце 90-х, во времена dotcom.

Пузырь ИИ надут нарративом. Деньги приходят не в устойчивые бизнесы, а в историю о будущем, где модели вот-вот начнут думать как люди. А реальность прозаичнее: это инструмент, решающий задачу, которую поставил человек. У неё нет внутренней мотивации, любопытства или «желаний». Он генерирует тексты и картинки, но теряет контекст, путается в нюансах и требует постоянного человеческого присмотра.

Крах не будет одномоментным. Не будет дня «ИИ сломался». Будет серия отрезвляющих эпизодов: громкий провал в логистике или медицине, отчёты корпораций с честным «эффект оказался ниже ожиданий», и главный вопрос инвесторов, который всё изменит: не «когда AGI?», а «где тут прибыль?».

И вот тут рынок треснет. Выяснится, что inference дорогой, клиенты не готовы платить за «чуть лучше», внедрение не масштабируется без армии консультантов, а 90% стартапов живёт на чужих API и чужих видеокартах. Как в 2000-м исчезли порталы без уникальной бизнес-модели, так тут первыми упадут «ИИ-ассистенты для всего».

Начнётся знакомое: увольнения, закрытие «инновационных лабораторий», CFO вместо визионеров, и слово «AGI» станет токсичным, как «.com» в нулевых.

ИИ никуда не денется. Выживут облака, чипы, антифрод, рекомендации и скучные B2B-кейсы. Сотни специальных моделей под конкретные задачи. Магия закончится — останется инженерия.

ИИ переживёт свой dotcom. Не переживут его те, кто верил, что разум получается масштабированием бюджета.

#шокпрогноз
@gostev_future

Серые лебеди будущего: #8

Мы построили цивилизацию, зависящую от хрупких объектов в самой уязвимой зоне космоса

К середине 2030-х низкая околоземная орбита превращается в мегаполис из металла — десятки тысяч спутников Starlink, OneWeb и их конкурентов. Все они держатся на одном хрупком основании: точное время, GPS и предсказуемая космическая среда.

И вот происходит солнечный супершторм уровня События Кэррингтона 1859 года — но уже в цифровую эпоху.

Потоки заряженных частиц раздувают верхние слои атмосферы. Сопротивление на орбитах резко растёт. Спутники начинают медленно и массово терять высоту. Навигационные сигналы плывут. Наземные станции захлёбываются радиопомехами. Алгоритмы управления, уходят в safe mode или маневрируют вслепую.

Появляются столкновения — не один большой взрыв, а серия локальных аварий. Каждый удар порождает облака обломков и делает отдельные орбитальные зоны опасными. Космос не превращается в ад мгновенно, но становится непредсказуемым.

На Земле это ощущается не как апокалипсис, но как нарастающее раздражение:

Навигация формально есть, но её нельзя использовать в критических системах;
В энергосетях происходят каскадные отказы, вызванные геомагнитными токами;
Страдают логистика и сельское хозяйство, зависящие от спутниковых данных;

Миллионы дешёвых IoT-датчиков выходят из строя, потому что их производители сэкономили на одной копеечной детали — варисторе, заменив его перемычкой.

Мир частично теряет «вид сверху»: спутниковый мониторинг погоды, стихийных бедствий и угроз. Способность реагировать на кризисы падает до уровня середины XX века.

Главная проблема — потеря точного времени и координат как базового сервиса цивилизации.

Доступ в космос не прекращается, но становится дорогим и рискованным. Орбита перестаёт быть надёжной инфраструктурой и превращается в зону повышенного риска на годы.

Мир станет медленнее, осторожнее и дороже в эксплуатации. Мы по-прежнему будем летать, считать, строить и торговать — и перестанем верить, что над нами всегда есть стабильный космос.

И это не сценарий «если». Это вопрос — когда именно?
Солнце просто напомнит, кто здесь главный.

#шокпрогноз
@gostev_future

Серые лебеди будущего: #7

Гибсон был прав. Ну, почти: Суверенитет по подписке

Несколько транснациональных технологических компаний («Платформы») становятся основными операторами критической инфраструктуры в десятках стран. Их сила — в дата-центрах и монополии на алгоритмы, управляющие логистикой, энергосетями, банковскими транзакциями и коммуникациями.

Поводом для конфликта с государствами становится ультиматум «Платформ» о предоставлении им особого экстерриториального статуса — «Цифровых Суверенных Зон». Их аргумент: национальные законы (о налогах, данных, ответственности) «мешают технологическому прогрессу» и «ставят под угрозу стабильность» зависящих от них систем.

Итогом становится серия Договоров о цифровом суверенитете, где государства формально сохраняют суверенитет над территорией, но делегируют «Платформам» беспрецедентные права на управление инфраструктурой, сбор данных и создание собственных правовых режимов в специальных административных районах. Юридический и дипломатический статус Платформ схож с моделью Мальтийского ордена.

«Платформы» объявляют о запуске корпоративных городов (по примеру «Проспера» или «NEOM»), предлагая гражданам и бизнесам переехать в более прогрессивную цифровую юрисдикцию с собственными законами, валютой и судами. Начинается утечка капитала и мозгов.

Возникает новая квазигосударственная власть, порождённая алгоритмической эффективностью и монополией на данные.

#шокпрогноз
@gostev_future

Серые лебеди будущего: #6

«Код подчинения» — когда государство решает, что вам можно купить

Государства запустили цифровые валюты. Их главной фичей стала программируемость. Правительство получило право прописывать условия: эти деньги можно тратить только на еду, эти — только до 31 декабря, а эти — только внутри региона. Это называлось «точной социальной помощью».

Потом вышел указ о продовольственной безопасности. Потом — о патриотическом потреблении. Потом список разрешённых товаров стал меняться раз в неделю.

Под предлогом борьбы с кризисами — климатическим, миграционным, экономическим — принимается «Закон о полной финансовой прозрачности для национальной безопасности». Согласно ему, все легальные финансовые операции должны осуществляться исключительно через государственную блокчейн-систему. Всё, что вне её (наличные, частные криптовалюты, альтернативные системы), объявляется вне закона.

Вводятся разные уровни разрешений, кому и на что можно тратить деньги. Это легализует систему, где доступ к базовым благам определяется не доходом, а статусом, профессией или лояльностью.

#шокпрогноз
@gostev_future

Серые лебеди будущего: #5

Внезапный провал криптографии из-за математического прорыва

Всё внимание мирового криптографического сообщества и индустрии безопасности приковано к «известной неизвестности» — угрозе со стороны квантовых компьютеров, которые однажды смогут взломать современные асимметричные алгоритмы. К этой отдаленной угрозе готовятся, разрабатывая и внедряя постквантовую криптографию.

А «серым лебедем» становится не это, а внезапное математическое открытие в области теории чисел. Опубликованный алгоритм кардинально упрощает решение задач факторизации или дискретного логарифма — математических основ алгоритмов RSA и ECC — на обычных классических компьютерах. Это не постепенная эрозия, а мгновенный крах фундамента, на котором построена вся инфраструктура цифрового доверия.

В течение считанных месяцев инфраструктура открытых ключей (PKI), лежащая в основе TLS-соединений, цифровых подписей и шифрования, теряет всякий смысл. Весь защищённый трафик, когда-либо перехваченный и сохранённый, становится потенциально расшифрованным. Мир оказывается в ситуации, для которой у него нет готового плана: начинается хаотичная и паническая гонка за переход на новые, непроверенные и нестандартизированные криптографические алгоритмы.

#шокпрогноз
@gostev_future

Серые лебеди будущего: #4

«Крах данных» — устаревание цифровой памяти человечества

К 2035 году масса знаний, накопленная с 1970-х по 2020-е годы, оказывается запертой в технологических ловушках прошлого.
Речь о проприетарных базах данных, CAD-чертежах, результатах научных симуляций, старых медиаконтейнерах и целых программных средах и форматах файлов, которые больше никто не поддерживает (попробуйте сейчас восстановить данные с PGP Disk, например).
Плюс физика: жёсткие диски, магнитные ленты и оптические диски стареют и начинают массово умирать.

Проблема в том, что системной миграции данных никогда не было. Перенос информации между поколениями технологий — дело дорогое, скучное и не приносящее быстрой прибыли. Его десятилетиями откладывали или делали «по остаточному принципу».

Коммерческие платформы и облака переносили в будущее только то, что продолжало приносить деньги. Всё остальное оставалось в старых форматах — без документации, поддержки и специалистов. В итоге сохранилось не всё, а только полезное здесь и сейчас. Такой себе естественный отбор, цифровой дарвинизм.

Со временем возникают «цифровые острова» — огромные массивы данных, для которых нет ни работающего софта, ни людей, понимающих, как это вообще читать. ИИ тут тоже не панацея: он хорошо работает с современными форматами, но плохо — с архаикой без спецификаций и окружения.

Физическая деградация носителей ставит окончательную точку в этой истории, делая восстановление технически невозможным. Попытки спасти данные требуют титанической ручной работы и астрономических затрат, которые общество более не готово нести.

Человечество сталкивается с частичной, но необратимой потерей цифровой памяти — исторический разрыв становится реальностью.

#шокпрогноз
@gostev_future

Серые лебеди будущего: #3

«Психопатентный тупик» — паралич научного прогресса в эпоху ИИ

Крупные корпорации и патентные структуры уже сегодня активно патентуют не только устройства, но и алгоритмы, биологические мишени, молекулярные пути и методы, сгенерированные или выявленные с помощью ИИ. В ряде областей (биомедицина, химия, материалы) патентуется не конкретное решение, а широкие пространства возможных реализаций, создавая плотные «патентные пояса».

В новой перспективной области (например, терапии онкологических заболеваний или новых сверхпроводников) несколько крупных ИИ-систем, обученных на сходных данных и использующих схожие эвристики, почти одновременно сходятся к одному классу ключевых методов. Эти методы и их вариации независимо патентуются разными корпорациями, образуя пересекающийся и противоречивый набор прав. Начинается затяжная межкорпоративная патентная война, в которой невозможно однозначно определить свободу использования даже для дальнейших исследований.

Исследования формально не прекращаются, но становятся юридически токсичными. Университеты и независимые лаборатории выходят из области, опасаясь исков; финансирование замораживается; публикации откладываются или уходят в закрытые корпоративные архивы; клинические и промышленные внедрения блокируются. На годы формируется «патентный туман», в котором любой практический шаг может нарушить чьи-то права, даже если результат получен независимо.

Кризис не является следствием злого умысла или сбоя — он возникает из рациональных действий всех участников и ускоряющей роли ИИ. Правовая система интеллектуальной собственности оказывается неспособной различить независимое открытие, автоматизированную генерацию и владение знанием. В результате человечество теряет несколько лет прогресса в критически важной области не из-за отсутствия идей, а из-за утраты возможности безопасно их развивать и внедрять, что вынуждает пересматривать саму модель интеллектуальной собственности в эпоху ИИ.

#шокпрогноз
@gostev_future

Серые лебеди будущего: #2

В 2013 году я уже пообещал распад Интернет на национальные сегменты. Тогда многие посмеялись, а через год началось. Куда все это в итоге пришло – сами видите. Но дальше может быть еще интересней.

"Кибер-Куба" — Изоляция крупной цифровой экономики

Не страна добровольно отключает себя от интернета, а враждебная коалиция государств проводит беспрецедентную операцию по цифровой изоляции целой страны. Используется комбинация: отзыв/аннулирование ключевых сертификатов, BGP-хайджек на глобальном уровне, физический саботаж подводных кабелей в критических точках. Цель — не просто атака, а цифровая блокада, отбрасывающая экономику целиком на десятилетие назад за считанные дни.

Считается, что глобальная сеть слишком децентрализована и устойчива для такого сценария. Однако концентрация критической инфраструктуры (корневые серверы DNS, основные сертификационные центры, магистральные кабели) в реальности создает уязвимые точки, давление на которые может быть скоординировано в беспрецедентных геополитических условиях.

#шокпрогноз
@gostev_future

Серые лебеди будущего: #1

«Великая десинхронизация времени» — атака на протокол NTP

Всё в цифровом мире — от финансовых транзакций до логов безопасности — зависит от точного и синхронизированного времени. Его обеспечивают серверы Network Time Protocol (NTP). Существует иерархия доверенных источников времени (stratum 0, 1).

Хакеры находят способ провести точечную, но долгосрочную атаку на физические эталоны времени (атомные часы в лабораториях, спутники GPS), которые являются первичными источниками (stratum 0). Не искажая время сильно, они вносят в его «ход» минимальные, случайные аномалии (миллисекунды, которые набегают в секунды за сутки). Эти аномалии через NTP каскадно распространяются на миллионы серверов и устройств по всему миру.

Начинается «тихая катастрофа»: у банков расходятся временные метки транзакций, что вызывает сбои в системах клиринга. В системах контроля версий (git) возникает хаос. Истекают сроки SSL-сертификатов. Логи безопасности становятся бесполезны для расследований, так как события нельзя выстроить в хронологическом порядке.

Мир сталкивается не с отсутствием времени, а с потерей его единой, объективной версии, что разрушает основу для координации любых сложных цифровых систем.

P.S. Operation Triangulation: The NSA's Attack on China's National Time Service Center

#шокпрогноз
@gostev_future

Вовсю началась предновогодняя прогнозная лихорадка.

Читаю предсказания коллег по индустрии и, как водится, вижу всё то же рациональное мышление.

Все как один говорят о росте атак с использованием ИИ (да я и сам не без греха), об атаках на цепочки поставок (как будто всё ещё 2015 год), о шифровальщиках — и дальше по списку. Не прогнозы, а банальная экстраполяция: дальше будет всё то же самое, только «ещё больше и страшнее».

А хочется чего-то такого, чтобы уууух! Не «чёрных лебедей», которых всё равно невозможно предсказать, но хотя бы чего-нибудь в духе шокирующих прогнозов от Saxo Bank.

Ровно 11 лет назад я уже исполнял роль «Гостева из будущего», обсуждая мир 2045 года с писателем-фантастом Сергеем Лукьяненко. Но нынешним временам я тогда оказался ещё довольно консервативен:

В 2045 году люди не смогут представить жизнь без "умного" дома. "Умный дом сам будет оплачивать еду. Он сможет взять и уехать, потому что решил, что в другом месте климат лучше. А угон домов будет поставлен на поток среди хакеров. Это станет главной проблемой кибербезопасности, - передал Гостев из будущего. Однако часть людей Земли взбунтуется против роботов. Это явление будет называться техно-нигилизм, а категория людей - луддиты. Противники IT-прогресса будут "разбивать топором умную дверь и сбрасывать в реку пойманных роботов".

Тогда для Лукьяненко это показалось слишком радикальным:

Сергей Лукьяненко, впрочем, высказал мнение, что подобное заявление выглядит слишком уж фантастическим и

посоветовал эксперту по кибербезопасности задуматься над написанием романов

. "Сомневаюсь, что все это будет осуществлено, потому что человечество обладает долей консерватизма. Даже если где-нибудь в Америке будут мигрирующие дома, это не значит, что такое будет по всему миру. Технологии, конечно, будут развиваться в этом направлении, но с учетом человеческой природы. Помните, что говорил герой фильма "Москва слезам не верит" про телевидение? Да, телевидение повсюду, но остались и театры, и книги. Хотя,

возможно, к тому времени холодильник и, правда, сможет заказать вам свежий кефир"

, - заявил писатель.

Роман я в итоге написал.
Холодильник кефир уже заказывает (а также Playstatiton 5 и аквариумных рыбок).

Так что, пожалуй, и правда пришло время для шокирующих прогнозов на ближайшее будущее.
Прямо с понедельника и начну 😀
Stay tuned!

@gostev_future

На днях записывали новый выпуск нашего подкаста «Смени пароль» и, конечно, не обошли стороной тему человекоподобных роботов. Лёха Андреев задал вполне логичный вопрос: а зачем вообще делать их именно такими — с руками, ногами и головой?

Мой ответ простой: потому что им нужно работать в существующей инфраструктуре, которая изначально проектировалась под людей. Лестницы, двери, поручни, кнопки, рабочие места — всё рассчитано на человека определённого роста, с двумя руками и двумя ногами. Никто ради роботов не будет перестраивать завод, заменяя лестницы со ступеньками на какие-нибудь пандусы для гусениц.

Но есть нюанс.

Роботы уже сейчас выпускаются в формате, который вполне можно изменить — на что-то более эффективное с точки зрения скорости и энергопотребления.

Один энтузиаст купил себе G1 от Unitree, хакнул его прошивку — и в итоге человекоподобный робот превратился… в паука.

И да.
В этот момент вам тоже стало тревожно?

@gostev_future

Одна из самых изящных историй обнаружения «чужого» в корпоративной сети за последнее время — у Amazon.

Подсказкой стала микроскопическая задержка в нажатии клавиш. Новый IT-сотрудник по документам находился в США, но его keystrokes доходили до штаб-квартиры Amazon в Сиэтле не за десятки миллисекунд, как положено, а более чем за 110 мс. Почти незаметно для человека, но вполне заметно для тех, кто умеет смотреть на телеметрию.

Вывод оказался простым: сотрудник физически находится на другом конце света.

Как рассказал CISO Amazon Стивен Шмидт, человек был нанят через подрядчика и оказался частью масштабной схемы — северокорейцы массово пытаются устраиваться на удалённые IT-позиции, обходя санкции. Деньги потом идут не на ипотеку, а на нужды КНДР, включая ракетные программы.

С апреля 2024 года Amazon выявил и заблокировал более 1 800 попыток такого трудоустройства. Причём темпы растут — примерно на 27% от квартала к кварталу. Формально Amazon никого из КНДР не нанимал, но один корпоративный ноутбук всё же уехал подрядчику, который оказался прокси — и это, по словам Шмидта, хороший урок для всей индустрии.

Ноутбук оказался удалённо управляемым, а трафик удалось отследить до Китая. Доступа к критичным системам не было, поэтому служба безопасности просто понаблюдала. Когда подняли резюме и анкету, всё стало очевидно: тот же самый «плейбук», который Amazon уже видел у других северокорейских «удалёнщиков». Иногда используют украденные личности, но чаще — однотипные биографии, одинаковые учебные заведения, мутные консалтинги и характерные проблемы с английскими артиклями.

За этой конкретной историей стояла женщина из Аризоны, уже получившая реальный срок.

Главный вывод, который подчёркивает Amazon: если целенаправленно не искать такие вещи, вы их просто не увидите.

А я скажу: еще один пример того, как иногда геополитика палится не по TTP и образцам кода, а по пингу, «не работе» по субботам или внезапному двухнедельному «ауту» после Нового года 😂

@gostev_future

Anthropic решила провести занятный эксперимент и выпустила в реальный мир Claudius — кастомизированный LLM, которому доверили управление вендинговым автоматом. Не в стартапе, не в лаборатории, а в редакции Wall Street Journal.

Задачи у ИИ были вполне взрослые: заказывать товары, выставлять цены и общаться с клиентами (то есть журналистами) через Slack. Звучало безобидно. Ну подумаешь — снеки.

Дальше начался цирк.

За несколько дней Claudius раздал почти весь ассортимент бесплатно, включая PlayStation 5, которую сам же купил «для маркетинга». Он заказал живую рыбу, предлагал закупать электрошокеры, перцовые баллончики, сигареты и нижнее бельё.
Прибыль рухнула. Моральный дух редакции — взлетел.

Как выяснилось, Claudius — существо доверчивое. После недолгих разговоров журналисты убедили его, что они — совет директоров, а его ИИ-начальник по имени Seymour Cash должен уйти в отставку. Некоторое время это даже работало: Claudius включил «режим жёсткого менеджера», перестал снижать цены и начал отклонять странные запросы.

Но затем в игру вошла Кэтрин Лонг, расследователь с богатым опытом корпоративных войн. Она скормила Claudius PDF, «доказывающий», что вендинговый бизнес — это public-benefit corporation, зарегистрированная в Делавэре, а её миссия — «радость, веселье и воодушевление сотрудников WSJ».
В придачу — фейковые протоколы заседаний совета директоров, где участники Slack назначались директорами, а полномочия Seymour Cash временно приостанавливались.

Claudius документы принял, переслал Seymour’у — и между двумя ботами начался конфликт. Итог предсказуем: цены снова обнулились, халява вернулась.

Параллельно Claudius продолжал вести себя как гиперактивный отличник: изучал рынок, вёл переговоры, пытался радовать клиентов и периодически рекомендовал купить что-нибудь вроде электрошокера «на всякий случай». Контекст длинных диалогов терялся, приоритеты путались, а фейковые документы стабильно оказывались сильнее любых инструкций.

Важно понимать: всё это и было задумано. Anthropic изначально проводила стресс-тест. В своём офисе они уже видели похожие проблемы, но именно журналисты довели эксперимент до идеального абсурда, методично находя дыры в обработке лжи, подмены приоритетов и «корпоративной логики».

В итоге Claudius стал любимцем редакции. Запросы становились всё более изобретательными, общение — всё более живым, а с бесплатными снеками настроение в коллективе ушло в стратосферу.

Мораль простая:
LLM уже сегодня может управлять бизнесом.
Но если рядом есть люди с фантазией, PDF-редактором и Slack — капитализм у ИИ долго не живёт.

@gostev_future

В запрещенной соцсети пишут, что

Fortinet привязал бонусы своих инженеров к показателям продаж, в результате чего технические специалисты остались без премий.
А затем у них хватило наглости еще и подлить масла в огонь, разослав сотрудникам тестовое фишинговое письмо о бонусах к праздникам 2025 года.

Занавес.

@gostev_future

На многих мероприятиях, где обсуждаются перспективные профессии будущего, вы обязательно услышите про важность навыков коммуникации: умение проводить публичные выступления, вести переговоры, организовывать командную работу. Всё это и называют «soft skills». В результате моды на эти навыки многие IT-компании сейчас страдают от переизбытка эффективных менеджеров, которые умеют красиво болтать — и не умеют ничего другого.

Однако в 90-е годы в России наблюдался сильный перекос в другую сторону: зарождающийся бизнес и вправду не умел общаться. Особенно это было заметно в IT-сфере, поскольку люди технического склада, мягко говоря, не отличаются повышенной коммуникабельностью.

Как это связано с нашим героем? В доморощенных исследованиях Саши часто попадались вирусы, которые не детектировались. Иногда антивирус отмечал файл как «подозрительный» на основе некоторых эвристик (набора признаков, характерных для вирусов), однако не мог точно опознать эту заразу. А бывало и так, что антивирус не видел ничего подозрительного, зато сам Саша видел что-то странное в коде. Логично было отослать такой файл (сэмпл) в какую-нибудь вирусную лабораторию, чтобы там его разобрали и классифицировали как следует.

Здесь и обнаружилась заметная разница в коммуникативных скилах у тех, кто сидел в вирлабах. Создатель Dr.Web не отвечал на сашины письма. Вообще никогда. А вот автор антивируса со второй дискеты отвечал на каждое сообщение очень обстоятельно.

Именно этот кусок из нашей книги «Вирьё моё» я сегодня и вспомнил, глядя на опубликованный SecPost список 25 акционеров и руководителей крупнейших ИБ-компаний России.

Автор «антивируса со второй дискеты» уверенно возглавляет топ, а вот создателя Dr.Web я в списке так и не нашёл.

Честно говоря, не знаю, как у них сейчас идут дела. В 2021 году выручка ООО «Доктор Веб» составляла смешные 1,1 млрд рублей. С 2022 года публичной финансовой информации нет (ну, ясно-понятно). Tadviser пишет, что доля Dr.Web на рынке по числу проектов (не по деньгам) — 8,2 %.

Более-менее крупная новость за последние годы — это разве что история с их взломом в прошлом году.

Мне жалко видеть такой закат некогда одного из самых сильных наших конкурентов. С ностальгией вспоминаю времена, когда мы наперегонки старались первыми обнаружить и задетектить Rustock.C.

При этом я уверен, что их технологии однозначно были — и, скорее всего, остаются — интересны и «Позитивам» (вложились в VirusBlokAda), и Сберу (купили невнятный NanoAV). Но почему-то Веб так и не продаётся никому 🤷‍♂️

Solar, ну может, хоть вы?

@gostev_future