Асимметричный PR

«Кто бы это ни был, это не человек», подумали инженеры Hugging Face, насчитав 17 600+ операций, совершенных для атаки на их инфраструктуру.

Но даже легендарная фраза из «Хищника» не сделала бы шикарный отчет Hugging Face лучше. Как человек, много лет посвятивший созданию процессов структурирования, сторитела, дизайна и запуска в паблик кибербезных ресерчей и блогов, скажу, что анатомия атаки моделей ChatGPT на платформу Hugging Face — это чистый мёд. С точки зрения пиара этот документ меняет акценты в инфополе, поднимает планку создания отчетов по киберинцидентам, и вместе с тем ставит Альтмана в очередную неудобную позу. Красивое. Но по порядку.

О боже, какой постмортем

Могла бы спеть певица Натали, если б знала, что такое постмортем. Не без помощи ИИ, HF подняли создание отчетов об инциденте на уровень прекрасного: анимированные дашборды по всем 4,5 дням атаки, детальное описание каждого дня, ошибок самой компании, пробелов ее защиты, хода расследования, цепочки эксплуатации. Открытость HF уже называют беспрецедентной и “новым стандартом прозрачности”. К этому уровню большинству компаний как до Пекина пешком. И речь не о гостинице. 

Структура ИИ-тура 

Отчет очень четко структурирован и даже скептики отметили детальную реконструкцию атаки. Инженеры HF поняли, что повторить 17 600+ операций атакующих ИИ-моделей вручную можно даже не пробовать. Не помогли им и Claude с Fable, те отказались выполнять нехорошее из-за встроенных ограничений, считываемых ими как помощь во взломе. Тогда ребята локально развернули LLM и воспроизвели ход атаки. Этот момент многие назвали одним из первых примеров того, как ИИ помогла вскрыть таймлайн нападения и использовать сделанные выводы для защиты от ИИ-атак в дальнейшем. Критики подливают, что, мол, ну ясно как было, а делать-то что, ссылаясь на недостаток рекомендаций. Но есть ощущение, что пока 100% to do листа не выдаст никто.

Вопросики к OpenAI

От дифирамб в адрес HF, не забывая всё же о том, что они допустили атаку, перейдем к команде Альтмана. Она явно отстает: HF дважды открыто выходили в инфополе с объяснением произошедшего, а OpenAI пока лишь пообещала нам открытость. Акценты со “сбежавших моделей” сменились на то, что страшен не сам взлом, а отсутствие контроля и открытости со стороны OpenAI: инфополе заняли не они. Рассуждения о сверхразуме ИИ свелись к тому, что ничего сверхумного модели Альтмана не сделали, но показали скорость и масштаб, не уставая перебирать варианты снова и снова. Как пишут HF: “в шуме неправильных попыток”, атакующая ИИ все же нашла способ добиться результата.

Итогом, монстры коммуникаций, имеем парадокс. Hugging Face, как пострадавшая сторона, выглядит значительно более прозрачной и ответственной, чем компания, чьи модели устроили инцидент. Как по мне, на OpenAI, которая пафосно называет этот случай “вехой для безопасности ИИ” и собирается на IPO, такая асимметрия работает не только как технический фейл, но и как репутационный.

❤️ — если тоже любите "Хищника"

#кибербез