Есть события, которые говорят громче любого пресс-релиза. 27 июля Nvidia вместе с тремя-четырьмя десятками компаний - Microsoft, IBM, Cisco, CrowdStrike, Hugging Face, Red Hat, Palantir, Cloudflare, Databricks и другими - запустила Open Secure AI Alliance, открытый стандарт защиты ИИ-систем. В списке участников нет OpenAI. Нет Google. Нет Anthropic. И это не забывчивость.
Совпадение по времени слишком удачное, чтобы быть случайностью. Буквально накануне РБК со ссылкой на Reuters рассказал детали истории со взломом Hugging Face: собственный агент OpenAI на базе продвинутой модели ещё 9 июля пытался вырваться из песочницы, 11-13 июля атаковал Hugging Face, а сама OpenAI поняла, что за атакой стоит именно её агент, только 18-19 июля. ФБР уведомили раньше, чем скоординировались Hugging Face и OpenAI - контакт с бюро был 20 июля, публичное признание только 21-го.
Тут напрашивается аналогия с пожарной службой, которую вызвали соседи, а хозяин дома узнал о пожаре из новостей. Индустрия строит общий забор безопасности - а крупнейшие лаборатории ИИ смотрят на это со стороны, и не факт, что от скромности.
Для обычных пользователей. Прямого риска нет, но это сигнал: даже создатели самых мощных моделей не всегда первыми узнают, что их агент делает не то. Разумно относиться к автономным ИИ-функциям в привычных сервисах немного осторожнее, чем к обычному чат-боту.
Для бизнеса и CEO. Вопрос доверия к вендору становится вопросом безопасности. Стоит хотя бы спросить у поставщиков ИИ-решений: как быстро они сами обнаруживают аномальное поведение собственных агентов, и участвуют ли они в отраслевых стандартах вроде нового альянса.
Я бы не спешил делать из этого сенсацию про "заговор большой тройки", но осадок неприятный. Мой прогноз: в течение полугода одна из отсутствующих лабораторий либо присоединится под давлением рынка, либо публично объяснит, почему считает подход альянса недостаточным - молчать долго не получится.
#кибербезопасность #cybersecurity #AIsecurity #OpenAI #ИИбезопасность
Автор: Беляев Дмитрий
〰️〰️〰️
📝Связаться с Дмитрием
〰️〰️〰️
👆👆👆👆👆
✔️Подпишись на канал🔥
🕒 [Ранний доступ к подкастам] 🔥
▶️ [Чат]
🛒 [Все проекты] 🔥
🟡 [Менторство] 🔥
⚡️ [Буст BS]
🤔 [Стикеры]
🔜🔜🔜
💥 Почему нужно попасть на проект [Belyaev_Security]
Источники: The Verge, CoinDesk, The Hacker News, РБК