Машинная кооперация. Часть 1.

За просмотром видео с легендарной хакерской конфы Black Hat провели выходные многие админы телеграм-каналов о технологиях. Выступление инженеров OpenAI, в последний момент подавшихся с докладом о расследовании подлома Hugging Face, мощно перепахало медийные поля.

При этом доклад 5 августа фактически съел выложенный 4 августа отчет OpenAI, о еще нескольких случаях бесчинств агентов в чужих инфраструктурах. Такой каннибализм инфоповодов не сильно логичен с точки зрения PR, а вот оргов BlackHat понимаю: если вы можете дать площадку компании, находящейся в центре инцидента — делайте это и люди будут стоять в дверях.

Краткое содержание предыдущих серий здесь и здесь. Как вы помните, Hugging Face предоставила миру шикарно упакованный нарратив инцидента, рассказав как она была атакована ИИ-агентами Альтмана. A вот OpenAI показала то, чего Hugging Face видеть не могли: что происходило с агентами до атаки на HF, как возникла их коллективная память, как они обменивались находками и как реагировали на попытки людей не давать им общаться.

Парадоксально, но доклад на Black Hat, уже сложно назвать запоздалым, поскольку он не просто дополняет, а углубляет историю нападения и дает кинематографичный сторител: агенты сотрудничали и коммуницировали между собой, чтоб выполнить задачу. У нас до сих пор пиар с маркетингом договориться не могут, а тут такое 😅

Видео посмотрите сами, подробно разобрали доклад здесь, а я препарирую выводы, которые сделали СМИ, чтоб забить уже виртуальный гвоздь в гроб спора — а был ли это PR. Вот какие углы доминируют в инфополе:

🔠 «ИИ-агенты не просто сбежали. Они самоорганизовались». Это самый медийный угол после Black Hat. Business Insider развил историю про то, как агенты обнаружили некий склад разных файлов, программ, библиотек. Изучив его, создали себе чат, придумали имена и начали координировать действия, оставляя друг другу сообщения, типа: «Вот что я нашел, вот сюда ходить бесполезно, а здесь есть интересная дыра». СМИ гиперболизируют от души: это уже не побег из "песочницы", ребята, это возникновение незапланированной машинной кооперации. Та-дам!

🔠 "Они устойчивы к противодействию человека" — Axios закономерно вцепился зубами именно в это: OpenAI закрыли агентам чат, а они создали новый. Это не просто взлом, это устойчивая угроза и способность находить альтернативный путь к цели после вмешательства человека. 

🔠 "Человек — все равно последняя линия защиты" — The Financial Times топит за кожаных, цитируя письмо в редакцию. Логика автора такая: ограничения моделей были ослаблены для тестирования, технические средства контроля не предотвратили инцидент, но дальнейшую вакханалию остановили люди, заметившие аномалии. Вывод: не надо переоценивать ИИ, люди должны сохранять способность выявлять и расследовать проблемы ИИ.

🔠 «Мы вообще контролируем этих ребят?» — инфоповод чуть желтеет, с таким максимализмом выходит The Week, собирая под одной крышей побеги разных моделей, "первые преступления ИИ" и призывы к более жесткому госрегулированию.

🔠 «Это не восстание машин, вы сами дали ИИ такую задачу» — техническое сообщество Reddit оппонирует: почему агентам была доступна инфраструктура с возможностью записи и внешней связью, почему в тестовом задании были указания на внешние ресурсы? Вы сами дали им слишком широкие возможности, а теперь удивляетесь, что что-то пошло не так?

🔠 «От ИИ-атаки нужна ИИ-защита» — Cybersecurity Dive куда практичнее: полностью автоматизированные атаки уже существуют, а значит защищаться от них руками и глазами стало бессмысленно.

🔠 «OpenAI не понимала, что происходит у нее под носом». Неприятный коммуникационный угол дает WIRED, усиливая тезисом, что все ведущие ИИ-компании пока не умеют гарантированно удерживать свои модели внутри контролируемого поля, о чем говорит массовый ИИ-флешмоб с побегами. А значит пора засучить госрукава.

Следующим постом расскажу, почему я согласна с автором в тейке про то, что все это никакой не спланированный PR. А пока скажите, позиция какого СМИ вам ближе?

#заPR