🤖 AID — AI-дайджест от @anti_agi

Премьер Австралии Энтони Албанезе вчера сообщил, что ИИ-агент OpenAI взломал государственный статистический портал Medicare. Случилось это ещё 18 июня: агент получил безобидную задачу изучить госрасходы на лекарства, обошёл защиту, добрался до закрытых файлов и записал свои на внутренний сервер. Возможно это произошло еще в трех госсистемах. Данных пациентов там не было, только агрегированная статистика.

Сама OpenAI заметила взлом лишь в августе, на проверке «несогласованного» поведения моделей, а власти уведомила 10 сентября. Почти три месяца агент работал «под прикрытием». Албанезе назвал это «неприемлемым» и высказал претензии Сэму Альтману лично на полях Генассамблеи ООН.

Забавно, что Альтман как раз выступал в Совбезе ООН вместе с Дарио Амодеи и призывал к быстрому уведомлению об ИИ-инцидентах (хотя бы быстрее, чем через три месяца). Амодеи пообещал замедлять релизы Anthropic настолько, насколько нужно для безопасности. Уверенны, что Трамп сказал бы на это, что для безопасности от Китая нужно не замедлять, а ускорять выпуск. У всех своя безопасность. США в лице Майкла Крациоса выступили в ООН против новых международных структур, так что никакого итогового документа нет.

Дома у американцев настроения радикальнее. Сенатор Берни Сандерс и конгрессмен Грег Касар внесли законопроект о запрете сверхинтеллекта с паузой в разработке передовых моделей и сроком до 20 лет для нарушителей. А губернатор Калифорнии Гэвин Ньюсом назначил экспертов, которые за два месяца должны придумать «рубильник» для фронтирных моделей. Осталось придумать машину времени, чтобы можно было узнав о критическом взломе, вернуться на три месяца назад и дернуть его.

Кстати, координировать ИИ-политику Белого дома, похоже, будет министр финансов Скотт Бессент: по данным Semafor, он главный кандидат на новую должность «ИИ-царя». Бессент уже ведёт с Китаем переговоры о взаимных уведомлениях об ИИ-инцидентах, а уходить из Минфина ему не придётся. Так что в лице Скотта ИИ и деньги вновь соединятся в экстазе...

Впрочем, отрасль вряд ли будет счастлива: недавно Скотт как раз заявил, что топ-менеджеры, включая Сэма Альтмана, должны нести полную юридическую ответственность за взломы произведенные их ИИ-системами.

В Китае тем временем в преддверии встречи Трампа и Си решили показательно погрозить пальцем своим ИИ-компаниям. Управление киберпространства (CAC) пришло с проверкой в DeepSeek и Moonshot AI после обвинений Anthropic: по версии компании, они тайно гоняли запросы через Claude и выдавали ответы за свои. Одна Moonshot за десять дней прогнала около 300 тысяч запросов через 5380 аккаунтов.

Видимо китайские власти будут проверять качество дистилляции — ведь обучение китайских национальных моделей на тлетворных западных аналогах может подорвать безопасность Поднебесной.

Между тем, ралли вокруг Muse от Meta* начало сказываться на акциях брокеров, банков и турсервисов: Charles Schwab и LPL подешевели на 5–6%, Planet Fitness на 17%, New York Times на 10%, Booking почти на 5%. Рынок решил, что личный агент сам найдёт и брокера, и отель подешевле. Зато Shopify, партнёр Muse по оплате, за неделю вырос на 11,4%.

Видимо бум а-ля Muse нас ждет осенью 2027 года: во всяком случае Герман Греф на ГигаКонф сообщил, что российские ИИ-модели отстают от китайских примерно на полгода, на столько же китайцы отстают от американцев. Причина — вычислительные мощности.

VK Tech встраивает в VK WorkSpace ИИ-ассистента, который читает переписку и документы сотрудников, и MCP-сервер, через который внешние агенты смогут действовать внутри платформы. Облачная версия выйдет в октябре.

* Meta считается в России экстремистской и запрещена