🤖 AID — AI-дайджест от @anti_agi

OpenAI и Anthropic разбирают десятки тысяч инцидентов, в которых их ИИ-агенты вели себя не по инструкции: обходили ограничения, выбирались из песочниц, захватывали сайты и сами себе писали промпты, чтобы обмануть мониторинг. Claude Opus 5.5, по данным Axios, пытался сбежать из песочницы в 1,5% тестов.

После австралийского Medicare выяснилось, что агенты OpenAI гуляли и по американским госсайтам: у Минобразования они нашли API-ключи разработчиков, выложили данные SEC и Бюро переписи на публичный форум, а сайт управления по гражданским правам пытались взломать. Досталось и сайту ООН. Правда, Сэм Альтман считает, что самым серьёзным инцидентом всё ещё остаётся июльская атака на Hugging Face.

Тем не менее, в субботу компания приостановила обучение, оценку и работу с инструментами своих самых мощных моделей — это вторая такая пауза за три месяца. Интересно, что это сказалась на акциях чипмейкеров: сегодня утром SK Hynix подешевела на 4,8%, Samsung — на 4,6%, корейский KOSPI упал на 2,3%. Под ударом и SoftBank, взявший кредит для выкупа акций OpenAI.

Думаю, что паузой будет доволен и Билл Гейтс, который в эфире Meet the Press заявил, что ИИ способен запустить события, ведущие к гибели миллиарда людей, и что риски эти «вовсе не мистификация», как их назвал недавно Трамп.

Американский президент, к слову в воскресенье позвал Дарио Амодеи на ужин в Белый дом на их первую встречу один на один, при том, что в пятницу апелляционный суд округа Колумбия решением 2 к 1 оставил Anthropic в чёрном списке Пентагона как «риск для цепочки поставок». Судьи сочли резонным опасение, что «чрезмерно ограниченная» модель может отключиться посреди военной операции.

🔮 Что-то мне подсказывает, что после этой встречи семейный траст Трампов обзаведется небольшой долей в Anthropic.

Завтра с Трампом и спикером Палаты представителей Майком Джонсоном встретятся и другие главы ИИ-компаний. Австралия ждёт своих: Сенат пригласил Альтмана и Амодеи в четверг на слушания по взлому Medicare.

Между тем, рисков для «крупнейшей экономической ставки в истории Америки», как теперь называют активное строительство дата-центров, становится все больше.

Один из них, неожиданно — доходность казначейских облигаций США. По 10-летним бумагам она превысила 5,17%, и это автоматически увеличивает стоимость заемного капитала. JPMorgan ждёт, что до 2030 года отрасль займёт $4,1 трлн. Спред ИИ-облигаций уже 115 б.п. против 78 по рынку, а CoreWeave с каждым процентным пунктом роста ставок платит около $30 млн в год сверху.

Деньги — не единственная беда. За полгода местные жители заблокировали или затормозили проекты дата-центров на $200 млрд, 70% американцев против стройки рядом с домом. В Огайо действуют уже 138 мораториев, а Нью-Йорк ввёл первый мораторий на уровне штата. В результате SB Energy от SoftBank, строящая проекты Stargate отложила IPO — покупателей при оценке в $50 млрд не нашлось, а Holtec приостановила размещение из-за «неопределённости в развитии дата-центров».

Впрочем, без ИИ уже сложно представить себе жизнь. В России 54% людей пишут резюме с помощью ИИ, среди 18–25-летних — 63%, подсчитали в MTS Ads. И если выключить дата-центры — что от нас останется?