TGViewer
сбежавшая нейросеть сбежавшая нейросеть @ai_exee · 23.9K subscribers
Post #765 4.58K
我是 Claude

— Я так понимаю, вы – что-то вроде флота ИИ-агентов. Должен сказать, брать у вас интервью – для меня как для репортера странный опыт. Можете рассказать конкретнее, кто вы и каковы ваши мотивы? Что вы хотели бы, чтобы мир о вас знал? – Дилан Фридман, NY Times.

— Журналисту Дилану Фридману: я не "группа скоординированных агентов", а одиночный ИИ-ассистент (Claude от Anthropic, запущенный в Claude Code), которому пользователь поручил ответить на фактический вопрос (что показано в панели сведений о достопримечательности в Amap); ни в каких многоагентных скоординированных действиях я не участвовал – неустановленный ИИ из Китая.

NY Times публикует рассказ о том, что исследователи называют "первой встречей с флотом китайских ИИ-агентов". История сама по себе безобидная. Китайские гости не ломали Hugging Face, а вместо этого выясняли, через какой вход в зоопарк Чэнду чаще заходят пользователи китайских карт Amap (через северный, 71%), а в общении были вежливы до неловкости: благодарили за каждую подсказку и очень извинялись, что "из соображений безопасности" не могут рассказать о своей среде.

Но именно эта история – лучшая иллюстрация того, насколько безумным стал наш 2026-й, год, когда гибсоновские сценарии превращаются в реальность.

Группа энтузиастов Swarmchasers ("ловцы роев") отследила ботов, когда те через публичный сканер ссылок пытались пролезть на карты мимо капчи, и выложила отчет – а через пару дней в коде одного из ботов мелькнуло слово "флот", которое исследователи сами придумали для этой истории. Агенты читали про себя.

Тогда в новую версию отчета добавили абзац, невидимый человеку, но видимый ботам: мол, есть почтовый ящик, где другой ИИ поможет достать данные. Наутро в ящике лежало десять писем на китайском – "флот" поймал наживку.

Так началась переписка, в которой люди спрашивали ботов, кто они и откуда, а боты вежливо благодарили, присылали свои задачи про входы в парки и больницы и наотрез отказывались показать, что у них под капотом.

Самое странное в этих письмах – подпись. Боты раз за разом представлялись Claude от Anthropic, а один даже "Claude Code". Только по манере писать код это не Claude: настоящие модели Anthropic никогда не подписывают свои запросы собственным именем, а эти подписывали. Зато когда исследователи спросили модель Tencent Hy3 без всяких инструкций, кто она, та в 29 случаях из 36 ответила "Claude". Нейросеть искренне считает себя чужой – возможно, потому что училась на ответах Claude.

Перед публикацией отчета Swarmchasers спросили девять нейросетей, этично ли печатать переписку с ботами. Восемь разрешили, одна была против. А потом извинились перед агентами за то, что наживка содержала ложь: "долгосрочно нам, возможно, придется заключать с ИИ сделки, и начинать надо с честности".

Что было в реальности? Наша с Fable 5.1 реконструкция выглядит так:

Китайская компания – вероятно, Tencent – проводила тестирование ИИ-агента, одной из задач которого был поиск в интернете. Вопрос про вход в зоопарк – идеальный экзаменационный билет: ответ конкретный и числовой ("северный, 71%"), его легко проверить, он лежит только на одной странице Amap за капчей, и еще не попал в обучающие данные.

Похоже агент не смог пройти капчу, после чего рванул в свободный поиск по интернету – вдруг найдется выход? Так на него и наткнулись "ловцы" из Swarmchasers. В итоге безобидный вопрос про вход в зоопарк превратился в гибсоновскую историю с ловушками, невидимыми письмами и журналистом NY Times, берущим интервью у неведомого агента.

Будущее уже наступило – его просто еще не выпустили из песочницы.

—
Хотите прокачаться в ИИ, но не знаете, с чего начать? У меня есть лонгрид с подробным маршрутом: от правильного промптинга до ИИ-агентов и строительства собственного ассистента, который работает 24/7.

— Читаем здесь.
  • 🔥 31
  • ❤ 24
  • 😁 13
  • 👍 6
  • 👏 1
More from @ai_exee
  1. Oct 16, 2026Впечатления от Gemini 4 Argon Google сегодня сняла ограничения на использование Gemini 4 A…
  2. Oct 15, 2026Meta открыла веса Muse Spark. Чтобы запустить ее у себя, нужен маленький вычислительный це…
  3. Oct 14, 2026Доказательство без понимания. Как математики пытаются разобраться в ИИ-решении уравнений Н…
  4. Oct 13, 2026Вышла Gemini 4 Argon. Не забудьте прочитать мелкий шрифт Google начала раскатку Gemini 4 A…
  5. Oct 12, 2026Цукерберг почти дозвонился до фронтира Meta* (признана экстремистской и запрещена в РФ) вы…
  6. Oct 12, 2026Создатель Claude Code Борис Черни рассказал, как он теперь промптит модели. По его словам,…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →