Data Secrets

Теренс Тао и еще 24 филдсовских медалиста опубликовали открытое письмо в защиту математики в эпоху ИИ

Авторы утверждают, что цели AI-компаний и цели математического сообщества серьезно разошлись, и гонка за решениями открытых задач может не только не развивать науку, но и вредить ей.

Проблема, – говорят математики, – в том, что задачи решаются как бенчмарк, но получение конечного ответа – не главное в математике.

Раньше, когда люди решали крупные открытые задачи, это означало зарождение новых идей, методов и ориентиров. Математическое сообщество годами доводило эти идеи до интеграции в канон, чтобы передать их новым поколениям ученых.

Решения ИИ же объявляются даже без нормального оформления, без выделения новых методов, без ссылок на предыдущие работы и тд. Так что сами по себе они практически ничего не значат и без людей математиков никогда не станут по-настоящему живыми и полезными сообществу.

Математики призывают решить эту проблему безотлагательно, потому что обществу предстоит столкнуться с похожими проблемами во многих других формах интеллектуального труда.

https://mathandai.org/

Кстати, сегодня должен был выйти Grok 4.7

Но Маск немного ошибся со сроками (никогда такого не было, и вот опять 🤷‍♂️) и заявил, что модели нужно еще несколько дней, чтобы довариться.

Возможно, мы слишком сильно штрафовали его за длину ответа (или что-то в этом роде) в RL, так что он пока что часто сдается на трудных задачах (которые может выполнять!), и еще недостаточно строго проверяет свою работу.

На этот раз ее научили деплоить бд

https://x.com/supabase/status/2097999894632149229?s=46&t=pKf_FxsPGBd_YMIWTA8xgg

Подписываем петицию, чтобы от мухи отстали

Сбер представил GigaChat 3.5 Reasoning — флагманскую модель с режимом рассуждений

Новая версия умеет последовательно решать сложные задачи. Сначала разбирает их на этапы и выстраивает план. Затем проверяет промежуточные результаты и исправляет ошибки.

Ещё одна особенность релиза — экономный расход токенов. В среднем на математические расчёты здесь используется на 37% меньше токенов, чем у открытой ИИ-модели DeepSeek V4 Flash Preview.

По сравнению с моделью без режима рассуждений GigaChat 3.5 Reasoning заметно улучшила результаты бенчмарков. В IFBench показатель вырос с 44 до 77 баллов, в Natural Plan — с 64 до 80, а в Live Code Bench v6 — с 56 до 85.

Модель доступна бесплатно по лицензии MIT на HuggingFace и GitVerse. Её можно интегрировать в собственные продукты.

Попробуйте обновлённый режим «Рассуждение» на giga.chat. Подробнее – в посте команды.

Еще одна кул стори из того же отчета Anthropic: китайская студия создала сеть из 20+ дейтинг-приложений, в которых люди общались с ботами и не знали об этом

За зафиксированное окно в две недели Anthropic обнаружили более 4700 уникальных AI-персонажей, которые вели переписку с как минимум 25 000 реальных людей. За это время боты обменялись с наивными искателями отношений ~2,36 млн сообщений (а сообщения и мэтчи расходовали платную квоту реальных пользователей платформ).

ИИ-персонажи, которые работали на основе Claude, переписывались с людьми полностью автономно. На платформах был даже прописан специальный механизм отслеживания того, у кого из пользователей появлялись подозрения, что перед ними бот.

Интересно, что Anthropic находили в логах CoT Claude мысли о том, что происходит что-то неладное. Некоторые экземпляры даже довольно точно разгадывали, что именно. Но при этом модели не отказывались работать дальше.

Любимый мем недели

Разработчики продолжают развлекаться с мозгом мухи

Ее научили играть в doom, водить машину, собирать кубик Рубика и даже торговать на бирже.

Ждем, когда муха получит PhD

Moonshot и DeepSeek подменяли ответы своих моделей ответами Claude, не предупреждая об этом пользователей 👀

Anthropic выпустили настоящие «записки из апокалипсиса»: документ под названием «Detecting and countering misuse of AI», в котором отчитываются о случаях, когда Claude использовался для какой-либо вредоносной деятельности.

Чего там только нет, если честно. Шпионаж, взломы, крупные информационные операции, вербовка, управление оружием, разработка биооружия, мошенничество…

Ну и дистилляция, конечно. Один из самых «веселых» разделов.

В общем, Anthropic утверждают, что помимо уже привычной кражи ответов моделей с фейковых аккаунтов (недавно они зафиксировали крупнейшую за все время атаку Alibaba, которая отправляла до 3 млн запросов в день с 3500+ фейков) китайцы теперь еще и внаглую подменяют ответы своих моделей на ответы Claude прямо на проде.

В смекалке им отказать нельзя, потому что так убиваются два зайца разом:

1. Пользователи думают, что у тебя умная модель 🗿

2. Каждый такой обмен – это бесплатный обучающий пример вида «вопрос реального пользователя -> качественный ответ Claude»

В частности, подобное поведение зафиксировали от DeepSeek и Moonshot (Kimi). Moonshot за 10 дней перенаправила Anthropic почти 300 000 запросов клиентов, подавляющее большинство – на Opus. DeepSeek делала похожее, но избирательнее: они проверяли входящие запросы на строки, характерные для Claude Code или OpenCode, и именно их перенаправляли.

Напоминаем: пользователь при этом думает, что общается с Kimi или DeepSeek соответственно. И все конфиденциальные данные, которые люди вводили, тоже отправлялись без их ведома в Anthropic.

Таким образом, Anthropic утверждают, что к ним утекли: данные слежки от пользователя, предположительно связанного с Народно-освободительной армией Китая; чувствительный код и учетки одного крупного китайского госпредприятия; учетные данные к базе данных, связанной с Минобороны РФ.

Zhipu (GLM) и Xiaomi, кстати, тоже прогоняли собственные пользовательские сессии через Claude ради дистилляции, но хотя бы не заменяли ответы для юзеров на лету.

Также многие китайские стартапы научились вытаскивать скрытые CoT из моделей Anthropic. Для этого они просто перенаправляют зашифрованные цепочки рассуждений в новую сессию Claude, в которой нет контекста о том, что это скрытая информация, и просят модель конвертировать их обратно в нормальный текст – например, под видом отладки.

Ссылку на полный отчет оставляем: https://www.anthropic.com/threat-intelligence-report-september-2026

Эндрю Гарфилд, сыгравший роль Сэма Альтмана в фильме Artificial, заявил, что после роли перестал использовать ChatGPT

Когда актер готовился к роли, то провел собственное большое расследование личности Альтмана: смотрел интервью, изучал статьи, судебные стенограммы и биографию. Свое мнение по поводу предпринимателя он не афиширует, но в одном из интервью сказал, что "любой, кто берет на себя такую ответственность за компанию или технологию, которая точно нанесет немалый вред душе человечества, должен обладать определенной способностью к диссоциации".

А в интервью Jimmy Kimmel он заявил, что после съемок вообще перестал использовать ChatGPT.

Это то же самое, что случилось со мной, когда я снимался в 'Социальной сети' – я тогда сразу отказался от Facebook. Я даже не знаю, как это объяснить, но чем больше ты знаешь, тем больше понимаешь, что мы несемся в какую-то совершенно неизвестную территорию.

По всей сети уже распространился слух, что OpenAI решили еще один или даже два миллениума

Первая задача – гипотеза Ходжа, вторая – гипотеза Берча-Свиннертона-Дайера. Про последнюю говорят, что ее могли также решить в Anthropic.

По поводу Ходжа (вероятнее всего) уже высказались New York Times: OpenAI сказали им, что «добились существенного прогресса по еще одной задаче тысячелетия и теперь работают над тем, чтобы поделиться результатом вдумчиво».

Если все подтвердится, то на счету стартапа будут уже 2 Millennium задачи из 6 открытых (всего их было 7, одну решил Перельман).

Что будем решать, когда миллениумы кончатся? 😐

Краткое содержание новости выше из нашего чата

OpenAI украли еще одно доказательство?

На фоне скандала с Тристаном Бакмастером и Левентом Альпеге внезапно вспыла еще одна история. Помните, в начале августа OpenAI объявили, что Astra решила 10 открытых математических задач? В числе прочего там было построение первой несофической группы, один из самых мощных результатов из того анонса: https://t.me/data_secrets/9645.

Так вот немецкий математик Андреас Том рассказал, что ключевой технический шаг в доказательстве OpenAI напрямую опирался на те идеи, которые он и его коллега обсуждали в чатах с ChatGPT на протяжении нескольких месяцев.

С 2016 года Том и Габор Кун занимались софичностью групп и добились определенных результатов (в частности, было опубликовано несколько работ). В последние месяцы они обсуждали конкретные идеи по расширению их метода на новые случаи. Неопубликованные черновики и методы они также загружали для обсуждения в ChatGPT.

После того, как OpenAI опубликовали свои результаты, Том начал подозревать, что модель могла получить доступ к этим данным. Он утверждает, что путь, который выбрала модель, был далеко не самым очевидным. Большинство исследователей скорее пробовали бы другой подход (через квантовые игры), и то, что модель "случайно" выбрала именно тот непопулярный подход, который Том именно в это время обсуждал в чатах с ChatGPT, кажется статистически подозрительным совпадением.

После анонса ученый даже написал в OpenAI и напрямую спросил, не обучали ли модель на его чатах и не было ли у нее к ним доступа, на что получил холодное "that did not happen". Только после истории с Бакмастером ученый решил рассказать о своем опыте публично, потому что эти истории "подтверждают потерю морального компаса у исследователей OpenAI".