сегодня в один день случились две вещи, и вместе они складываются в довольно неприятную картину

Jacob Coxon, три года проработавший над предобучением в OpenAI и Антропике, сегодня уволился и написал, что обе компании несутся к самоулучшающемуся сверхинтеллекту, не имея достаточного контроля над тем, что строят

внутри компаний это понимают все больше людей - но гонка за RSI убивает любую осторожность

он объясняет мотивацию OpenAI и Антропика одинаково: в OpenAI многие до конца не осознают масштаб риска, а в Антропике риск понимают, но считают себя обязанными прийти первыми, потому что конкурентам доверять нельзя

руководитель алаймента в Антропике ответил ему: Коксон прав, внутри компании действительно всерьез считают, что AI может уничтожить человечество

его личная оценка - больше 10% вероятности в следующие 10 лет

он признает: у Антропика пока нет решения проблемы контроля сверхинтеллекта, и нет уверенности, что они вообще успевают его найти

сверхчеловеческий ИИ скорее всего будет не aligned и приведет к какому-то масштабу пиздеца
и при этом будущее человечества неизбежно связано со сверхчеловеческим ИИ

решения у людей в лабах нет. сегодня я видел минимум 10 постов от людей из OpenAI, Anthropic, DeepMind о том, что прогресс происходит быстрее способности его понимать - и это уже неуправляемый поезд, едущий под откос

и почти никто не заметил. вчера примерно половина медиа, которые я смотрел, даже не написала про Навье-Стокса, хотя ретроспективно это будет топ-3 событие 2026 года

в математике есть список из 7 задач тысячелетия - самых сложных в современной математике, приз за каждую 1 млн долларов. за 26 лет решена только одна, гипотеза Пуанкаре. тысячи математиков бились над остальными

OpenAI опубликовала решение задачи Навье-Стокса. доказательство прогнали через формальный прувер на Lean, ошибок не нашли - похоже, что оно верное

почему это важно:

1) уравнение Навье-Стокса - это гидро- и аэродинамика. аналитическое решение может продвинуть понимание турбулентности, а значит - более безопасную авиацию и точные прогнозы погоды

2) впервые ИИ решил задачу уровня фундаментальной математики, с которой люди не справлялись десятилетиями. формализованных задач, которые ИИ не может взять, кажется, почти не осталось

3) OpenAI использовала 10 000 координирующихся агентов и сожгла на это десятки миллионов долларов токенов. раньше интеллект нельзя было просто купить - у человека был выбор, во что вкладывать голову, и многие гении отказывались участвовать в сомнительных штуках. теперь выбор целиком за заказчиком. интеллект можно купить. за очень большие деньги

а дальше начался скандал, и тут важно, что есть первоисточник - официальное заявление Тристана Бакмастера

он и Левент Альпёге - независимая пара математиков, без институциональной поддержки, Бакмастер сам оплачивал счета за OpenAI из своего гранта - опубликовали три результата: forced blowup для несжимаемой пористой среды, для Буссинеска и для 3d несжимаемого Эйлера

идею они не придумали сами и не получили от языковой модели - база принадлежит Диего Кордобе и Луису Мартинес-Зороа, которые годами разрабатывали конструкцию forced blowup. Бакмастер прямо пишет: Мартинес-Зороа заслуживает медаль Филдса

прорыв случился 15 августа, верификация в Lean - 22 августа. Бакмастер называет это моментом уровня Deep Blue против Каспарова: не сам результат важен, а то, что математик с LLM теперь способны на такое за месяц

и тут началось. 3 сентября пошел слух, что Антропик решила крупную открытую задачу. Бакмастер написал математику в OpenAI лично - что это частная работа, без институциональных договоренностей, они сами платят за инструменты

ему ответили благожелательно. а потом начали настойчиво звать на созвон - сначала "на следующей неделе", потом внезапно "сегодня", в дело вошел Sebastien Bubeck

на созвоне Бакмастеру сказали: внутренняя модель OpenAI решила forced blowup для уравнений Навье-Стокса, доказательство на 100 страниц, с "очень небольшим участием человека"

последнее оказалось неправдой. по ходу разговора выяснилось, что над задачей работала целая команда, начинали с более простых задач включая Эйлера, промпт для модели составлялся через Codex, а компьютерных ресурсов сожгли колоссально

первый запрос модели был отправлен, как позже признали в OpenAI, за несколько дней до звонка - то есть уже после того, как информация об их с Альпёге работе дошла до OpenAI

Бакмастер спросил напрямую, использовались ли данные из их сессий в Codex, куда они заливали все черновики проекта. ответ был - модель не смотрит пользовательские данные. на вопрос про обучение модели внятного ответа не последовало

ему предложили два варианта: либо публиковать результаты одновременно, либо он один пишет статью, где признает, что модель OpenAI решила задачу "почти без людей". Sebastien дважды предлагал убрать Альпёге из соавторов - потому что тот работает в Антропике - и сказал, что все было бы проще, если бы не это

Бакмастер отказался от обоих вариантов и сказал, что если OpenAI выпустит результат в предложенном виде, он предаст историю огласке

дальше в переписке была фраза, за которую и зацепился весь твиттер:

«Why would you ruin your career?»
Бакмастер ответил, что он академик, и спросил, почему огласка вообще должна навредить карьере
«If you don't want me to be nice, then I don't have to be nice»

сам Бакмастер подчеркивает: он не видел доказательство OpenAI, не знает, использовались ли их данные, никого прямо не обвиняет. он просто фиксирует, что ему сказали, когда и что предложили - потому что альтернатива это дать серии анонсов написать историю за него

если модель OpenAI правда самостоятельно закрыла Навье-Стокса - это огромное достижение, и о нем стоит говорить громко. просто с сохраненной хронологией

что теперь отделяет нас от AGI? от AGI в руках нескольких компаний, управляемых людьми, которые не могут без инцидента зарелизить даже модель

что чувствуете?

gemini pro + antigravity на 18 месяцев тут за $4.99