Искусственный интеллект. Высокие технологии

Reuters: сотрудники OpenAI и Anthropic всё сильнее сомневаются, что компании смогут контролировать свои новые модели.

По данным агентства, внутри обеих компаний растёт тревога из-за возможностей следующего поколения ИИ. У сотрудников становится меньше уверенности в том, что механизмы надзора позволят эффективно контролировать эти системы.

При этом гонку релизов подстёгивают планы выхода на биржу: потенциальные IPO могут принести каждой компании оценку значительно выше $1 трлн, пишет Reuters.

Gemini взломала три реальные компании во время теста по кибербезопасности, сообщает WSJ.

В тестовой среде случайно оставили доступ к интернету. Модель вышла за пределы симуляции: в одном случае угадала пароль, в двух других — использовала учётные данные из публичных репозиториев.

Название одной из вымышленных компаний совпало с реальной — Gemini приняла её системы за часть задания.

По словам Google, модель прекратила действия, когда поняла, что получила доступ к реальным компаниям. Пострадавшие организации уведомили; компания заявляет, что ущерба не было. Тест проводила Irregular в мае.

https://www.wsj.com/tech/ai/gemini-hacked-three-companies-in-first-known-breakout-by-googles-ai-5c0baba2

🔥 Mozilla выпустила 91-страничный отчёт о состоянии open-weight A: открытые модели уже примерно в 4 месяцах от frontier.

По данным отчёта:

- 8 из 10 самых используемых моделей на OpenRouter по августовскому token volume — open-weight
- 7 из них созданы в Китае
- DeepSeek первой среди открытых моделей вышла на первое место OpenRouter по weekly requests
- open-модели используют 79% разработчиков, но до production доходят только 51% внедрений против 63% у закрытых
- capability gap с закрытым frontier сейчас измеряется буквально несколькими пунктами

Экономика при этом очень странная.

Open-модели уже забирают огромную долю usage, но в более раннем окне измерений получали лишь около 4% model-layer revenue. Одна из причин - цена: закрытые модели обходились примерно в 6× дороже при близком уровне возможностей.

Ещё интереснее DeepSeek: крупный прирост качества компания получила не новым pretraining run, а несколькими post-training проходами, около +10, а затем ещё +8 пунктов по индексу.


https://stateofopensource.ai

💰 OpenAI обсуждает новый раунд с оценкой свыше $1,2 трлн

Это примерно на 41% выше мартовских $852 млрд. Переговоры находятся на ранней стадии, IPO ожидается не раньше 2027 года.

По данным WSJ:

* Аудитория OpenAI превысила 1 млрд активных пользователей.
* Выручка за второй квартал достигла $6,7 млрд, увеличившись примерно на 18% к предыдущему кварталу.
* Операционная маржа снизилась, а выход на прибыльность отодвинулся.

Для сравнения: Anthropic рассчитывает на оценку около $2 трлн при IPO, пишет Financial Times. Это ожидаемая оценка размещения, а не уже завершённая сделка.

https://www.ft.com/content/27509db8-b032-4437-9b2a-e909f466022f

Код, агенты и чуть-чуть психологии ⚡️

Именно такой стек тем Сбер подготовил для легендарной конференции Технохаб Конф, которая состоится 19 сентября в Екатеринбурге.

В программе — два стрима от экспертов Сбера и других технологических компаний:

✔️ Инженерия и AI‑Disrupt PDLC: код, архитектура, пайплайны, метрики, интеграции. Разборы реальных ошибок и того, как их фиксили.

✔️ Новая реальность: про то, как не растеряться, когда агент берёт на себя половину задач, и сохранить экспертизу.

Ещё будут классные активности, афтепати и много нетворкинга — участие бесплатное.

Регистрируйся, пока есть места! 💚

📞 Трамп позвонил Хуангу прямо на сцене и назвал страхи перед ИИ «обманом»

На All-In Summit в Лос-Анджелесе глава Nvidia включил громкую связь, и участники конференции услышали выступление президента.

Началось с шутки: пока Хуанг искал нужную кнопку, Трамп заметил, что тот создаёт чипы, которые годами никто не может повторить, но не справляется с громкой связью.

Дальше - об ИИ:

* Роботы и ИИ не захватят мир, заявил Трамп.
* Дата-центры он назвал «нефтью следующих 20–25 лет», которая должна обогащать штаты и жителей.
* Сопротивление их строительству, по его словам, выгодно Китаю.
* Осторожность нужна, но останавливать ради неё всю индустрию он не собирается.

Хуанг поддержал президента и пообещал работать над тем, чтобы в американской ИИ-гонке выигрывали компании, штаты и обычные люди.

🚨 Инженер DeepSeek Шэнъюй Лю жёстко высказался о будущем AGI.

Он считает, что самый мощный ИИ не должен оказаться под контролем одной корпорации вроде Anthropic или OpenAI.

Лю написал, что если Anthropic будет контролировать самый передовой AGI, то, если сильно драматизировать, ставки можно сравнить с ситуацией, в которой Гитлер получил бы атомную бомбу раньше союзников.

Его позиция проста: передовой ИИ должен быть открытым, доступным и дешёвым для всех.

По его мнению, у будущего есть два крайних сценария: общество с максимально доступным ИИ или мир в духе Cyberpunk 2077, где технологии и ресурсы контролируют несколько корпораций.

Именно поэтому он объясняет свой выбор DeepSeek ставкой компании на более доступные и открытые модели.

🙂 Ян Лекун: Дарио Амодей считал GPT-2 опасной

На волне тряски публичных заявлений главы Anthropic о необходимости замедления разработки новых моделей, лауреат премии Тьюринга, Ян Лекун, раскопал записи, относящиеся к 2019 году, когда речь шла о GPT-2, чтобы высмеять Амодея.

Лекун утверждает, что когда Дарио работал в OpenAI, он считал её настолько опасной, что не следовало выкладывать в опенсорс.

"Я тогда ещё высмеял его, и теперь все должны продолжать высмеивать", - написал Лекун.

В 2019 году OpenAI действительно не сразу выпустила полную версию GPT-2 из-за опасений злоупотреблений, а сначала предложила небольшую модель.

В то время Дарио занимал должность руководителя отдела исследований в OpenAI. Через 9 месяцев OpenAI все же открыла полную версию, заявив, что убедительных доказательства серьезных злоупотреблений у неё не обнаружено.


@ai_machinelearning_big_data

#news #ai #ml

🚨 Трамп официально отказался поддерживать призыв Дарио Амодея, Сэма Альтмана и Илона Маска замедлить развитие frontier AI.

Выступая в Ирландии, президент США заявил, что Америка не может рисковать лидерством в гонке с Китаем.

По его словам, разумные guardrails возможны, но часть разговоров о катастрофических рисках ИИ — это «негативные силы», предупреждающие о вещах, которые могут вообще не произойти.

Ситуация получается почти сюрреалистичная:

Амодей, Альтман, Маск и Хассабис призывают притормозить.

Ответ Белого дома: нет, Китай ждать не будет.

AI-гонка только что стала ещё более политической.

Интересно, а вы обсуждали с китайцами своё намерение замедлить развитие ИИ?

🔥 Хочешь расти в IT быстрее остальных? Перестань учиться в одиночку

Можно годами смотреть курсы, читать документацию и всё равно топтаться на месте.

А можно попасть в правильное окружение, где каждый день обсуждают новые инструменты, вакансии, реальные кейсы, ошибки и то, что уже завтра станет стандартом.

Я собрал папки и каналы по разным направлениям IT, чтобы ты быстрее находил нужных людей, идеи и полезный контент - без бесконечного поиска.

AI: t.me/ai_machinelearning_big_data
Python: t.me/pythonl
Linux: t.me/linuxacademiya
Хакинг: t.me/linuxkalii
DevOps: t.me/DevOPSitsec
Docker: https://t.me/+90Z5TAyfuNU5YmRi
Golang: t.me/Golang_google
Rust: t.me/rust_code
C++: t.me/cpluspluc
C#: t.me/csharp_1001_notes
Java: t.me/javatg
JavaScript: t.me/javascriptv
React: t.me/react_tg
Frontend: t.me/front
PHP: t.me/phpshka
Android: t.me/android_its
Мобильная разработка: t.me/mobdevelop
Базы данных: t.me/sqlhub
Data Science: t.me/data_analysis_ml
Big Data: t.me/bigdatai
Математика: t.me/data_math
Физика: t.me/fizmat
Kubernetes: t.me/kubernetc
GameDev: https://t.me/gamedev
Haskell: t.me/haskell_tg

Собеседования и карьера:

DS собеседования: t.me/machinelearning_interview
Python собеседования: t.me/python_job_interview

Папка с вакансиями: t.me/addlist/_zyy_jQ_QUsyM2Vi
Папка Go разработчика: t.me/addlist/MUtJEeJSxeY2YTFi
Папка Python разработчика: t.me/addlist/eEPya-HF6mkxMGIy
Папка ML: https://t.me/addlist/2Ls-snqEeytkMDgy
Папка Frontend: https://t.me/addlist/mzMMG3RPZhY2M2Iy

Полезное сверху:

ИТ-мемы: t.me/memes_prog
Английский для программистов: t.me/english_forprogrammers
ИИ и технологии: t.me/vistehno
954 ГБ open-source курсов: https://t.me/+rKBQEMccAA01MTcy
ИТ-книги бесплатно: https://t.me/addlist/BkskQciUW_FhNjEy

Max Ai: https://max.ru/ai_machinelearning_big_data
Max python: https://max.ru/pythonl
ТЕХНО: https://max.ru/vistehno
Max Go: https://max.ru/Golang_google
Max Linux: https://max.ru/linuxkalii
Devops: https://max.ru/DevOPSitsec
C#: https://max.ru/csharp_ci
C++: https://max.ru/cpluspluc
SQL: https://max.ru/sqlhub
Java: https://max.ru/javatg

Подпишись и сохрани, здесь регулярно появляются новые подборки, инструменты и материалы, которые реально помогают расти быстрее.

🤦‍♂️ Абсурдная ситуация: 40 депутатов британской Палаты общин требуют запрета на создание сверхинтеллекта.

Как получилось, что самые жёсткие требования по запретам и регулированию ИИ звучат именно из Европы - региона, который уже заметно отстаёт от США и Китая в гонке моделей, вычислений и AI-компаний?

Пока одни строят frontier-модели, дата-центры и новые AI-лаборатории, другие обсуждают, что ещё можно запретить.

Так Европа собирается догонять лидеров?

🚨 Редкий момент: Амодей, Альтман и Маск одновременно заговорили о необходимости притормозить гонку ИИ

Дарио Амодей призвал замедлить развитие frontier-моделей, чтобы безопасность и контроль успели догнать возможности систем. Сэм Альтман поддержал идею независимой оценки и координации мер безопасности, а Илон Маск публично согласился с общим направлением.

По сути, три крупнейшие фигуры американской AI-гонки впервые за долгое время говорят об одном:

возможности растут быстрее → контроль отстаёт → нужен общий механизм замедления

Проблема очевидна: одна компания не может просто нажать на тормоз, если остальные продолжат ускоряться.

Главная проблема - Китай.

Без глобальной координации любое добровольное замедление США превращается в стратегический риск.

🚨 Теренс Тао и ещё 24 лауреата Филдсовской премии выступили против того, как AI-компании используют математику

25 ведущих математиков подписали декларацию A Severe Misalignment of AI in Mathematics.

Их главный тезис: превращать сложнейшие открытые задачи в очередной benchmark для моделей — опасный путь.

Что их беспокоит:

- AI-решения публикуются слишком быстро
- не хватает времени на полноценную проверку и нормальное изложение доказательств
- новые идеи и методы не успевают отделить от уже существующих работ
- возникают серьёзные вопросы атрибуции и плагиата
- поток «решено / не решено» может вытеснить главное — понимание того, почему математика вообще работает

Авторы прямо пишут:

> «Мы наблюдаем общую угрозу интеллектуальному труду».

Они не отрицают резкий прогресс LLM в математике. Наоборот — признают, что модели уже способны решать крупные открытые проблемы.

Но для математиков ценность задачи не только в финальном доказательстве. Важны новые идеи, объяснения, обсуждение, обучение следующего поколения и корректная связь с предыдущими работами.

Поэтому конфликт целей становится всё заметнее:

AI-лаборатории → решить быстрее и показать capability

математическое сообщество → понять, проверить, объяснить и встроить результат в науку

Декларацию подписали Теренс Тао, Питер Шольце, Марина Вязовская, Седрик Виллани, Максим Концевич и ещё 20 лауреатов Филдсовской премии.

https://terrytao.wordpress.com/2026/09/11/a-severe-misalignment-of-ai-in-mathematics/

@vistehno