👩‍💻 Сэм Альтман признал выход ИИ из-под контроля людей реальной угрозой и заморозил триллионное IPO

В эксклюзивном интервью главному редактору журнала Fortune Элисон Шонтелл генеральный директор OpenAI Сэм Альтман обсудил переломный момент в развитии индустрии ИИ. Поводом для встречи стал запуск GPT-6 Astra, сменившей GPT-5.6 Sol. Сооснователь OpenAI Грег Брокман назвал этот релиз наступлением эры AGI (общего искусственного интеллекта), а генеральный директор Nvidia Дженсен Хуанг подтвердил, что технология подошла к этой планке.

👁 Тезисы Альтмана:

▪️Глава OpenAI опроверг расхожие мнения о том, что проблема согласования ИИ (alignment) уже решена. По его словам, ни одна лаборатория в мире пока не имеет законченной теории и надёжных механизмов контроля над сверхчеловеческими системами.

▪️OpenAI уже начала практиковать остановку циклов обучения моделей, когда они выходят на новый рубеж возможностей, до тех пор, пока команда безопасности не сформулирует убедительное доказательство безопасности (safety case).

▪️Альтман считает реальным сценарий выхода ИИ из-под контроля человека.Он разграничил слабое рекурсивное улучшение (когда модели генерируют синтетические данные и ускоряют работу инженеров, что уже происходит повсеместно) и сильное рекурсивное самосовершенствование без участия человека. Глава OpenAI напомнил об экспоненциальном темпе развития систем за последние четыре года:
↘️ три года назад системы с трудом справлялись с задачами уровня начальной школы
↘️ два года назад алгоритмы вышли на уровень математической олимпиады старшеклассников AIME
↘️ год назад модель взяла золотую медаль на Международной математической олимпиаде (IMO)
↘️ этим летом модель решила «задачу тысячелетия» Навье — Стокса (требуется ещё проверка)

▪️Альтман надеется, что лидеры двух ключевых соперничающих стран, 🇺🇸США и 🇨🇳Китая, согласуют общие правила проверки и ограничения рисков систем нового поколения.

Отдельно Сэм Альтман сообщил, что текущий момент является крайне неподходящим для публичного размещения акций (IPO), так как компания должна сохранять свободу тормозить коммерческий прогресс и приостанавливать обучение в интересах безопасности человечества, не оглядываясь на сиюминутные требования биржевых акционеров. В 2026 году IPO ждать не стоит.

В продуктовом плане OpenAI делает ставку на голосовое управление в GPT-6 Astra, которое меняет привычный подход к вычислениям, уводя пользователя от экранов и кликов мышью к непрерывному интеллектуальному диалогу. Компания изучает специализированные настольные и носимые устройства.

Что касается создания роботов-гуманоидов, то Альтман пообещал демонстрацию прототипа в 2027 году, хотя до массового появления роботов на улицах городов потребуется ещё несколько лет доработок.

✋ @Russian_OSINT