Меньше AGI, больше прагматизма. OpenAI переписала свой устав

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Сэм Альтман опубликовал новый устав OpenAI («Наши принципы»), который стал первой крупной переработкой ориентиров компании с 2018 года, в том числе роли общего искусственного интеллекта (AGI). Если раньше он был центральной идеей, то теперь отходит на второй план.

О чем говорится в уставе

Будущее, по версии OpenAI, может пойти двумя путями: власть либо сосредоточится в руках «небольшой горстки компаний», контролирующих «суперинтеллект», либо будет распределена между людьми. Компания утверждает, что выбрала второй сценарий, и формулирует пять принципов, чтобы ему придерживаться:

OpenAI описывает желаемое будущее через пять принципов. Власть над ИИ не должна концентрироваться — ни у государств, ни у корпораций, ни у самой OpenAI. Технология должна быть доступна всем, а не только тем, кто может себе это позволить. Инфраструктура должна быть глобальной и дешевой — иначе разговоры о демократизации останутся разговорами. А новые риски — биооружие, кибератаки — требуют коалиций, а не конкуренции.

И наконец: все написанное выше может измениться, потому что никто пока не понимает, куда это все ведет.

AGI

Одно из самых заметных изменений касается роли AGI. Если в уставе 2018 года AGI был организующей идеей документа — и упоминался двенадцать раз, — то в новой редакции его упоминают лишь дважды, отмечает Business Insider.

Шесть лет назад OpenAI формулировала свою задачу через работу именно с AGI. В компании думали так: «Чтобы эффективно реагировать на влияние AGI на общество, OpenAI должна быть на передовой возможностей ИИ — одних лишь политики и пропаганды безопасности будет недостаточно». Гипотетический сверхинтеллект задавал и саму миссию, и обоснование инвестиций в передовые модели.

Отношение к конкурентам

В 2018 году OpenAI обещала прекратить конкуренцию и начать помогать другому проекту, если тот ближе подойдет к созданию AGI, — компания опасалась, что его разработка на поздних этапах превратится в «конкурентную гонку без времени на принятие адекватных мер безопасности».

В версии 2026 года пункт вычеркнут без отдельных пояснений. Взамен появилась оговорка, что компания при необходимости готова «пожертвовать частью расширения возможностей ради устойчивости» — то есть компания готова ограничивать доступ к своим разработкам, если сочтет это необходимым. Причем Альтман ссылается на эпизод 2019 года, когда OpenAI отказалась выкладывать веса GPT-2 из-за потенциальной угрозы. Тогдашние опасения Альтман признает напрасными, но сам подход, по его словам, лег в основу нового принципа.

Business Insider связывает это с обостряющейся борьбой с Anthropic. На вторичном рынке акций стартап недавно оценили примерно в $1 трлн, тогда как бумаги OpenAI торгуются по оценке чуть ниже $900 млрд.

Размытые обязательства

Обозреватели указывают и на то, как изменился язык документа. Если раньше компания говорила «мы обязуемся», «мы будем», то теперь перешла к рекомендациям, причем адресованным не себе — а всей индустрии и правительствам.

Документ местами противоречивый, пишет Techradar. В нем одновременно говорится о безопасности — которая требует осторожности и взвешенности — и о том, что компания будет «быстро учиться и корректировать курс». Как эти два подхода должны уживаться вместе, из документа непонятно. «Принципы должны быть четкими и однозначными, а этот документ — мягкий и гибкий, оставляющий компании значительно больше пространства для маневра», — недоумевает автор.

Впрочем, такие противоречия есть не только внутри документа. Две недели назад сам Альтман в личном блоге писал об этом так: «Увидев AGI, уже не можешь развидеть. В этом есть настоящая динамика "кольца власти", которая заставляет людей делать безумные вещи». В таких категориях он описывал желание «стать тем, кто контролирует AGI».