ПРО ИИ-ТРЕВОЖНОСТЬ И АНТИУТОПИИ (которые всегда сбываются)

OpenAI выпустили «Industrial Policy for the Intelligence Age» — индустриальную политику для эпохи сверхинтеллекта. Что-то среднее между манифестом и рассказом-антиутопией 🙂

Если коротко то документ о том, что сверхинтеллект (ИИ умнее всех людей вместе) придёт быстро. И если сейчас не переписать общественный договор — не только технически, но и экономически, социально, политически, — то люди потеряют всё: работу, контроль, свободу действий. А ИИ достанется кучке корпораций.

И знаете… Документ одновременно обнадеживает и смущает своей утопичностью.

С одной стороны, он честно говорит: да, сдвиги будут огромные. Работа изменится, неравенство может стать чудовищным, риски (кибер, био, потеря управления) — реальны.

С другой стороны, предлагаемые решения звучат так, будто их писали в параллельной реальности, где государства умеют договариваться, компании добровольно делятся прибылью, а люди верят в общее благо.

Может, это моё личное ощущение. Но мир сегодня движется совсем не в том векторе. Платформы выжимают курьеров до секунды. Корпорации лоббируют правила под себя. А про «общественный договор» вспоминают только когда надо что-то запретить.

Новая индустриальная политика через призму моей тревожности

‼️ Выгоды от ИИ достанутся только владельцам дата-центров

Обычный человек увидит увольнения, рост цен и алгоритм, который решает за него. А сверхприбыли осядут у Маска, Альтмана и ещё десятка фамилий. Чтобы этого избежать нужно создать Фонд общественного благосостояния — каждый гражданин получает долю в росте ИИ-экономики. Как акционер, только без покупки акций. Доходы от ИИ — всем, а не только владельцам.

Право на ИИ как на электричество — базовый доступ к моделям бесплатно или очень дёшево.

ИМХО: Фонды и бесплатный доступ — это про то, что кто-то должен добровольно отдать деньги. В мире, где капитализм ещё не отменили, звучит как сказка.

‼️ Про соцгарантии
В эпоху ИИ люди будут менять работу, проекты, профессию ещё чаще. Система не будет такой устойчивой.

Что предлагается сделать:
• Личный социальный счёт — медстраховка, пенсионные взносы, обучение.
• 32-часовая рабочая неделя без потери зарплаты — если ИИ поднял производительность, компания не увольняет, а сокращает часы. (пхахах, да-да)). Бизнес в здравом уме не станет так делать. Бизнес это извлечение прибыли. А прибыль это доходы минус расходы.

‼️ Люди теряют контроль и свободу принятия решений
Алгоритм решает, кому дать кредит, кого нанять, а кого посадить в тюрьму. Человек не может повлиять, не может даже понять логику чёрного ящика.

Что предлагается:
• Прозрачность и аудит — действия ИИ в госорганах логируются. Журналист или гражданин может проверить, почему принято то или иное решение.
• Голос работников — при внедрении ИИ на рабочем месте сотрудники имеют право сказать «нет» опасным или дискриминирующим сценариям.

‼️ ИИ может быть опасен (кибератаки, био, потеря управления)
Тут речь про риски использования ИИ для деструктивных целей. Это, кажется, уже полным ходом.

• Международное сотрудничество по рискам — обмениваться информацией об инцидентах, договариваться о запретах, как по ядерной безопасности.
• Компании с общей миссией — совет директоров юридически обязан учитывать не только прибыль, но и общественное благо. Не благотворительность, а закон.

Но мы видим, что международные договорённости сейчас работают всё хуже. А общая миссия в корпорациях обычно заканчивается там, где начинается дележка денег.

———
Ясень пень, что этот документ просто декларация и "приглашение к разговору". И даже если предложения выглядят утопично, сам факт, что крупный игрок публично говорит так больше нельзя, меняет поле. Но верить, что кто-то сверху подарит фонды и соцсчета, не стоит.

Что думаете?