Пока все обсуждают экзит-поллы выборов в Госдуму, хочу вернуться к одной теме, которую я по болезни своей не смог раскрыть.

Дмитрий Анатольевич на днях выдал редкий по честности диагноз про ИИ. Разработчиков пугают не восстание машин и не гипотетическая гибель человечества - это, как он сам выразился, "туманная перспектива". Пугает их конкретика: именно то, что их продукт, воткнутый в управление АЭС или воздушным движением, рано или поздно накосячит по-крупному, и тогда придут уже не за абстрактным "искусственным интеллектом", а за их собственными счетами и, возможно, головами. И тут же он честно признаёт: странового соглашения по регулированию не будет - по мнению Дмитрия Анатольевича, "жадность корпораций и ненасытность человеческих страстей" не оставляют шанса договориться. Вывод у него при этом получился откровенно капитулянтский: раз регулировать не получится, остаётся уповать на милость самого ИИ, который, возможно, пожалеет создателей.

Ровно тот же испуг, только с другого фланга, формулирует Сандерс: его закон о запрете суперинтеллекта зовёт вещи своими именами - проблема не просто в существовании самой технологии, а в том, что горстка компаний концентрирует мощь, которую никто не может нормально проконтролировать. Поводом для закона стал публичный уход исследователя Anthropic Джейкоба Коксона, который предупредил, что в лабораториях знают о риске катастрофы и всё равно продолжают гонку. А на прошлой неделе Бэннон вместе с Сандерсом выступал на отдельном мероприятии, "Pro-Human Assembly", организованном т.н. "Future of Life Institute" в поддержку "Pro-Human AI Declaration" - декларации за сохранение контроля человека над ИИ и подотчётность компаний. Симптоматично уже то, что Бэннон там почти дословно повторял риторику Сандерса про "олигархов". Два считавшихся "непримиримыми" "партийных" бойца на одной трибуне против техноолигархии - красноречивее любого конкретного законопроекта.

Но вот дальше начинаются вопросы, на которые пока никто внятно не ответил ни слева, ни справа. Запретить конкретную корпорацию - можно. Но если проводить аналогию со Standard Oil, возникает парадокс: вместо ограничения монополии предлагается запретить саму технологию, вокруг которой возникла гонка - примерно как решать проблему нефтяной монополии запретом нефти.
Так что у Сандерса на практике вырисовывается та же дыра, что и у Медведева. Диагноз у них схожий: проблема не просто в существовании ИИ, а в том, что технология потенциально цивилизационного масштаба развивается внутри нескольких частных корпораций, которые одновременно являются её разработчиками, владельцами инфраструктуры и субъектами, заинтересованными в продолжении гонки. А вот работающего механизма разорвать эту связку пока никто толком не предложил.

Честно говоря, и админ Кингфиша на сей вопрос может ответить пока только предположением, а не окончательным решением. Как вариант - национализировать разработку суперинтеллекта по образцу ядерного оружия.

На мой взгляд, в этом определённо есть смысл: если нечто способно перекроить баланс сил в масштабе цивилизации, странно оставлять это частной собственностью пяти акционерных обществ. Однако тут есть свои подводные камни, о которых как-нибудь в другом посте...