Я верю, что бесконтрольное развитие искусственного интеллекта потенциально может быть очень опасно. И даже в утопическом сценарии нас ждут изменения таких масштабов и такие стремительные, что человечество к этому точно не готово. Не зря AI сравнивают с ядерным оружием (только вот AI потенциально может быть гораздо опаснее) и не зря чем больше человек разбирается в AI, тем больше он, как правило, насторожен.

До прошедших выходных я верил, что OpenAI — не классическая конвенциональная компания. Я думал, что это скорее исследовательская лаборатория, построенная вокруг идеалистической миссии — «чтобы от AGI выиграло всё человечество» (AGI — это Artificial General Intelligence, то есть AI, который условно может делать всё то же, что и человек). И если главная задача классической компании — создание прибыли и обогащение акционеров, то OpenAI прямо писали, что они прибыль не обещают.

Казалось классной идеей, что компания управляется некоммерческой организацией и некоммерческим же советом директоров. Казалось, что для человечества точно было бы лучше, чтобы AGI был достигнут именно в таких условиях.

Теперь у меня как будто разбились розовые очки (очередные).

Именно эта non-profit оболочка похоже и треснула под давлением внутренних противоречий и всё это вылилось в то, что в пятницу тот самый некоммерческий совет директоров OpenAI супер-внезапно в духе дворцового переворота попытался уволить СЕО Сэма Альтмана (фотка из его твиттера) «в связи с потерей доверия». Настоящие причины потери этого самого доверия при этом до сих пор остаются неизвестными — за прошедшие с пятницы несколько дней их так и не смогли публично сформулировать.

В итоге если кто и потерял доверие, так это совет директоров, а вместе с ним и OpenAI вообще. Мы сейчас строим на их API продукт — и после такого внезапного переворота я уже не могу быть уверен, что API просто не перестанет работать одним днём. Да, переехать на другую модель в принципе возможно, но прецедент крайне печальный всё равно.

Любопытно, что тех-твиттер всю дорогу был переполнен поддержкой и любовью к Сэму, который в этой истории выглядел жертвой. Всплыли сотни неизвестных раньше историй о том, как будучи президентом YC, он помогал стартапам договориться с инвесторами. 700 из 770 сотрудников OpenAI пригрозили уйти, если борд не подаст в отставку. Кажется, никогда раньше не видел такой безграничной любви и поддержки СЕО. Супер-пример, конечно.

Только вот в итоге получается, что капитализм и ачиверство всё равно победили. AGI будет в руках корпорации и вероятно будет использоваться в первую очередь для создания прибыли и обогащения акционеров. Скорее всего акционеров Microsoft, куда Сэм вроде как должен перейти, ну или новой структуры правления OpenAI.

Неужели, действительно, коммерческая структура, созданная с целью зарабатывания денег — это всё ещё лучший доступный человечеству способ идти к прогрессу?