Отставка главы Google DeepMind последовала за переговорами о «МАГАТЭ для ИИ»

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Сооснователь и бывший CEO Google DeepMind, «главный исследователь» Google и нобелевский лауреат Демис Хассабис перед своей внезапной отставкой с поста вел переговоры с администрацией США и лидерами других ИИ-компаний о создании независимого органа надзора в отрасли, узнал The Wall Street Journal.

По информации издания, Хассабис продвигал идею организации типа международного агентства по ядерной безопасности МАГАТЭ, но занимающегося вопросами безопасности и при разработке сверхразумного ИИ (AGI). В администрации Трампа он вышел на уровень министра финансов Скотта Бессента и одного из приближенных советников Трампа по технологиям Майкла Крациоса.

Пока это самое оформленное предложение по контролю за передовыми разработками в области ИИ. О чем-то похожем говорили в Anthropic и в OpenAI, но в более размытых формулировках. Сэм Альтман предлагал некий международный форум по стандартам под руководством США, а в Anthropic призывали замедлить эволюцию в направлении AGI.

Сам Хассабис писал, что ИИ-революция будет «в 10 раз важнее индустриальной и в 10 раз быстрее», и не сомневался, что AGI — дело ближайших нескольких лет. Для надзорного органа он предлагал использовать опыт FINRA — самоуправляемой организации, которая контролирует работу брокеров и дилеров и присваивает им квалификацию. ИИ-модели он предлагал оценивать строжайшим образом на основе критериев кибер-, биологической безопасности и иных рисков, агентские ИИ испытывать на обход ограничений и обман, независимо от страны происхождения.

Почему это важно?

Перетряска в руководстве ИИ-разработки в Google оказалась внезапной и вызвала много вопросов.

Пока самой убедительной выглядит версия Reuters: сооснователь Google Сергей Брин был недоволен слишком научным уклоном DeepMind, так и не интегрированного в Google за десятилетие после покупки. И потребовал от нового руководства проекта сосредоточиться на улучшении отстающей от конкурентов ИИ-модели Gemini. Причем уклон Хассабиса в сторону регулирования ИИ вступил в противоречие с идеями Брина, перераспределявшего физические ресурсы (процессоры TPU) на задачи автономного обучения моделей. Новый руководитель DeepMind Корай Кавукчуоглу заметно больше ориентирован на «чистый бизнес».

Другая версия — Google вообще отходит от передовых моделей в пользу финансирования прибыльной облачной инфраструктуры.