Лидеры отрасли могли сговориться об ограничениях ИИ

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Лидеры ИИ-отрасли (Anthropic, OpenAI и Google) с июля обсуждали совместное создание отраслевого регулятора стандартов в области разработки искусственного интеллекта, узнал The Information. Позднее это подтвердили источники The Washington Post.

Частично об обсуждениях было известно раньше — WSJ писал, что экс-CEO Google DeepMind Демис Хассабис перед своей внезапной отставкой вел переговоры с администрацией США и лидерами других ИИ-компаний о создании независимого органа надзора в отрасли. 

Хассабис предлагал создать в США Frontier AI Standards Body по образцу FINRA (регулятор финансовой индустрии): он должен сам разрабатывать и постоянно обновлять закрытые тесты, проверять самые мощные модели на биологические и киберопасности, обход защит и признаки обмана. По его идее, потом обкатанный в США механизм мог бы стать основой для международного.

По данным The Information, работу по этой теме начали все три компании, но у них разные представления о типе и компетенциях регулятора. Сэм Альтман не исключает независимого органа по аудиту и тестированию ИИ-моделей, Anthropic скорее за федеральное бюро с широким участием администрации США, а Google за отраслевой орган, но тоже под надзором администрации США.

Так или иначе, предполагается, что регулятор займется тестированием и оценкой риска фронтирных моделей, а их релиз на рынке США без его одобрения будет невозможен.

Почему это важно

Для рынка стало неожиданным, что в эти выходные манифест главы Anthropic Дарио Амодеи о необходимости замедлить разработку ИИ, который уже скоро сможет захватить интернет, поддержали Альтман, Хассабис и Илон Маск. Как выясняется, это мог быть просто хорошо подготовленный экспромт.

Дональд Трамп между тем заявил, что опасения по поводу выхода искусственного интеллекта из-под контроля преувеличены и раздуваются «негативными силами». Его больше беспокоит ИИ-гонка с Китаем, где вопрос сдерживания ИИ не стоит: «тот, кто выиграет в ИИ, выиграет всё».