Законопроект про ИИ от Касперской

«КонсультантПлюс» опубликовал наш законопроект «О безопасном использовании систем искусственного интеллекта в РФ». Его можно посмотреть по ссылке либо в самой системе - пишет Наталья Касперская.

Как-то я писала, что весной этого года небольшая рабочая группа при Совете Федерации под руководством В. И. Кожина разрабатывала свою версию законопроекта по ограничениям искусственного интеллекта. Я тоже принимала участие в этой рабочей группе.

К сожалению, наша версия, равно как и версия, представленная Министерством цифрового развития, была отвергнута правительством. Вместо закона об ограничениях был принят Федеральный закон № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации».

Закон этот был принят 8 июля сего года. А уже в сентябре представители крупнейших американских компаний-разработчиков ИИ заговорили о рисках искусственного интеллекта и угрозах человечеству, которые он несёт.
И в последнее время на всех конференциях, форумах, встречах, в которых я участвую, говорят исключительно о рисках ИИ. Осознание этих рисков постепенно приходит в общество.

Поэтому я посчитала, что вполне актуально вспомнить ту версию нашего законопроекта. Она не противоречит принятому закону о поддержке ИИ. Более того, она вообще не обсуждает конкретные технологии, как 243-ФЗ, потому что технологии ИИ развиваются слишком стремительно. Ещё летом в тренде были большие языковые модели, потом агенты, сейчас — мультиагентные системы, а завтра будет что-то ещё.

При разработке мы использовали другой подход, а именно:

☑️ регулирование не технологий, а сфер их использования, которые важны для граждан. Я говорю о социальной сфере, а также о сферах государственного управления, массового обслуживания, законотворчества и проч.;

☑️ обязательный набор гарантий для человека (от идентификации систем и результатов их функционирования до права на отказ человека от ИИ) и прописанные составы прав и обязанностей для всех, кто участвует в отношениях;

☑️ ведение реестра доверенных систем ИИ, которые должны использоваться в наиболее чувствительных сферах.

Кроме того, мы сразу решили, что «система ИИ» считается информационной системой, а значит, к ней применимы существующие законы об информационных системах. Поэтому мы специально не стали затрагивать интеллектуальную собственность и персональные данные, оставив эти области существующим законам и кодексам.

Большую часть законопроекта (целых 5 статей) мы посвятили ответственности. Это важный вопрос — кто будет нести ответственность, если ИИ нанесёт вред человеку или предприятию? Не скажу, что мы тут справились — там много нетривиальных вопросов, и нам не удалось найти «волшебной таблетки». 

Я полагаю, коль скоро риски ИИ стали столь очевидны и обсуждаемы, то вполне можно взять на вооружение большую проделанную работу для того, чтобы в каком-то виде использовать подходы, защищающие от рисков ИИ граждан, страну и её секреты.

Текст открыт, его можно и нужно обсуждать, он готов к любому развитию.

Буду рада содержательным комментариям.