В ЕС согласовали первый в мире закон о регулировании ИИ

В ночь с 8 на 9 декабря Европарламент таки достиг соглашения в рамках The AI Act, первые обсуждения которого начались ещё весной 2021 года. Европейские законодатели позиционируют акт как «всеобъемлющий свод правил для надёжного ИИ».

Окончательный текст закона пока не был обнародован, но пресс-релиз даёт вполне ясное представление о его содержании.

Что точно будет запрещено на территории ЕС:
— биометрические системы категоризации, использующие чувствительные характеристики, такие как политические, религиозные, философские убеждения, раса и т. д.;
— нецелевой сбор изображений лиц из интернета или записей с камер видеонаблюдения для создания баз данных распознавания лиц;
— распознавание эмоций на рабочем месте и в учебных заведениях;
— скоринг на основе социального поведения или личностных характеристик;
— системы искусственного интеллекта, которые манипулируют поведением людей, чтобы обойти их волю;
— ИИ, который использует уязвимости людей, связанные с возрастом, инвалидностью, социальным или экономическим положением.

Исключение будут составлять системы биометрической идентификации (RBI), которыми правоохранительные органы будут пользоваться в ряде случаев:

— поиск жертв похищения, торговли людьми, сексуальной эксплуатации и т. д.;
— предотвращение террористической угрозы;
— определение местонахождения или идентификация лиц, подозреваемых в терроризме, торговле людьми, убийстве, похищении и т. д.

▪️ Парламентарии ввели понятие «ИИ высокого риска». К ним относятся системы, которые могут причинить вред здоровью, безопасности, окружающей среде и... демократии. Например, если приложение позволяет влиять на исход выборов, граждане смогут подать на него жалобу и получить разъяснения о решении правоохранительных органов. Утверждается, что степень воздействия таких систем будет оцениваться в обязательном порядке.

▪️ Для базовых моделей (GPAI) нужно будет предоставлять подробную техническую документацию и отчёты о контенте, который использовался для обучения. Модели, на обучение которых ушло свыше 10^25 flops вычислительной мощности (как, например, GPT-3.5), будут регулироваться ещё строже.

▪️ За несоблюдение правил компаниям светят штрафы от 35 миллионов евро или 7% от оборота до 7,5 миллиона или 1,5% от оборота — в зависимости от тяжести нарушения и размера компании.

По традиции голосование:

👍 — ну и правильно, меньше проблем с ИИ
🤡 — свободу роботам
🤔 — есть нюансы (напишу в комментариях)