🇪🇺🤖 Евросоюз усилил контроль за разработчиками ИИ
Европейская комиссия и национальные надзорные органы 2 августа начали проверки разработчиков моделей ИИ общего назначения. Новый этап распространяется прежде всего на модели общего назначения, которые используются как основа для чат-ботов, программных помощников, ИИ-агентов и других прикладных систем.
📌 Требования к разработчикам
Компании должны:
– вести техническую документацию по модели;
– раскрывать её возможности, ограничения и условия применения;
– предоставлять разработчикам прикладных систем необходимые сведения;
– соблюдать законодательство ЕС об авторском праве;
– публиковать обобщённые данные о материалах, использованных при обучении;
– учитывать энергопотребление вычислительной инфраструктуры.
📌 Особенности контроля
Отдельный порядок предусмотрен для самых крупных и мощных моделей, способных создавать риски в масштабах всего Евросоюза. Такие системы должны проходить дополнительные испытания безопасности и устойчивости к злоупотреблениям.
Разработчики обязаны оценивать возможность применения модели для:
– проведения сложных кибератак;
– создания химических, биологических, радиологических и ядерных угроз;
– массового информационного воздействия;
– выполнения автономных действий вне установленных оператором ограничений.
О серьёзных инцидентах необходимо сообщать надзорным органам. Дополнительно требуется защищать веса модели, программную инфраструктуру и вычислительные мощности от несанкционированного доступа.
📌 Полномочия Евросоюза
Европейское управление по ИИ сможет запрашивать документацию и доступ к модели, проводить собственную оценку, привлекать независимых специалистов и требовать устранения нарушений. В крайнем случае может быть ограничено распространение системы на рынке ЕС.
Штраф за нарушение требований к моделям общего назначения и правил прозрачности может достигать 15 млн евро или 3% мирового годового оборота компании. За запрещённое применение ИИ – до 35 млн евро или 7% оборота.
📌 Маркировка ИИ-контента
Пользователь должен быть уведомлён при взаимодействии с чат-ботом или ИИ-агентом. Для искусственно созданных изображений, аудио, видео и текстов предусматривается машиночитаемая маркировка. Отдельно должны обозначаться дипфейки и материалы по общественно значимым вопросам, опубликованные без полноценной проверки человеком.
📌 Военная сфера
Системы, созданные исключительно для обороны, военных задач и обеспечения национальной безопасности, выведены из-под действия Акта. При этом коммерческие модели двойного назначения сохраняют требования закона, если выводятся на рынок Евросоюза.
🔺 Основное изменение заключается в переходе от добровольных обязательств к прямому надзору. ЕС получает возможность проверять безопасность наиболее мощных ИИ-моделей, запрашивать доступ к ним, требовать сведения о кибернетических рисках и ограничивать системы, способные создавать угрозы общественной безопасности.
Источник: commission-starts-enforcing