В российском ИИ будут искать духовность

«Ведомости» узнали, что Минцифры разрешит независимым IT-лабораториям тестировать российские нейросети на соответствие законам и духовно-нравственным ценностям.
-----------
Если коротко, то схема выглядит так. Государство вводит для больших языковых моделей два спецстатуса — «национальная» и «суверенная». Получать их не обязательно, но если разработчик хочет приоритет в госзакупках, доступ к государственным базам данных и другие меры господдержки, то его ИИ должен успешно сдать «экзамен». Проверять нейросети будут не чиновники с нуля, а несколько аккредитованных лабораторий. Они будут использовать специальные тесты (бенчмарки) и пытаться «взломать» фильтры модели запретными запросами. Окончательный вердикт и выдача статуса останется за Минцифры.

При этом прописывать какие-то новые законы о ценностях не будут — за основу возьмут уже существующий президентский указ. Главная сложность сейчас заключается в том, как технически измерить такие понятия, как «гражданственность» или «историческая память». Чтобы избежать субъективности и избирательных наказаний, власти решили опираться на опыт самих IT-компаний, которые уже научились ставить своим алгоритмам рамки безопасности.