Нейросети отправляют на экзамен по духовности

13 августа рабочая группа по регулированию и административным барьерам в сфере ИИ при Минцифры обсудила инструмент проверки больших языковых моделей на соответствие традиционным духовно-нравственным ценностям. Речь о бенчмарке — наборе тестовых заданий с эталонными ответами. Отрасли этот способ измерения знаком, непривычен лишь предмет измерения.

Концепцию национального датасета, по сведениям источника, близкого к министерству, представил «Яндекс»: тест должен показать, соответствует ли модель «духу времени и ценностям страны». Компания эту информацию опровергла, сообщив, что была одним из участников обсуждения наравне с другими и настаивала на открытости содержания набора.

Главным предметом спора стала публичность. ФСБ выступает за закрытый формат, полагая, что иначе разработчики подгонят модели под тест. Бизнес возражает: непрозрачные критерии замедляют выпуск продуктов. Обсуждается компромисс — открытый бенчмарк для лабораторных прогонов и закрытый, с теми же темами, но иными формулировками, для финальной проверки.

Настройка модели на «дух времени» технически не отличается от настройки на прохождение теста: и то и другое сводится к дообучению на отобранных примерах. Закрытость меняет стоимость угадывания, а не сам механизм. Заново описывать ценности не планируется — их перечень закреплён президентским указом.

Правовая рамка готова лишь наполовину. Подписанный 26 июля закон вводит статусы суверенной и национальной модели для систем не менее чем с одним миллиардом параметров и вступает в силу 1 сентября, часть норм — в марте 2027 года. Порядок проверки определит правительство, документы готовят Минцифры, ФСБ и ФСТЭК. Кто наполнит датасет, не решено.

Скорее всего, в итоге будет принята комбинированная схема: она позволяет каждой стороне считать свою позицию учтённой. Экспертизу, судя по ходу обсуждений, доверят нескольким испытательным лабораториям, а спор сместится с формата теста на процедуру пересмотра его содержания.

Статус нужен прежде всего тем, кто рассчитывает на господдержку и допуск к государственным информационным системам, поэтому первыми экзамен сдадут две-три крупные компании. Остальной рынок продолжит работать без статуса, пока перечень обязательных сценариев его применения не расширится.

#ai #ии #безопасность