📶 Можно ли объективно оценить ценностные установки ИИ?

В России обсуждают создание национального датасета для проверки ИИ‑моделей на соответствие духовно‑нравственным ориентирам. Но как оценить то, что не всегда имеет однозначный ответ?

Не менее важно защитить и сам процесс тестирования. Утечки заданий позволяют заранее подготовить нейросеть к правильным ответам, а атаки с помощью prompt injection могут исказить результаты проверки. В итоге тестирование не покажет, насколько модель действительно соответствует заданным критериям.

Данила Бояров, инженер технологий машинного обучения R‑Vision, рассказал «Киберболоиду», какие риски связаны с таким тестированием, почему важно защищать сам процесс проверки и как оценивать ИИ‑модели.

🔗 Подробнее читайте в материале «Киберболоида».

💬 R-Vision в Max

#RVision_СМИ