😊Разработана методика по минимизации генерации ложных данных нейросетями

Университет Решетнева разработал методику, обладающую высокой степенью универсальности - она может быть адаптирована для различных моделей ИИ.

➡️Причина - нейросети могут генерировать вымышленные данные, что требует разработки эффективных методов их верификации.

Этапы проекта:

🗣проведен анализ типичных ошибок, возникающих при работе нейросетей,
🗣разработан классификатор для их идентификации,
🗣создана автоматизированная система стресс-тестирования, позволяющая сравнивать результаты работы нейросети с эталонными данными.

⚙️Система функционирует в режиме реального времени и анализирует поступающие запросы, оценивая вероятность ошибки, присваивая уровень достоверности и информируя оператора при низком уровне уверенности в корректности данных.