Уникальный мультиотраслевой канал о цифровизации, IT, ИИ, современных технологиях и нейросетях.
Главный редактор канала - @Galina_Krupen
Post #3034
135

😊Разработана методика по минимизации генерации ложных данных нейросетями
Университет Решетнева разработал методику, обладающую высокой степенью универсальности - она может быть адаптирована для различных моделей ИИ.
➡️Причина - нейросети могут генерировать вымышленные данные, что требует разработки эффективных методов их верификации.
Этапы проекта:
🗣проведен анализ типичных ошибок, возникающих при работе нейросетей,
🗣разработан классификатор для их идентификации,
🗣создана автоматизированная система стресс-тестирования, позволяющая сравнивать результаты работы нейросети с эталонными данными.
⚙️Система функционирует в режиме реального времени и анализирует поступающие запросы, оценивая вероятность ошибки, присваивая уровень достоверности и информируя оператора при низком уровне уверенности в корректности данных.
Университет Решетнева разработал методику, обладающую высокой степенью универсальности - она может быть адаптирована для различных моделей ИИ.
➡️Причина - нейросети могут генерировать вымышленные данные, что требует разработки эффективных методов их верификации.
Этапы проекта:
🗣проведен анализ типичных ошибок, возникающих при работе нейросетей,
🗣разработан классификатор для их идентификации,
🗣создана автоматизированная система стресс-тестирования, позволяющая сравнивать результаты работы нейросети с эталонными данными.
⚙️Система функционирует в режиме реального времени и анализирует поступающие запросы, оценивая вероятность ошибки, присваивая уровень достоверности и информируя оператора при низком уровне уверенности в корректности данных.
- 👍 1













