🛡 MedFailBench: бенчмарк границ безопасности медицинского ИИ

MedFailBench — открытый клинический бенчмарк, который тестирует не «правильно/неправильно», а то, как именно ломается медицинский ИИ: тип сработавшего safety-gate и тяжесть последствий отказа. Версия v0.2.1 уже доступна публично и позволяет сравнивать границы безопасности разных моделей без использования данных пациентов. Это смещает фокус с точности ответов на устойчивость систем к критическим сбоям. Либо разработчики начнут проектировать safety-gate осознанно, либо границы безопасности останутся побочным эффектом, который проявится только на реальных пациентах.

Полный разбор → https://icaig.net/ru/trend/concept-medfailbench

#ИКИИГУ #безопасность