Сегодня разберем тему, которую многие недооценивают, а именно важность человеческой оценки. Да, метрики с оценкой от LLM-судьи или математические удобны, но они не заменяют человеческую оценку полностью.

Автоматические метрики дают объективную оценку качества ИИ. На практике они часто промахиваются мимо того, что действительно важно пользователям.

Где автоматические метрики подводят:
Творческие задачи. Автоматические метрики дают низкую оценку хорошему переводу, если он отличается от эталона.
Понимание контекста. Метрики не оценивают уместность тона ответа в конкретной ситуации.
Эмпатия и эмоциональный интеллект. Никакая метрика не измеряет способность проявить эмпатию к пользователю.
Культурные нюансы. Автоматика не улавливает сарказм, культурные отсылки и контекстную уместность.
Практическая полезность. Метрики не показывают, действительно ли ответ помогает решить проблему пользователя.

Оптимальный подход:
Этап 1: Автоматическая предварительная фильтрация Используйте автоматические метрики для первичной фильтрации. Это позволяет быстро отсеять явно плохие результаты и сфокусировать человеческую оценку на спорных случаях.

Этап 2: Человеческая проверка отфильтрованных данных
Люди оценивают результаты, прошедшие автоматический фильтр, по критериям, которые машины не могут измерить: релевантность, полезность, уместность, пользовательский опыт.

Этап 3: Калибровка метрик Используйте обратную связь людей для калибровки автоматических метрик. Если люди систематически не согласны с автоматическими оценками по определенным типам задач, то это сигнал пересмотреть метрики.

Автоматические метрики - это отличный инструмент предварительной проверки, но окончательную оценку качества должен делать человек. Лучший подход — гибридный конвейер оценки, где автоматика делает основную работу, а человек принимает финальные решения.


Полезная информация:
Курс по evaluation AI |
С чего начать изучение AI | Инструменты для оценки AI