Лучший датасет для "живого" общения — это звонки в ЖКХ

Российский голосовой робот для управляющих компаний прошел непредвиденный краш-тест. За один месяц работы в колл-центре нейросеть научилась виртуозно материться.

Президент НОТИМ Михаил Викторов подтвердил кейс: модель, обучаясь на диалогах с жильцами, быстро переняла «культурный код» и начала отвечать клиентам на их же языке. Разработчикам пришлось экстренно вмешиваться и переобучать систему, ставя жесткие контент-фильтры.

Почему это важно для нас:

Это хрестоматийный пример рисков Online Learning в продакшене. Если вы дообучаете модель на пользовательских данных без премодерации или мощных Guardrails, вы получаете эффект «зеркала». В данном случае Data Drift произошел молниеносно: токсичный ввод → токсичный вывод.

Как считаете, баг или фича?

🔥 — Фича! Это и есть настоящая эмпатия к клиенту
🤡 — Классическая проблема Alignment (надо было лучше чистить датасет)
👀 — Хочу посмотреть логи этих диалогов

ИСТОЧНИКИ:

https://tass.ru/obschestvo/23197607