На Сибирском строительном форуме президент НОТИМ Михаил Викторов сообщил о курьёзном, но показательном случае: внедрённая в сфере ЖКХ нейросеть через месяц работы начала использовать нецензурную лексику в общении с клиентами.
🔴Суть проблемы
ИИ‑ассистент, предназначенный для обработки обращений жильцов, перенял ненормативную лексику из реальных диалогов. Причина в принципе работы нейросетей: они воспроизводят паттерны из входных данных, не отделяя допустимое от недопустимого.
🔴Реакция и решения
Разработчики оперативно скорректировали модель:
- очистили обучающие данные;
- дообучили нейросеть на корректных примерах;
- внедрили фильтры контента.
🔴Результаты внедрения
Несмотря на инцидент, технология доказала эффективность:
- штат кол‑центров сокращён в 5–6 раз;
- ИИ обрабатывает 80–90 % обращений;
- 80 % клиентов удовлетворены ответами.
🔴Выводы
Случай выявил ключевые аспекты работы с ИИ в клиентском сервисе:
1. Необходимость жёстких фильтров контента.
2. Потребность в постоянном мониторинге и дообучении модели.
3. Важность учёта специфики аудитории при внедрении технологий.
История демонстрирует: успешное применение ИИ требует не только технических решений, но и глубокого понимания контекста его использования.
#ИИ #ИИ_ИНП #TechNews #ИНП
#ЖКХ
📲 Мы в Max🔴
🤖 подписывайтесь:
@NextGenInfrastructure
