💸 Компании тратят огромные суммы на разработку ИИ-инструментов, но есть одна проблема: они недостаточно их тестируют.

Согласно свежему отчету Applause о состоянии цифрового качества ИИ, компании стремительно разрабатывают инструменты на основе искусственного интеллекта, однако критически важные процессы контроля качества (QA) остаются без должного внимания. В результате ИИ-системы работают с ошибками: они неправильно понимают пользователей, дают предвзятые ответы и даже выдают вымышленные данные.

🤬 Более 70% опрошенных специалистов заявляют, что их компании разрабатывают AI-помощников. При этом на первом месте находятся чат-боты и инструменты поддержки клиентов. Однако, несмотря на популярность технологии, 65% пользователей столкнулись с трудностями за последние три месяца. Среди основных жалоб: размытые ответы, неверное понимание запросов и даже генерация оскорбительного контента.

👨‍💻 Инструменты вроде GitHub Copilot и OpenAI Codex помогают разработчикам работать быстрее, повышая их продуктивность до 74%, но многие компании еще даже не интегрировали генеративный ИИ в свои ключевые процессы разработки. Более того, только треть специалистов применяют red teaming — методику выявления уязвимостей ИИ перед его запуском для пользователей.

📈 Кроме того, пользователи становятся все более требовательными. Почти 30% уже сменили используемые ИИ-сервисы, а 34% используют разные генеративные ИИ-инструменты для разных задач. Ожидания в отношении мультимодальных ИИ (способных обрабатывать текст, изображения и голос) стремительно растут—78% пользователей теперь ожидают такой функциональности от всех инструментов, по сравнению с 62% в прошлом году.
_______