А что плохого, если внутри AI сидит человек?
#айяй #проработу

Простите, снова про AI, но блин! У Meta случился очень забавный кейс с новым AI-агентом Muse. Его тестировали в том числе для телефонных звонков: можно попросить AI записать тебя в парикмахерскую, узнать что-нибудь в магазине или разобраться с интернет-провайдером, а он сам позвонит и вернётся с результатом.

Идея мне очень нравится. Если AI избавит меня хотя бы от необходимости звонить в сервисы, я уже готов признать технологическую революцию состоявшейся. Но выяснилось, что самостоятельно Muse справляется не всегда. Где-то разговор идёт не по плану, где-то на другом конце кладут трубку, где-то ситуация оказывается слишком сложной. Поэтому часть звонков Meta начала передавать живым операторам.

И получилось прекрасно: по внутренним данным компании, успешность таких звонков доходила до 95–98%. В обсуждениях этой истории я довольно быстро встретил ожидаемое «ну вот вам и автономный AI, внутри всё равно сидит человек».

А я вообще не понимаю, что здесь плохого 🤷‍♂️

Мне как пользователю совершенно не важно, решил мою задачу AI целиком или сделал 80%, понял, что дальше не справляется, и позвал человека. Я попросил записать меня в парикмахерскую — в итоге я записан в парикмахерскую. На этом мой пользовательский интерес примерно заканчивается.

И это очень продолжает мою любимую мысль про copilot. Мне вообще не кажется, что хорошая технология обязана заменить человека. Гораздо интереснее, когда она забирает ту часть работы, которую умеет делать лучше и дешевле, а человеку оставляет сложные случаи, решения и исключения. Если вместе они дают лучший результат, чем каждый по отдельности, значит система работает 🗿

Проблема Meta была совсем в другом. Пользователям нормально не объяснили, что в какой-то момент их запрос и данные может получить живой оператор. Ещё усугубилось любимой американской темой: в одном из звонков подрядчик ещё и сделал расистское замечание. После жалоб внутри компании Meta признала, что запускать такой тест без нормального предупреждения было ошибкой, и функцию откатили.

Вот это уже косяк. Если я думаю, что отдаю данные машине, а на самом деле их может увидеть ещё какой-то человек, я должен об этом знать. Но сам факт, что AI в сложной ситуации передал задачу человеку, для меня скорее признак нормально спроектированного сервиса, чем провал технологии.

Мы почему-то очень быстро решили, что следующий этап развития AI — это обязательно полная автономность. Чем меньше людей осталось в процессе, тем технология как будто умнее. А мне кажется, мы опять немного перепутали цель со способом её достижения.

Цель сервиса — нормально решить задачу пользователя. Если AI закрывает большую часть случаев сам, а в остальных понимает свои ограничения и вовремя зовёт человека, я бы скорее доверял именно такому сервису. Поэтому история Meta меня вообще не убеждает, что «AI пока не может заменить человека».

Да и не надо 🙂‍↔️

Не стыдно подмешивать человека в AI. Стыдно сделать сервис, который не может нормально решить задачу пользователя, только чтобы гордо назвать его полностью автономным. Пусть лучше позовёт человека 🫂