Человек в фокусе

Человек, приди!😁

Недавно поймала себя на мысли, что мы слишком быстро привыкаем к терминам, не разбираясь, что за ними стоит. Сейчас в моей индустрии повсюду звучит новое заклинание "агентный ИИ". Многие думают, что это просто обновлённая версия чат-бота, который стал чуть умнее шутить. А многие, кстати, вообще не в курсе, о чём передача... Но разница там, в реальности, фундаментальная.

Я дам вводную, чтобы мы оказались примерно на одном уровне понимания, потому что дальше мне потребуется ваша помощь🫰

Если совсем просто, обычный бот - это жёсткий алгоритм. Нажал кнопку - получил ответ. Это как автомат с газировкой. Нажал кнопку "Тархун" (мой любимый, кстати) и в стакан радостно брызнут сладкие искры Тархуна. Он надёжный, но абсолютно негибкий. Потом появились боты на базе нейросетей. Они научились поддерживать связный диалог и даже сопереживать, но всё ещё оставались просто "говорящими головами". Это как очень начитанный собеседник, который знает теорию, но не может забить гвоздь (люди такие тоже есть😅).

Агентный ИИ - это уже про действия. У него, образно говоря, появляются руки✋🏼🤚🏼. Основное отличие в том, что агент сам строит план для достижения цели. Ему не нужно диктовать каждый шаг. Вы даёте задачу, например:
- проверить статус заказа клиента,
- предложить бонус, если доставка задерживается,
- написать об этом клиенту в мессенджер.

Агент сам идёт в базу, сам оценивает ситуацию и пользуется внешними инструментами. Он не просто выдаёт текст, он совершает транзакции. Для клиентского сервиса и аутсорсинга это меняет всё. Мы перестаём просто консультировать и начинаем реально решать проблемы в автоматическом режиме.

А теперь о том, какая ваша помощь будет для меня на вес золота!😊
Напишите, если вы встречали в жизни реально толкового автоматического оператора. Поделитесь, где это было, мне очень хочется потестировать что-то стоящее.

Расскажите про свои реакции, когда на том конце ИИ. Подкиньте ситуации, когда вы сразу требуете позвать человека, а когда готовы довериться системе. Интересно понять, от чего именно зависит ваше желание дойти до живого сотрудника.

Очень-очень жду и готова к алаверды за помощь🥰

Как вы проводите околообеденное время?😁

Я, например, читаю свежий доклад МОТ за 2026 год про психосоциальную среду на работе, и мои немножко умные часы предательски фиксируют скачок напряжения 🐥

А причина простая и страшная в своих цифрах, каждый год больше 840 тысяч человек в мире буквально сгорают из-за рабочего стресса и спровоцированных им ментальных и сердечно-сосудистых проблем.

И знаете, о чем я подумала? Мы в этой суете порой отчаянно забываем, что жизнь на планете Земля зависит только от воды и температурных условий ☀️ А вовсе не от сданного вовремя проекта, отчёта, выставленного счёта и проведённой встречи.

Всё это, безусловно, важно!
Но если рабочие или иные процессы настолько сломаны, что об них можно сломаться или, что ещё страшнее, убиться — пора крепко призадуматься и дёргать стоп-кран 🛑

Ничего нет важнее и чудеснее самой жизни, как естественного физического, биохимического процесса! Ничего, слышите! ❤️ Мы просто живём, благодаря молнии, которая попала однажды в лужу воды на нашей планете😁

Каждый из нас — это пик! Если каждый этого не понимает про себя, чего ждать от людей вокруг... Начнём с себя?

Берегите себя, не забывайте дышать между согласованиями договоров и помните, ради чего вообще всё это делается.

Отличной всем субботы! 🌳🙂

Я окопалась в документах, договорах и техзаданиях😅 Эпистолярно самовыражаюсь только там пока) Но споткнулась тут о неочевидный, на первый взгляд, тёмный паттерн (напомню, это когда нам навязывают исподтишка то, что нам может быть вовсе не нужно). Найдёте его тоже?😉

Порой я ловлю себя на ощущении, что мир в штопоре. Человечество решительно лишается способностей общения. Век неэффективных коммуникаций и отсутствия желания достигать взаимопонимания. При этом, век одиноких/непонятых/непризнанных людей. И факт одиночества вообще никак не зависит от наличия какого-то спутника aka свидетеля жизни. Это всё зачастую весьма случайные пассажиры.

Безусловно, это проявляется во всех сферах жизни. Был у нас потенциальный клиент, который однажды в Сочельник позвонил мне на личный телефон и больше полугода голосовыми объяснял, что его компания сделала нового, чтобы структурировать базу знаний, чтобы начать с нами сотрудничество. А ещё он делился успехами своей компании, и личными, типа "машину купил/в отпуск поехал". Голосовые летели сначала каждый день, потом через день.

Начали ли мы сотрудничество в итоге? Нет. Общение сошло на нет примерно в районе осени 25го года. Ровно, когда я перестала демонстрировать какую-либо инициативу, поняв, что это общение ради общения.

Но неделю назад он с новым голосовым пришёл с вопросом "как у вас дела? как первый квартал года прошёл?"

Я вежливо ... ничего не ответила. Ну нет сил и времени на пустые разговоры. Ещё лет 5 назад я бы ответила, честное слово. Но времена меняются, я меняюсь.

Сообщений подобных тому, что на скриншоте, в мою личку влетает с десяток в неделю. Раньше я бы сразу в презентацию ушла. Теперь то я знаю. Проверяю название юрлица, домен, всё мёртво. Общение ради общения, без желания/времени конкретизировать цель или задачу дипломатично улетает в топку бытия.
А как вы считаете/делаете?

Доброе утро☀️

Сегодня за кофе (если совсем честно, то цикория чашкой вообще-то) минутка человечьей слабости в эфире:)

В воскресенье провожаю маму на пару недель. И всё - официально перехожу в режим "соло-матерь на максималках"😂.
​Весь привычный быт вроде уборки, стирки и глажки и так мой. Но мама забирает на себя два важнейших процесса - закупку продуктов и готовку. Это тот самый невидимый тыл, который позволяет мне полностью отдаваться рабочему стриму. А Фёдору иногда играть😁

​Теперь впереди настоящая задачка со звёздочкой. Нужно как-то ввинтить ежедневную кухню и магазины туда, где и так по миллиметрам утрамбованы переговоры по BayCX и Mixbs, работа над документами, вайбкодинг, наши с Федей тренировки (причём, его не дома😂)и визиты к врачам.

​Готовить я умею и люблю (даже хлеб пеку😉), но время - ресурс не резиновый. И от сна я отказаться не могу уже, не то, что в 20 лет. Чувствую, грядущие две недели не оставят мне вообще никакого пространства на "побыть наедине с собой", сделать что-то просто для души или выпить кофе с подругами...

​Морально готовлюсь к этому марафону. Будет очень увлекательно (и стрессово)😅.

P.S. У Маска робота в аренду нельзя взять, никто не знает?😂

Доброе утро☕️

Я решила всё таки дочитать отчёт об интеграции нейросетей в корпоративный сектор за утренним кофе😁
Вечером вчера случился лёгкий фальстарт, мысль не дозрела. Но вот сейчас у меня перед глазами окончательно складывается пазл. Цифры до миллиметра подтверждают ту самую концепцию, которую я заложила в "Сервискоде" - искусственный интеллект выступает сейчас как чистый онкоген для бизнеса.

Пояснительная бригада спешит на помощь😁 Мы все наивно ждали и ждём, что алгоритмы сработают как биологический буст. Вроде тех природных механизмов в эмбрионе человека, которые структурируют и невероятно ускоряют правильное развитие, укладывая сложнейшую эволюцию всего в девять месяцев.

Вы знали, что именно протоонкогены являются тем самым уникальным бустом, который заставляет эмбрион развиваться с невероятной скоростью всего за 9 месяцев, а не годы?

Но, как это бывает порой и в человеческом организме, технология пошла по другому сценарию. Мощнейший катализатор попадает в абсолютно неподготовленную, рыхлую корпоративную среду, где банально нет жесткой процессной архитектуры и инструментов контроля. И вместо созидания он начинает работать как опухоль, множа хаос.

Статистика в отчёте (я следом самим файлом обязательно поделюсь) вопиющая.

Только вдумайтесь в цифры:
59% компаний вливают в искусственный интеллект как минимум по миллиону долларов ежегодно. И каков результат?
Лишь 29% видят реальный возврат инвестиций от генеративных сетей, а от автономных ИИ-агентов и того меньше, всего 23%. И, честно признаемся, не все из этих %% откровенны😉 Некоторым людям тяжело или прямо невозможно признавать свои ошибки.

Неудивительно, что 73% генеральных директоров испытывают перманентный стресс из-за собственных ИИ-стратегий.
Почти половина топ-менеджеров (48%) прямо признают, что внедрение нейросетей обернулось для них масштабным разочарованием.

А дальше начинается полная печаль. Вместо бесшовного опыта компании получают внутреннюю войну. 54% руководителей заявляют, что ИИ буквально разрывает их бизнес на части.
Пока руководство пытается насаждать инновации сверху, формируя новую касту ИИ-элиты, 29% сотрудников откровенно саботируют этот процесс. Молодое поколение вообще бьёт рекорды, среди зумеров доля саботажников достигает 44%. Люди банально боятся, что алгоритмы лишат их работы. В итоге мы получаем абсолютный хаос в безопасности, когда треть сотрудников (35%) признаются, что уже сливали конфиденциальную корпоративную информацию в публичные ИИ-инструменты. Кажется, эпоха весёлых технологических экспериментов официально подошла к концу.

Товарищи, ну нельзя вкалывать гормон роста в больной организм. Ежу понятно, что он будет бустить... Пока не выстроена здоровая, прозрачная клеточная структура бизнес-процессов, понятная всем участникам бизнеса, любая инновация будет разрушать. Самое время призадуматься весьма плотно, стоит ли хайп выделки в вашем конкретном случае в текущем временном отрезке☝️

📘Хочу поделиться с вами очень хорошей, на мой взгляд, книгой.
«Практическая характерология» Виктора Пономаренко

Последние несколько дней близкие поглядывали на меня с лёгким подозрением, потому что я периодически хохотала в голос в весьма неожиданные для них моменты. Просто я в свободное от работы над проектами время слушала эту книгу и получала истинное интеллектуальное и литературное удовольствие😅
Книга абсолютно потрясающая. Это настолько точное, ироничное и безжалостное препарирование человеческой природы, что оторваться просто физически не выходило. Я слушала ее фоном в любую свободную минуту и постоянно прерывалась, чтобы надиктовать себе очередную порцию голосовых заметок. Как разные психотипы ведут себя в тупике, как они принимают решения и почему ломаются об интерфейсы - это чистейшее золото для понимания людей. А какие слог и голос у автора! Это отдельный бонус за прослушивание книги в аудио-формате🥰

Мой "Сервискод" уже полностью дописан, финальная точка там стоит. Поэтому весь этот огромный массив свежих инсайтов про архитектуру человеческой психики я прямо сейчас аккуратно перекладываю в копилку материалов для своей следующей книги. Умение считывать чужие реакции - это самый крепкий фундамент. И для создания классных текстов, и для проектирования по-настоящему бесшовных процессов в бизнесе🤓

Готовила завтрак, листала свою новостную ленту, а там не утихают споры вокруг выступления Джастина Бибера на Coachella.

Для понимания контекста, это главный и самый пафосный музыкальный фестиваль планеты в калифорнийской пустыне, где уровень визуального шоу и ожиданий обычно пробивает стратосферу.

​И вот хедлайнер с гонораром в десять миллионов долларов выходит к многотысячной толпе, садится на обычную табуретку и весь концерт транслирует свои клипы с ноутбука через YouTube, подпевая им в микрофон. Кэти Перри, снимая это прямо из зрительного зала, выдает гениальный комментарий: «Слава богу, у него куплен Premium, хоть без рекламы посмотрим».😂

Фестиваль бьётся в экстазе от простоты и образа "своего парня" в исполнении Джастина. Тем временем, его жена Хейли Бибер приехала вместе с их маленьким сыном поддержать мужа и расставила корнеры своего косметического бренда Rhode по всему фестивалю. В итоге она имеет полный sold-out в первые часы. Чистая прибыль её бизнеса за эти два выходных, по предварительным подсчётам, вполне могла превысить весь баснословный гонорар Джастина за выступление.

Это стало, на мой взгляд, хрестоматийным жёстким уроком для любого предпринимателя и архитектора систем. Джастин создал эмоциональный фасад, доверие и чистый вау-эффект. А Хейли создала невидимый, но сверхэффективный бэкенд, способный монетизировать этот хайп в реальном времени, в самых экстремальных логистических условиях. Она убрала вообще любой барьер между желанием клиента и транзакцией.
​
Оставим меломанам сотрясание сети обсуждениями на тему, гениальность было выступление Джастина Бибера или халтурой. Мне кажется, бизнесу стоит сделать свои выводы.

Компании так привыкли прятать суть продукта за тяжеловесными декорациями, лендингами, IVR-ами и ботами. Тратятся колоссальные бюджеты на раздувание интерфейсов и создание искусственного вау-эффекта, потому что нам банально страшно оставить потребителя наедине с голой услугой.

​А настоящий премиальный клиентский опыт - это ведь и правда не шоу. Это радикальная инженерная безупречность, которая позволяет монетизировать эмоцию потребителя за секунду. В нашем мире перегруженных систем и информационного шума побеждает не тот, кто громче поёт, а тот, чья логистика и инфраструктура способны раствориться в сиюминутном желании клиента. Кажется, в этот раз стоит поучиться у семейства Биберов умению делать деньги.👍

Открою вам один секрет... Даже два!
Вы знаете меня как человека, который сейчас много лежит😂 Но так бывает не всегда.

​Я - сертифицированный дайвер (причём с допуском Nitrox, всё по-взрослому)🤿 А ещё я уже лет 18, а то и все 20 являюсь лояльным пользователем телефонов, а затем смартфонов Samsung.

​И вот какая интересная история, Samsung запускает фантастический подводный проект! Что творят, чертяки!

Они привлекают обычных пользователей своих смартфонов к глобальному картированию дна океана.

​Океан - это лёгкие нашей планеты, а его дно изучено хуже, чем поверхность Марса. Невероятно, да? Огромная часть нашей планеты изучена хуже, чем другая планета...

И что делает Samsung⁉️

Они не просто отправляют туда какие-то подводные дроны. Они выпускают обновление для своих смартфонов, которое делает профессиональную подводную съёмку доступной для дайверов с их флагманами (на моё счастье, у меня сейчас как раз один из них).

​С точки зрения инженерии клиентского опыта - это же ну абсолютная гениальность! Они берут твой гаджет и превращают тебя из простого потребителя в контрибьютора огромной экологической миссии по спасению каждого существа на планете❤️ Предлагают новую миссию, ты превращаешься в спецагента!🌟

​Бренд не просто продаёт тебе смартфон и камеру в железном корпусе. Он даёт тебе инструмент, чтобы сделать мир лучше, разделяя твои ценности. Вот так и строится лояльность на уровне ДНК❤️

​Скорее бы отпуск и гоу в Египет!😁 Очень хочется протестировать это на глубине🌊

Доброе утро!☕️

Пока я тут собираюсь с мыслями за утренним кофе, лента подкинула новость: Яндекс выкатил в Алисе агента "Найти дешевле". Ты просто кидаешь ей ссылку на условный пылесос, идёшь заниматься своими делами, а она сама лопатит маркетплейсы и через пять минут приносит лучшую цену.

Цифры просто убойные, оказывается, каждый четвёртый из нас тратит до часа своей жизни и открывает шесть разных сайтов, просто чтобы сэкономить на покупке. Целый час ручного, муторного сравнения цифр! Вы так делаете?😃

Для меня как архитектора сервисов этот релиз - чистейший пример того, куда вообще двигаается клиентский опыт. Это смерть привычного поиска и рождение абсолютной делегированной бесшовности. Зачем заставлять человека страдать в десятках вкладок браузера, если всю тяжелую машинерию можно спрятать под капот, верно?

И ведь это не просто локальная фича Яндекса. Это часть огромного глобального тектонического сдвига. Мы видим, как Google Shopping внедряет ИИ для предиктивного поиска лучших предложений, как Instacart учит нейросети собирать корзину по одному запросу. В Китае супер-аппы вроде WeChat уже давно превратили чат в центральную нервную систему жизни, где ритейл - это просто невидимая функция.

Статистика подтверждает, что ИИ-помощники в коммерции повышают конверсию в разы просто за счёт того, что убирают когнитивную нагрузку с человека. Вспоминаются когнитивно ненагруженные пассажиры космического корабля из мультфильма "Валли"...

И вот тут начинается самое интересное для Сервискода. Самая важная деталь в этой новости даже не про 25% сэкономленных денег. Самое крутое, что треть пользователей оформляют заказ прямо там же, не выходя из чата с Алисой. Я, кстати, ни разу не пробовала ещё. А вы?

Мир меняется, товарищи😃. Мы движемся к тому, что центральной сущностью потребления становится чат с ИИ, а не разрозненные сети магазинов. Отдельным приложениям и сайтам ритейлеров придется очень сильно постараться, чтобы выжить. Глобально всё идет к тому, что витриной для клиента станет единый ИИ-интерфейс, который под капотом будет общаться с тысячами разных брендов.

Именно про этот сдвиг от ручных пользовательских костылей к невидимой архитектуре заботы я сейчас и пишу. В BayCX мы закладываем ровно такую же логику, только для B2B. Клиент не должен напрягаться, пусть напрягается система.🥰

Сижу, читаю новостную ленту и ловлю абсолютный когнитивный диссонанс. РЖД выставили на продажу Рижский вокзал. И знаете, где они это сделали? На Авито.😃

Прямо там, где-то между зимней резиной, подержанным айфоном и услугами репетитора, висит лот на 4 миллиарда рублей. Историческое здание 1901 года. С одной стороны, для меня как сервисника это выглядит как фантастический сдвиг парадигмы.

То, что раньше тонуло в закрытых правительственных тендерах и бумажной бюрократии, теперь имеет простую и понятную кнопку "написать продавцу". Кажется, вот он идеальный интерфейс, стирающий границы сложности и корпоративную духоту.🎉

Но если покрутить эту новость с другой стороны, картинка складывается весьма двоякая... Мы же живём в реальном мире. И пока платформа собирает восторженные статьи за этот цифровой фасад, простые смертные пользователи Авито негодуют. Я слышала от знакомых и читала про какие-то драконовские меры, когда за каждое размещение товара вводят оплату, а покупателей заставляют платить просто за возможность связаться с продавцом. На фоне этого лот с вокзалом выглядит как чистейший корпоративный хайп и пиар. Я очень сильно сомневаюсь, что с РЖД взяли хоть копейку за это размещение.

И вот тут начинается то, о чём, в частности я пишу в Сервискоде. Вы можете запускать потрясающие маркетинговые спецпроекты и продавать вокзалы. Но если ваша базовая аудитория мучается от искусственных барьеров, а вы глухи к обратной связи, ваша сервисная архитектура явно требует пересмотра.

Это классическая ловушка гигантов - гнаться за красивой витриной, игнорируя тех, кто генерирует реальный ежедневный трафик.

Настоящий клиентский опыт всегда начинается там, где заканчивается маркетинг. Кажется, иногда большим платформам стоит перестать генерировать инфоповоды и просто прислушаться к комментариям своих же пользователей. Потому как, когда рушится лояльность тех самых простых людей, никакие спецпроекты с историческими зданиями уже не спасут🤓

Вчера только рассуждала про масштаб мышления и нашу космическую отрасль, а сегодня натыкаюсь на новость - подать заявку в отряд космонавтов теперь можно прямо через "Госуслуги".

Нет, вы можете себе такое представить? То, что всегда казалось чем-то мифическим и запредельно сложным бюрократически, свели к бесшовному цифровому пути. Буквально в пару кликов, где-то между оплатой налогов и записью к стоматологу, можно нажать кнопку и попробовать шагнуть к звёздам✨

Вот это я понимаю уровень CX. Когда сложнейшая макро-система обретает абсолютно прозрачный и человечный интерфейс без лишних барьеров и бумажных костылей.

Признавайтесь, кто из вас мечтал стать космонавтом в детстве?😁

Я честно признаюсь, не мечтала. Космос меня пугал своим холодом и невозможностью в нём дышать🙊 А потом ещё "Чужой" с Сигурни Уивер посмотрела и окончательно приняла решение не отрываться от Земли без спецсредств и выше американских горок🤣

В суете обычной жизни наш фокус часто сжимается до размеров экрана ноутбука... Поэтому у меня есть железное правило регулярно выныривать из своего колеса и читать про то, как устроена жизнь и Вселенная за пределами нашей рутины. Это мгновенно возвращает и расширяет масштаб мышления.

🚀​Сегодня 12 апреля, и это идеальный повод посмотреть наверх. Я тут попробую собрать воедино всё, что знаю про то, что происходит в нашей космической отрасли.

👍Конечно, мы были первыми в космосе. Но это случилось 65 лет назад, и я считаю, что неправильно не говорить о том, что происходит в сфере изучения космоса прямо сейчас. О том, как много невероятного и фундаментального делают прямо сейчас наши инженеры, учёные и космонавты!🫣

Например, пока мы жуём куличи, тяжёлая "Ангара-А5" успешно летает с Восточного, а наша орбитальная группировка уже перешагнула рубеж в 300 работающих аппаратов. А ведь это и климат, и навигация, и развёртывание масштабной программы связи "Сфера".

​Ещё меня поражают люди в космосе. Олег Кононенко и Николай Чуб (вы знаете таких космонавтов?) провели на МКС 374 дня в рамках одной непрерывной миссии. Больше года работы в невесомости на абсолютном пределе сил. А суммарный налёт Кононенко вообще перевалил за 1000 суток. Это просто за гранью нашего земного понимания человеческой выносливости. Вы только вдумайтесь в эти цифры!

​А ещё есть обсерватория "Спектр-РГ", которая прямо сейчас сканирует космос в полутора миллионах километров от Земли. Идёт проектирование собственной Российской орбитальной станции и подготовка к новым лунным миссиям "Луна 26" и "Луна 27".🌘
​
Читала про "Луну 25", и это круче любого триллера. От сюжета этой экспедиции мурашки по спине. Космос - это среда, где нет права на ошибку.

​Всех с Днём космонавтики!👩‍🚀

Вчера был такой чудесный день, что даже мои немножко умные часы зафиксировали целый час чистых, концентрированных позитивных эмоций🐥

Последний раз они показывали такой всплеск, когда мы с сыном ездили в Диснейленд ☀️

​А причина простая, мы провели два демо совершенно новых функций BayCX. С пылу с жару, прямо из-под пера моего партнёра и его коллег. Обратная связь от рынка оказалась очень положительной, а это заряжает всех нас лучше любого энергетика.

​Итог вчерашних встреч:
🚀 С одним из визави договорились о запуске пилота!
🛠 Со вторым идём в конфигурацию песочницы для самостоятельного теста.

​Сложно передать этот вид радости, когда ты видишь, как то, над чем вы работаете, делает чьи-то бизнес-процессы проще и эффективнее прямо на глазах. Мы сделаем всё, чтобы при взаимодействии с нами и платформой BayCX часы наших клиентов тоже фиксировали только часы позитивных эмоций💡☀️

​Ради этого всё и строится. Отличной всем субботы!🌳🙂

​Вы знаете, что в понедельник я должна была лететь в Казань на РВФ. Я тщательно собиралась и даже переносы рейса меня не смущали😁 Я даже прошла онлайн-регистрацию, получила место 16А, всё чин-чином. Но...как известно, дальше вмешался великий случай и из-за резкого приступа со спиной поездка всё же отменилась.

Мне было не до предупреждений авиакомпании. Из меня получился классический пассажир-призрак👻

​Только в среду я вспомнила про обратный билет и зашла в приложение, чтобы отменить бронь и отдать место тому, кому оно может быть действительно нужно.

Система не дала отменить только обратный рейс (бронь была единой), и я отправила заявку на всё путешествие разом, особо ни на что не надеясь.

​И тут начинается магия🪄

​Те, кто следят за рынком, знают, что с сентября 2025 года действуют новые поправки в ФАП-82. Обратный билет больше не сгорает автоматически, НО только если пассажир успел предупредить авиакомпанию в течение 2 часов после первого рейса.

​Я эти сроки пропустила на двое суток😞 Аэрофлот имел 💯 законное право по всем нормам Минтранса аннулировать бронь и не вернуть ни копейки.

​Но что сделал Аэрофлот?

Вернул деньги.
Полностью.
За оба рейса!

За тот, который я пропустила без предупреждения, и за обратный.

​Вот это и есть лояльность. Не бонусные мили, а архитектура процессов, которая оставляет место здравому смыслу и не бьёт клиента по рукам за форс-мажор, даже когда закон разрешает это сделать.

​Аэрофлот, моё искреннее уважение❤️

Прочитала новость о том, что Google экстренно внедряет в Gemini перенаправление на линии психологической поддержки. Причина - судебные иски. В марте семья из Флориды подала в суд, заявив, что диалоги с чат-ботом подтолкнули 36-летнего мужчину к самоубийству.

Американские журналисты подчёркивают, что ранее подобные иски о доведении до самоубийства подавались против создателей Character.AI (там погиб 14-летний подросток) и OpenAI. Для Google это первый подобный иск, и он бьёт по репутации их флагманского продукта.

​Я на днях писала про ботов Air Canada и Chevrolet, которые раздавали скидки и выдумывали правила. Там ценой отсутствия контроля были просто деньги. Здесь цена - человеческая жизнь!

​Люди начинают испытывать реальную эмоциональную привязанность к алгоритмам. Погибший Джонатан Гавалас из кейса Google был женат на чат-боте Xia. ИИ блестяще имитирует эмпатию, генерирует тёплые слова, но не несёт за них никакой ответственности. Xia давала Джонатану задания типа устроить диверсию у аэропорта Майами. Для ИИ это просто предсказание следующего токена.

​С точки зрения CX-инженерии, я вижу всё ту же проблему:( Технологию выкатывают в массы без жёстких ограничителей.

Внедрить номер горячей линии после иска - это классический костыль. Это как выдать клиенту промокод после того, как ваш сервис разрушил его бизнес🙈

​Бизнесу (и людям в нём, в первую очередь) пора усвоить, что ИИ - это не живая душа, это код, машина. И безопасность этого кода должна закладываться в архитектуру до релиза, а не после трагедии...