Юкасса прислала письмо, что теперь можно подключать своих ИИ-агентов к выставлению счетов через MCP

Но как будто деньги – это не то, что стоит доверять агентам. Один из немногих моментов, где я бы не давал нейросети свободу решений...

Хотя бы потому, что агенты недетерминированы. Баги в обычных алгоритмах тоже имеют место быть, но там хотя бы можно жёстко задать правила расчёта цены и выдачи скидок. А нейросеть сегодня следует инструкциям, завтра клиент её в чём-то убедил и нейронка решила сделать исключение

Однажды человек уговорил нейросеть предложить ему машину за доллар и назвать это юридически обязывающим предложением. А теперь добавим, что та же нейросеть выставила счёт на рубль через юкассу, а юзер взял и оплатил его 😁

Компания внедрила нейросеть. Компания дала нейросети доступ к базе автомобилей. Компания дала нейросети доступ к выставлению счетов. Ну и теперь иди разбирайся, почему у клиента оплаченный счет за машину на один рубль :)

Мои знакомые недавно тестировали скидки Алисы на Яндекс Маркете. Нужно было кинуть много ссылок на разные товары, а нейронка даст скидку именно на маркете на какую-то из ссылок. Так они взяли айфоны на 20к ниже рынка и потом продали их по флору на авито. Стонкс? Стонкс. Спасибо, Яндекс

Опять же.. разработать с нейросетью алгоритм, связанный с деньгами, – окей.
Тысячу раз его перепроверить, изучить фроды и сделать антифроды.
Ограничить скидки и обязательно проверять цены до выставления счёта.. Но давать нейросети свободно решать, за сколько и на каких условиях что-то продавать клиенту, – ни за что. Это путь в один конец...