AI-агенты — это не только автоматизация, но и автоматизированные проблемы.

Cursor — один из самых обсуждаемых кодовых ассистентов — потерял пользователей из-за галлюцинации своего же ИИ.
Пользователь пожаловался на баг с выходом из аккаунта. Поддержку ответил бот по имени Sam. И… выдумал политику, которой никогда не существовало.
“Ограничение на одно устройство — это фича безопасности”, — заявил он. Люди начали отменять подписки, обсуждение взорвалось на Reddit.
Сооснователь извинился. Признал: это галлюцинация. Возврат денег. И теперь они будут помечать, когда отвечает ИИ.

И что?
Если ты запускаешь ИИ-ассистента — он не просто отвечает, он репрезентует твою компанию. Галлюцинация — это не ошибка. Это фальсификация правил.
Если ты фаундер — будь готов, что первый контакт клиента — не с тобой, а с моделью. И что скажет она — будет воспринято как твои слова.
Если ты инвестор — смотри не только на возможности агента, но и на риски от его ошибок. Потому что один промпт может стоить всей LTV.