▶️ По мнению зампреда Банка России Михаила Мамуты, ключевая проблема ИИ-агентов в инвестиционном планировании - их склонность подстраиваться под пользователя. Со временем модель начинает подыгрывать инвестору и льстить ему, из-за чего человек теряет критичность мышления.
Человеку кажется, что это он такой умный, потому что ИИ-модель ему говорит: "Ты классно все придумал, это отличный сценарий", а на самом деле она просто ему льстит. И человек... он начинает все больше и больше слепо полагаться на эту рекомендацию
Судя по заявлению Мамуты, ЦБ боится, что неопытные инвесторы, которых уже много, получат персонального «льстеца» и будут брать больше риска.
🔼 И когда ИИ-советники все же по-настоящему массово придут в инвестиции, у ЦБ уже будет аргумент для жёстких требований: раскрытие рисков, запрет на «гарантии», обязательное участие человека.
🦾 AI для бизнеса в Telegram | в MAX