Совсем не потеме канала, но интересно.

У финансовых ИИ-агентов есть неочевидная особенность: деньги — чувствительная тема. Ошибка в генерации картинки — забавно. Ошибка системы, которая управляет деньгами, воспринимается не как баг, а как потеря контроля.

Поэтому финансового агента надо проектировать не вокруг максимальной автономности, а вокруг контролируемости. Агент готовит информацию, но любое действие с деньгами всегда подтверждает человек.

Права доступа, пороги, правила остановки и журнал действий здесь не скучная корпоративная обвязка. Это часть продукта.

Это важно даже тогда, когда агент приходит к правильному выводу. В исследовании FinRCA-Bench система в 254 случаях верно определила причину финансового расхождения, имея неполный набор доказательств. Ответ оказался правильным, но проверить путь к нему было нельзя. Для финансов это плохой результат: правильного ответа «по счастливой случайности» недостаточно.

Очевидный тренд в финансовых агентах — меньше магии чёрного ящика, больше объяснений, доказательств и явного согласия. Их автономность будет расти, но последнее слово останется у человека.

https://bit.ly/4qvC34s