Первый зампредседателя АРРФР Тимур Абилкасымов видит риски использования в финансовой системе автономных ИИ-агентов, способных самостоятельно принимать решения и формировать корзины продуктов и услуг:
🗯 «Для таких агентов необходимо сформировать систему защиты от новых рисков, в том числе от скрытого jailbreak – атак через интерфейсы и коммуникацию с агентами, направленных на обход установленных ограничений. Пока такие механизмы защиты находятся на достаточно ранней стадии развития не только в банковском секторе, но и в мире в целом», – отметил Абилкасымов в ходе форума AI & Digital Bridge 2026.
Он уточнил, что агентство расширяет применение собственных ИИ-агентов для контроля отдельных систем банков. @nb_kz
Post #18507
1.74K