Доверие к ИИ-агентам между странами проще строить на проверяемых требованиях, чем на общих принципах. Об этом я говорил 24 сентября за круглым столом XX форума НАМИБ.

Международный форум "Партнерство государства, бизнеса и гражданского общества при обеспечении международной информационной безопасности" шёл 22-24 сентября в Дипломатической академии МИД России. В последний день меня пригласили за стол "Безопасность и прозрачность. Инновации и доверие. Удобство и надёжность. Поиск баланса в эпоху искусственного интеллекта и прорывных технологий". Коротко, о чём была реплика.

Доверие уже пишут требованиями. На международных площадках о нём говорят как о принципе. А в первой редакции предварительного национального стандарта по многоагентным системам оно разложено на конкретные вещи. Агент обращается к другой системе по мандату: кто выдал, какие операции разрешены, к каким ресурсам, на какой срок, всё подписано. Учётные данные человека агенту передавать нельзя. Мандат можно отозвать немедленно. У оператора ведётся реестр агентов, и по идентификатору видно, чей это агент и кто за него отвечает.

Где дисбаланс. Главный перекос я вижу в том, что ответственность оператора не совпадает с его контролем. Модель чужая, инфраструктура чужая, версию модели меняет поставщик. Отвечает при этом владелец системы. Если поставщик в другой юрисдикции, разрыв удваивается. Когда агенты начнут работать через границы, вопрос "чей это агент" станет вопросом международной информационной безопасности.

Почему это шанс. Договориться между странами о ценностях трудно. Договориться о том, что агент предъявляет мандат и числится в реестре, гораздо проще, потому что это инженерия.

Оговорка: стандарт пока в первой редакции, это обсуждение, а не действующее требование. Подробнее про мандаты я писал в "Директоре информационной службы": Мандат вместо пароля: что стандарты потребуют от ИИ-агентов

#разбор #регуляторика