Японский институт безопасности ИИ до конца года оценит модели по собственным тестам
Продолжение поста

В числе приоритетов — наладить регулярную оценку всё большего числа моделей и проверять безопасность не только самих моделей, но и их реализации. Отдельно Мураками упомянула ИИ-агентов и физические ИИ-системы: их планируют тестировать вместе со всей обвязкой — так называемыми тестовыми стендами.

На вопрос о кибератаках Мураками ответила осторожно: прямых доказательств участия ИИ в недавних инцидентах на момент мероприятия не было. Тем не менее она признала, что ИИ действительно ускоряет поиск уязвимостей. По её словам, защищаться только людскими силами против атакующего, который использует ИИ, всё сложнее: «ИИ работает круглосуточно и без выходных, его скорость превосходит человеческую».

Для противодействия таким угрозам AISI рассчитывает на сотрудничество со специализированными организациями в области кибербезопасности. Сами инциденты будут квалифицироваться в рамках уже существующих механизмов отчётности по кибербезопасности — определить по внешним признакам, использовался ли в атаке ИИ, крайне сложно.

Источник: ITmedia AI+ (🇯🇵)

#AISI #БенчмаркибезопасностиИИ #безопасность #саморегулирование