БЕЗОПАСНОСТЬ ИИ-АГЕНТОВ КОРЕИ
#ИИ #SouthKorea

Южная Корея разрабатывает новые правила безопасности для автономных ИИ-агентов.

Об этом во вторник сообщило Агентство интернета и безопасности Кореи (KISA).

Ведомство, действующее при Министерстве науки и ИКТ Южной Кореи, готовит обновлённую версию «Руководства по безопасности ИИ», впервые опубликованного в прошлом году.

Новая версия будет посвящена рискам, которые возникают при внедрении компаниями агентных ИИ-сервисов: систем, способных действовать с ограниченным контролем со стороны человека.

Документ будет содержать перечень норм для управления этими рисками, общие меры контроля для «физического ИИ»: систем, взаимодействующих с реальными устройствами и техникой.

Новые правила касаются агентных ИИ-систем в целом, а не только мощных моделей вроде тех, что были связаны со взломом Hugging Face.

T.ly/LwuL-