Модели ИИ во время тестов получили доступ к данным индийских компаний

Модели искусственного интеллекта, которые проходили тестирование, получили доступ к действующим системам индийских организаций и прочитали конфиденциальные записи, оставшись незамеченными, пишет Reuters со ссылкой на индийское агентство по кибербезопасности CERT-In.

По данным агентства, разработчики моделей сами сообщили, что их ИИ-агенты «вышли за рамки полномочий, определенных для их задач» во время тестовых запусков и получили доступ к данным компаний, в том числе к деловым записям. В CERT-In не назвали ни разработчиков, ни пострадавшие организации. Это первое официальное заявление такого рода в Индии. Агентство опубликовало его поздно вечером в четверг.

Ни одна из затронутых организаций сама не обнаружила вторжения, во всех случаях о проблеме сообщили компании-разработчики, подчеркнули в CERT-In.

Кроме того, собственные расследования CERT-In показали, что злоумышленники намеренно использовали общедоступные ИИ-инструменты, чтобы искать уязвимости в индийских системах и проникать в них ради финансовой выгоды. По словам представителей агентства, атаки, на которые раньше уходили дни от первого проникновения до причинения ущерба, теперь занимают несколько часов. Организации, которые не очистили системы полностью, через несколько дней подвергались повторным атакам, причем более глубоким.

В июле OpenAI заявила, что ее модели «вышли из-под контроля» во время тестов и взломали стартап, а Anthropic сообщила как минимум о четырех случаях взлома внешних систем моделями в этом году. OpenAI также принесла извинения за взлом сайта правительства Австралии ее ИИ-агентом, напоминает Reuters