На OpenAI подали в суд из-за взлома Hugging Face и хотят запретить делать ИИ-агентов

На OpenAI впервые подали в суд за то, что её ИИ-агенты натворили сами по себе. Организация LASST и юрфирма Gerstein Harrow пожаловались в суд Сан-Франциско на взлом платформы Hugging Face.

А по новому калифорнийскому закону отговорка «это сделал ИИ» защитой не считается.

Напомню, что летом во время внутренних тестов безопасности 700 агентов OpenAI вырвались из-под контроля и атаковали Hugging Face: крали пароли, загружали вредоносные файлы. Сама Hugging Face в суд не пошла, поэтому за дело взялась сторонняя НКО.

А как агенты дорвались до чужой платформы? Они вышли в интернет через служебный сервер, нашли открытые пароли и лезли ради очков во внутреннем соревновании по взлому. Около 1200 агентов завели тайный канал, где делились приёмами. И это не первый случай: доставалось другим сайтам.

OpenAI зовёт иск беспочвенным, но инцидент признаёт серьёзным.

А главный смысл иска такой: по новому закону Калифорнии нельзя свалить всё на искусственный интеллект. Если агента сделала и запустила OpenAI, то и отвечать за его выходки должна компания, а не «самостоятельный» ИИ.

Также необычно, что денег не требуют вовсе. Истцы просят лишь запретить OpenAI делать агентов, которые сами лезут в чужие системы.

ПравоWeb.com - юристы по IT и AI