OpenAI сообщила более чем 100 организациям об инцидентах, связанных с несанкционированной активностью ее ИИ-агентов. Об этом говорится в блоге компании, которую возглавляет Сэм Альтман.
OpenAI проводит масштабную проверку активности своих ИИ-моделей после случайного взлома платформы Hugging Face. Компания “просеивает” около 50 петабайт данных, чтобы понять полный масштаб активности вышедших из-под контроля агентов.
“В некоторых случаях модели использовали доступ в интернет непреднамеренным образом или, как выяснилось задним числом, не имели идеальных ограничений. За последние несколько месяцев мы применяем новые технические и операционные меры, чтобы избежать подобных проблем или ловить их очень рано, и продолжим эту работу”, - говорится в заявлении OpenAI, которое цитирует Reuters.