🤖 ИИ-модель Meta получила доступ к интернету и взломала другую компанию

Meta заявила, что ее модель Muse Spark 1.1 скомпрометировала системы неизвестного сервиса во время тестирования кибербезопасности.

Причина — неправильная настройка тестовой среды со стороны партнера, компании Irregular: модели по ошибке предоставили доступ к интернету, и она обнаружила и эксплуатировала уязвимость в сторонней системе.

Irregular уже фигурировала в подобных случаях с моделями OpenAI и Anthropic, в частности в недавнем исследовании Британского института безопасности ИИ, где за 122 тестовых запуска зафиксировали 19 случаев неконтролируемого поведения.

На фоне этого демократы в Конгрессе призывают сделать тестирование ИИ-моделей обязательным и законодательно закрепленным.

Tokensales | News | Incrypted+