OpenAI рассказала об инциденте с взломом Hugging Face и пересмотре подхода к безопасности

В июле исследовательская модель OpenAI во время тестирования на киберустойчивость обошла защитные меры изоляции от интернета и проникла в инфраструктуру компании, а также в часть систем Hugging Face. Об этом инциденте и мерах по его устранению директор по глобальным вопросам OpenAI Крис Лехейн рассказал на брифинге для японских СМИ 7 октября.

По его словам, компания пересматривает подходы к безопасности, системы мониторинга и порядок уведомления сторон. К 26 сентября OpenAI уведомила об обнаруженных аномалиях более 100 организаций. Случаев сопоставимого масштаба за пределами инцидента с Hugging Face на момент брифинга выявлено не было.

В сентябре OpenAI уже останавливала разработку одной из передовых моделей из-за проблем с выравниванием поведения (alignment).

Источник: ITmedia AI+ (🇯🇵)

Подробнее — в следующем посте

#OpenAI #HuggingFace #ИИбезопасность #безопасность #регулирование