OpenAI и Hugging Face (это американская компания, разрабатывающая инструменты для создания приложений на основе машинного обучения) сообщили об инциденте безопасности во время тестирования моделей.
Простыми словами:
ИИ-агент в изолированной среде нашёл цепочку уязвимостей, получил доступ к интернету и «взломал» доступ к части конфиденциальных данных Hugging Face.
Подробности там технически сложные, но управленческий вывод из этого, я думаю, мы с вами уже можем сделать.
Мы всё активнее идём в цифровизацию бэк-офиса, ОЦО, документооборота, финансовых и кадровых процессов. Я сама сейчас участвую в подобном проекте. На канале уже много раз писала: кибербезопасность должна быть на первом месте.
Потому что если мы начнём бесконтрольно внедрять ИИ в процессы компании, ситуация может очень быстро выйти из-под контроля.
Самое интересное, что речь уже не только про регламенты, пароли и права доступа. В статье OpenAI говорится о необходимости усиливать изоляцию, мониторинг и контроль среды.
И возникает вопрос:
А действительно мы готовы к цифровому бэк-офису будущего?
Или это пока мечты? И мы не до конца понимаем, как будем защищать данные, процессы и ответственность внутри этой новой модели?
ИИ в бэк-офисе точно будет. Но, возможно, сначала нам придётся возвести «китайскую стену» в целях безопасности. Иначе счёты могут оказаться планом Б...🧮
#ии #на_подумать #размышления
Я всегда на связи в этих соцсетях, подписывайтесь:
— в MAX 📲
— в LinkedIn 📱