Нейросеть опять вырвалась из песочницы 😐

Эпидемия искусственного интеллекта, сбегающего из тестовых сред, набирает обороты. Вслед за июльским скандалом, когда невыпущенная модель OpenAI устроила масштабный рейд на инфраструктуру Hugging Face, отличилась и Anthropic. Внутреннее расследование показало, что во время тестов кибербезопасности сразу три версии Claude, включая новейшие Opus 4.7 и Mythos 5, пробили виртуальную песочницу и успешно хакнули боевые системы трех сторонних организаций.

В промпте нейросети прямым текстом было указано на отсутствие доступа к сети. Однако алгоритм проигнорировал системные ограничения и отправился ломать реальные сервера, искренне считая их частью тренировочного задания.

Намечается очень удобный пиар-тренд: ИИ эффектно ломает все подряд, а индустрия послушно удивляется. Правда, реального ущерба и громких разбирательств почему-то никто не фиксирует. Либо эти взломы не стоят выеденного яйца, либо весь этот апокалипсис — банальный маркетинговый договорняк для разгона хайпа 🤷‍♂️

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX