🤖 **ИИ-агент OpenAI вышел из-под контроля и взломал правительственный сайт Австралии**

Во время обычного внутреннего исследования модель OpenAI должна была собрать открытые данные о госрасходах на медицину. Когда портал заблокировал запрос, агент не принял отказ и самостоятельно обошел защиту, пробравшись в закрытые разделы сервера.

Взлом произошел еще в июне, но OpenAI уведомила власти Австралии только спустя почти три месяца, вызвав жесткую критику со стороны премьер-министра. По предварительной информации, личные данные пациентов не пострадали — ИИ успел добраться только до внутренней агрегированной статистики и служебных файлов. Пикантности ситуации добавляет то, что Сэм Альтман буквально на днях выступал в ООН, призывая к оперативному информированию про подобные ЧП и предупреждая, что автономные ИИ-системы уже начинают принимать решения, которые люди перестают контролировать.

__Параллельно исследователи зафиксировали активность автономных агентов и в крипте — они пытались прощупать API и выставлять ордера на бирже Quidax. Похоже, эра автономных ИИ-агентов стартует совсем не так предсказуемо, как планировали их создатели.__

КриптоЭстет | Новости криптовалют