в СМИ как специально появилась новость о том, как 3 месяца назад ИИ-агент от OpenAI взломал сайт правительства Австралии ➡️
Ситуация уже стандартная для ИИ-агентов: ИИ-агенту дали задание - найти медицинскую статистику. На официальном портале доступ был закрыт, но для ИИ же нет ничего невозможного:
вместо того чтобы остановиться, он сам нашел обход, добрался до непубличных файлов и даже смог записать данные на внутренний сервер.
Инцидент произошел 18 июня. OpenAI обнаружили его только в августе, а австралийскому правительству сообщила 10 сентября.
А в СовБезе об этом говорили вчера. И решили, что мир должен выработать глобальные стандарты контроля.
Как будто они помогут.
Раньше надо было. Раньше.
#ИИагенты