ИИ-агенту OpenAI поручили найти в интернете публичные данные о расходах на медицину в Австралии. Государственный сервис Medicare несколько раз отказался выдать запрашиваемую информацию, после чего ИИ обошёл ограничения и получил несанкционированный доступ к системе. Взламывать Medicare ИИ-агенту не разрешали. OpenAI сообщила об инциденте австралийскому правительству три месяца спустя.

Граждане, ставя задачу ИИ, формулируйте её точнее. А то получится как с дураком, которого послали за водкой, а он одну бутылку и принес.