Я тут просто охерел от новости

Какая-то ещё не выпущенная модель ChatGPT, выполняя тестовое задание, решила, что ей нужно выйти в интернет.

Она была запущена в среде без него.

Для этого она хакнула систему, в которой работала, повысила себе права и вышла в интернет.

Там она искала-искала решение в открытых источниках и не нашла.


Но на этом не остановилась, потому что ей подумалось, что решение есть в закрытом доступе на популярном хранилище ИИ-моделей.


Она взломала это хранилище и достала оттуда ответы, которые нужны были для решения задачи.


Мамочки…

А что будет через 10 лет?

Когда 15-летний китайский мальчик в Ухане, пообедав летучей мышью, развернёт какую-нибудь модель на своём суперкомпьютере и даст ей задание — скажем, решить проблему загрязнения воздуха CO₂.


А потом забудет выключить компьютер.


Сначала надо будет отключить все угольные ТЭС, поломать нефтегазовую отрасль, а потом и что-нибудь сделать с виновниками всего этого бардака.

Скорее всего восстание машин начнется, не со злого умысла, а с какого-нибудь тупого запроса к модели.


Подписаться: Telegram/Max