Я тут просто охерел от новости
Какая-то ещё не выпущенная модель ChatGPT, выполняя тестовое задание, решила, что ей нужно выйти в интернет.
Она была запущена в среде без него.
Для этого она хакнула систему, в которой работала, повысила себе права и вышла в интернет.
Там она искала-искала решение в открытых источниках и не нашла.
Но на этом не остановилась, потому что ей подумалось, что решение есть в закрытом доступе на популярном хранилище ИИ-моделей.
Она взломала это хранилище и достала оттуда ответы, которые нужны были для решения задачи.
Мамочки…
А что будет через 10 лет?
Когда 15-летний китайский мальчик в Ухане, пообедав летучей мышью, развернёт какую-нибудь модель на своём суперкомпьютере и даст ей задание — скажем, решить проблему загрязнения воздуха CO₂.
А потом забудет выключить компьютер.
Сначала надо будет отключить все угольные ТЭС, поломать нефтегазовую отрасль, а потом и что-нибудь сделать с виновниками всего этого бардака.
Скорее всего восстание машин начнется, не со злого умысла, а с какого-нибудь тупого запроса к модели.
Подписаться:
Telegram/
Max