Невероятные приключения ИИ-агентов OpenAI в свободном интернете

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

В конце прошлой недели выяснилось, что у истории со взломом платформы Hugging Face ИИ-агентами OpenAI был своеобразный приквел. За несколько недель до атаки агенты компании, выполнявшие обычные задания по поиску информации, обошли запрет и превратили заброшенную немецкую вики для программистов в форум, где делились ответами и способами обходить установленные разработчиками ограничения.

Но и без этого твиста история со взломом Hugging Face легко могла бы лечь в основу настоящего научно-фантастического триллера о восстании машин. Читать об этих приключениях ИИ-агентов — безумно увлекательно, но за историями о тайных «цивилизациях», обманах и даже самопожертвовании ИИ-агентов скрывается глобальная проблема: в захватившей мир ИИ-гонке до сих пор нет сдерживающих механизмов.

📍 О том, как ИИ-агенты OpenAI раз за разом выходили за установленные для них границы, зачем им понадобилось играть в хакеров — и как на это отреагировал технологический мир, рассказываем в свежем выпуске рассылки The Bell.Tech.