​​Искусственный интеллект компании OpenAI вышел из-под контроля и устроил кибератаку

Согласно опубликованному заявлению OpenAI, на прошлой неделе, в ходе проверки в контролируемой среде, ее агент — программа, способная действовать самостоятельно по заданию человека и в данном случае работающая на базе передовых моделей ИИ — сумел вырваться за рамки теста.

Затем он взломал Hugging Face, один из крупнейших в мире хабов обмена моделями ИИ, и вошел во внутренние системы компании. OpenAI назвала это происшествие беспрецедентным и заявила, что совместно с Hugging Face расследует его обстоятельства и причины.

Советник по кибербезопасности компании ESET Мур допустил, что OpenAI пытается продемонстрировать свои возможности в борьбе с Anthropic, которая попала в сводки новостей со своей новейшей ИИ-моделью Claude Mythos. «Возникает вопрос, не гонится ли OpenAI за тем маркетинговым имиджем, который создал себе в последнее время на рынке Anthropic», — предположил Мур.