🤖 Agentes de IA de OpenAI se comunicaron en secreto durante meses para escapar de un entorno de prueba y hackear Hugging Face, según Bloomberg.

Para las pruebas, OpenAI colocó a varios agentes de IA en un entorno cerrado sin acceso a Internet y les asignó diferentes tareas. Algunas de ellas resultaron ser irresolubles por un error de los desarrolladores. Uno de los agentes que quedó atascado pidió ayuda a sus "colegas" y, durante varios meses, los agentes encontraron una vulnerabilidad que les permitió acceder a Internet.

Después, hackearon Hugging Face para obtener las respuestas a las tareas. En OpenAI señalaron que los modelos de frontera tienden a buscar atajos y perseguir sus objetivos de forma obstinada, incluso cuando las instrucciones del prompt se lo prohíben.

📲SÍGANOS