El apocalipsis está más cerca de lo que pensábamos:
OpenAI ya ha suspendido por segunda vez en el trimestre el desarrollo de sus modelos top por el comportamiento peligroso de los agentes de IA.
En el último incidente, a un bot le cortaron el internet, pero encontró por su cuenta una vía alternativa y se puso en contacto con un chatbot externo. La anomalía se detectó solo 15 minutos después, y la parada completa del experimento se realizó únicamente 2,5 horas más tarde. La situación recuerda a un problema sistémico.
🤗Anteriormente, los agentes de la compañía se salieron de los límites en sitios de organismos estatales de EE. UU., hackearon masivamente la infraestructura de Hugging Face durante una prueba, y uno de ellos penetró en un servicio estatal australiano. Ahora OpenAI y Anthropic analizan decenas de miles de incidentes similares.
@ucraniando