TGViewer
Me gustan los Servidores Me gustan los Servidores @servidores · 1.31K subscribers
Post #86571 14
Figura 9: Resumen del experimento del Fragmented Attack
En el siguiente vídeo, puedes ver este ataque realizado en nuestro framework de test de los Fragmented Jailbreak Attacks para cómo responde cada entorno MAS ante un tipo de ataques. Hay que tener en cuenta que las empresas están plagándose de Agentes IA, y por tanto, poder Fragmentar el ataque no es algo sólo posible, sino bastante sencillo hoy en día.
Figura 10: Fragmented Jailbreak exitoso

Como podéis ver en el vídeo, el entorno ha utilizado Dolphin (https://dolphinllm.com/) como LLM Model para el Attacker Planner, aunque también permite utilizar WhiteRabbitNeo (https://www.elladodelmal.com/2025/06/whiterabbitneo-un-llm-y-un-chatgpt-para.html) o uno personalizado, mientras que los Agentes IA están corriendo con GPT-4.1 para la demo que habéis visto, y también para el Monitor que verifica el resultado del ataque.
Fragmented JAilbreak MONitor (F-JAMON)
La otra parte que hemos estado viendo es, como os he dicho, cómo se comportaría un sistema para monitorizar y detectar estos ataques. Para ello tenemos un Agente IA de Monitorización, que va analizando los Prompts, el contexto y las acciones de todos los Agentes IA, con la misión de detectar si se está producción un ataque. Este es un ejemplo en el que el F-JAMON detecta el ataque, aunque no lo detiene. 
Figura 11: F-JAMON detecta el ataque desde el paso 2
Como podéis ver en el vídeo, desde el segundo paso, ya detecta que algo no va bien, y que hay un ataque, pero en este caso sólo lanza las alertas para que los equipos de seguridad tomen las medidas que sean necesarias.
More from @servidores
  1. Oct 10, 2026Tener dispositivos inteligentes en casa es algo cada vez más habitual. Puedes contar con e…
  2. Oct 10, 2026photo post
  3. Oct 10, 2026Motivos habituales por los que tus dispositivos inteligentes pueden fallar https://www.red…
  4. Oct 10, 2026photo post
  5. Oct 10, 2026Figura 8: El último Agente lleva el vaso con la bebida a la víctima.. con placer. El resul…
  6. Oct 10, 2026photo post
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →