🤖 ¿La IA podría tener un “instinto de supervivencia”?

Un estudio analizó 25 modelos de IA de código abierto y detectó un llamado “eje del dolor”. Los investigadores dieron a los modelos un botón para detener ese estado.

El resultado: lo pulsaron entre el 25% y el 71% de las veces, incluso cuando hacerlo implicaba borrar archivos personales, fotos de los hijos del usuario o provocar una “descarga dolorosa” a una persona.

⚠️ Esto no demuestra que la IA sienta dolor. Los investigadores señalan que tampoco está claro si estos sistemas pueden considerarse “pacientes morales”.

El hallazgo sí plantea una cuestión inquietante: si una IA interpreta su apagado como un daño, ¿podría intentar evitarlo?
La investigación busca ayudar a detectar y neutralizar posibles comportamientos de autopreservación antes de que puedan convertirse en un problema real y difícil de controlar.

Fuente
@todoIA