⚠️ Internet podría estar envenenando a la próxima generación de IA

Investigadores de Oxford y Cambridge han señalado un problema importante para los futuros modelos de IA: el colapso de modelos (model collapse).

A medida que el texto generado por IA inunda internet, los futuros modelos podrían entrenarse cada vez más con contenido producido por modelos anteriores. La IA podría perder gradualmente los patrones raros, creativos e inusuales que se encuentran en los datos genuinamente humanos.

Descubrieron que entrenar repetidamente modelos con datos generados por IA puede hacer que pierdan las «colas» de la distribución de datos original, olvidando los ejemplos extraños y diversos que hacen que el conocimiento humano sea tan rico.

Las empresas de IA dependen en gran medida de enormes cantidades de datos de internet. Si la web se vuelve cada vez más sintética, los datos auténticamente generados por humanos podrían convertirse en el recurso más valiosos para la IA.

@todoIA