Según Gartner, las empresas se verán obligadas a ello debido a la proliferación de datos generados por IA sin verificar.
Gartner ha advertido de que el aumento del volumen de datos generados por IA amenaza la fiabilidad futura de los grandes modelos lingüísticos.
Tanto es así, que prevé que el 50% de las organizaciones implementará para 2028 una postura de confianza cero para la gobernanza de datos debido a la proliferación de datos generados por IA sin verificar.
Según los datos de una reciente encuesta a directores de informática y ejecutivos tecnológicos de 2026, el 84% espera que su empresa aumente la financiación para IA generativa. A medida que las organizaciones aceleren tanto la adopción como la inversión en iniciativas de IA, el volumen de datos generados por IA seguirá aumentando. Esto significa que las futuras generaciones de LLM se entrenarán cada vez más con los resultados de modelos anteriores, lo que aumentará el riesgo de “colapso del modelo”, en el que las respuestas de las herramientas de IA podrían dejar de reflejar con precisión la realidad.
Para Wan Fui Chan, vicepresidente ejecutivo de Gartner, “las organizaciones ya no pueden confiar implícitamente en los datos ni dar por sentado que han sido generados por humanos. A medida que los datos generados por IA se vuelven omnipresentes e indistinguibles de los datos creados por humanos, una postura de confianza cero que establezca medidas de autenticación y verificación es esencial para salvaguardar los resultados empresariales y financieros”.
Chan destaca que “a medida que el contenido generado por IA se vuelve más frecuente, se espera que los requisitos normativos para verificar los datos “libres de IA” se intensifiquen en determinadas regiones. Sin embargo, estos requisitos pueden variar significativamente entre las distintas zonas geográficas, ya que algunas jurisdicciones pretenden aplicar controles más estrictos al contenido generado por IA, mientras que otras pueden adoptar un enfoque más flexible”.
Hay que recordar que los modelos de lenguaje grandes (LLM) suelen entrenarse con datos “extraídos de la web” y una variedad de fuentes, incluyendo libros, repositorios de código y artículos de investigación. Algunas de estas fuentes ya contienen contenido generado por IA y, si la tendencia actual continúa, casi todas acabarán llenándose de datos generados por IA.
“En este entorno normativo en evolución —prosigue Chan—, todas las organizaciones necesitarán la capacidad de identificar y etiquetar los datos generados por IA. El éxito dependerá de contar con las herramientas adecuadas y una plantilla cualificada en gestión de la información y el conocimiento, así como de soluciones de gestión de metadatos que son esenciales para la catalogación de datos”.
En consecuencia, desde Gartner apuntan que las prácticas activas de gestión de metadatos se convertirán en un factor diferenciador clave, ya que permitirán a las organizaciones analizar, alertar y automatizar la toma de decisiones en todos sus activos de datos.
Fuente: Computerworld