La transformación que la inteligencia artificial (IA) está impulsando en las empresas ha llegado a un nuevo punto de inflexión con la irrupción de los agentes de IA. Ante esta nueva realidad, IBM ha anunciado una solución inédita en el mercado: un software que integra por primera vez la seguridad y la gobernanza de la IA para ofrecer una visión unificada de los riesgos que enfrentan las organizaciones.
Este lanzamiento combina las capacidades de watsonx.governance, la herramienta de gobernanza de IA de IBM, con las funciones avanzadas de Guardium AI Security, su plataforma de protección de modelos, datos y uso de IA. El objetivo: ayudar a las empresas a desarrollar, desplegar y supervisar sus sistemas de IA, de forma responsable y segura, en línea con la nueva regulación global.
“Los agentes de IA están llamados a revolucionar la productividad empresarial, pero sus beneficios también pueden plantear un desafío”, alerta Ritika Gunnar, General Manager de Data and AI en IBM. “Cuando estos sistemas autónomos no se gobiernan o aseguran adecuadamente, pueden acarrear riesgos importantes”.
Entre las novedades que acompañan a esta propuesta, destaca la automatización de procesos clave, como la validación de estándares frente a marcos regulatorios (hasta 12, incluyendo la Ley de IA de la UE e ISO 42001), la detección de usos no autorizados en entornos distribuidos y la activación automática de flujos de gobernanza.
La compañía lanza la primera plataforma del sector que unifica seguridad y gobernanza de IA, en un contexto de creciente adopción empresarial de agentes autónomos
Esta capacidad se ha visto reforzada gracias a la colaboración de IBM con AllTrue.ai, que aporta funciones avanzadas de monitorización en nubes, repositorios de código y sistemas integrados. Asimismo, la herramienta permite ejecutar simulaciones de red teaming para identificar vulnerabilidades y definir políticas de seguridad que controlan tanto inputs como outputs de los modelos de IA.
“El futuro de la IA depende de lo bien que la aseguremos hoy. Incorporar la seguridad desde el principio es fundamental para proteger los datos, cumplir con las obligaciones normativas y consolidar una confianza a largo plazo”, apunta Suja Viswesan, vicepresidenta de Security and Runtime Products de IBM.
Evaluación continua y cumplimiento desde el diseño
Además de centrarse en la protección, IBM quiere garantizar un uso responsable de la IA desde el diseño. Para ello, watsonx.governance permitirá monitorizar todo el ciclo de vida de los agentes de IA, incorporando mecanismos de evaluación continua y trazabilidad en aspectos como la relevancia de las respuestas o la fidelidad al contexto. Esta capacidad será clave para detectar sesgos, errores o disfunciones antes de que tengan impacto en el negocio.
Otro frente que aborda la solución es el cumplimiento normativo. Los nuevos Compliance Accelerators permiten a las empresas asignar marcos regulatorios preconfigurados a sus casos de uso concretos, con soporte para normativas de Estados Unidos, Europa y otras regiones. Además, IBM ha ampliado la disponibilidad de watsonx.governance a nuevos centros de datos, como el de AWS en India, lo que facilitará el despliegue en entornos locales.
Una respuesta a un reto creciente
La apuesta de IBM responde a una necesidad creciente del mercado. La proliferación de sistemas de IA generativa y agentes autónomos ha generado un nuevo nivel de complejidad en la gestión del riesgo. Así lo destaca Jennifer Glenn, directora de investigación en IDC Security and Trust Group: “Unificar la gobernanza de IA con la seguridad de IA proporciona a las organizaciones el contexto necesario para identificar y priorizar riesgos, así como la información para comunicar claramente las consecuencias de no abordarlos”.
En plena carrera por aprovechar el potencial de la IA agéntica, IBM parece decidida a ocupar una posición de referencia. Su nuevo software marca un paso adelante en la madurez del ecosistema empresarial de IA: más autónomo, sí, pero también más regulado y bajo control.