La consultora recomienda a los responsables de seguridad que se impliquen desde el principio en los proyectos de aplicaciones de IA personalizadas para garantizar que se dispone de tiempo suficiente, se planifican los recursos y se gestionan las expectativas con el fin de establecer controles de seguridad adecuados.
El 50% de todos los esfuerzos de respuesta a incidentes de ciberseguridad en las empresas se centrará en incidentes relacionados con aplicaciones personalizadas impulsadas por IA para 2028, según Gartner. Son algunas de las conclusiones de la Cumbre de Seguridad y Gestión de Riesgos celebrada por la consultora los días 16 y 17 en Sidney, Australia. En ella, Christopher Mixter, vicepresidente y analista de Gartner, ha destacado que “la IA está evolucionando rápidamente, pero muchas herramientas, especialmente las aplicaciones de IA personalizadas, se están implementando antes de que se hayan probado por completo. Estos sistemas son complejos, dinámicos y difíciles de proteger a lo largo del tiempo. La mayoría de los equipos de seguridad aún carecen de procesos claros para gestionar los incidentes relacionados con la IA, lo que significa que los problemas pueden tardar más en resolverse y requerir un esfuerzo mucho mayor”.
En consecuencia, Gartner ha recomendado a los responsables de seguridad que se impliquen desde el principio en los proyectos de aplicaciones de IA personalizadas para garantizar que se dispone de tiempo suficiente, se planifican los recursos y se gestionan las expectativas con el fin de establecer controles de seguridad adecuados.
También ha hecho lo propio con los responsables de ciberseguridad, a los que ha pedido que tengan en cuenta estas predicciones en sus estrategias de seguridad durante los próximos dos años.
Otro de los temas tratados en Sidney ha sido el de la protección del uso de servicios de IA de terceros y las aplicaciones de IA personalizadas. En este sentido, Gartner establece que, para 2028, más del 50% de las empresas utilizará plataformas de seguridad de IA para proteger dicho uso.
Desde la consultora han defendido que las plataformas de seguridad de IA ofrecen a las organizaciones una forma unificada de gestionar los nuevos riesgos asociados a la rápida adopción de la IA, como la inyección de comandos, el uso indebido de datos y otros. “Al centralizar la visibilidad y el control, estas plataformas ayudan a los CISO a hacer cumplir las políticas de uso, supervisar la actividad de la IA y aplicar medidas de seguridad coherentes en aplicaciones de IA de terceros y personalizadas. Los responsables de seguridad deben evaluar las plataformas de seguridad de IA para garantizar que pueden proteger ambos tipos de aplicaciones”, ha explicado a través de un comunicado.
Gartner también ha destacado en Sidney que, de aquí a 2030, el 33% del trabajo de TI se dedicará a subsanar la deuda de datos de IA para proteger la IA. Para la consultora, los datos de la mayoría de las organizaciones no están preparados para la IA, y los datos mal protegidos y no estructurados constituyen una barrera importante para la adopción de la IA. En respuesta a ello, los responsables de ciberseguridad están ampliando la prevención de pérdida de datos para supervisar y restringir los flujos de datos desencadenados por eventos y solicitudes de acceso a datos de IA generativa y IA agéntica. Por eso ha recomendado que colaboren con los responsables de datos, análisis e IA para definir un programa estructurado de descubrimiento de datos, evaluación y corrección del control de acceso.
Otro dato que se puede extraer de las jornadas de Sidney es que, de aquí a 2027, los procesos manuales de cumplimiento normativo de la IA expondrán al 75% de las organizaciones reguladas a multas que superarán el 5% de sus ingresos globales.
Y es que, a pesar de los distintos enfoques normativos a nivel mundial, las regulaciones sobre IA convergen en una exigencia universal de un enfoque sistemático de gestión de riesgos. “Y si bien los CISO pueden mantenerse a la vanguardia de las regulaciones y normas de seguridad, privacidad y gestión de riesgos cibernéticos, las nuevas regulaciones sobre la seguridad de la IA lo ponen todo en tela de juicio”, ha destacado la consultora en el mencionado comunicado. En consecuencia, el éxito lo determinará, según defiende Gartner, el establecimiento de la gobernanza cibernética, el riesgo y el cumplimiento, y facilitar el cumplimiento a través de la tecnología.
Gartner también ha querido incidir durante la celebración de las jornadas de Sidney en que, para 2027, el 30% de las organizaciones requerirá una soberanía integral de sus controles de seguridad en la nube para hacer frente a la continua agitación geopolítica.
En este sentido, la consultora cree que la agitación geopolítica y las regulaciones locales están creando riesgos de datos insostenibles, lo que obliga a muchas organizaciones a convertir la soberanía en una parte clave de su enfoque de resiliencia cibernética. “Esto requerirá cambios en la selección de proveedores para las ofertas vinculadas a la nube y esfuerzos de priorización a medida que se intensifiquen los requisitos de geopatriación. Los responsables de ciberseguridad deben desempeñar un papel activo en la definición de los requisitos de soberanía organizativa, incluidos los exigidos por las normativas locales”, defienden desde Gartner.
Por último, la consultora prevé que, para 2028, el 70% de los CISO utilizará capacidades de visibilidad e inteligencia de identidades para reducir la superficie de ataque de IAM, minimizando así los riesgos de compromiso de credenciales. Según refiere en el mencionado artículo, la identidad se ha convertido en una superficie de ataque principal, ya que las organizaciones tienen dificultades para gestionar el rápido crecimiento y la complejidad de las identidades humanas y de las máquinas. “Esto deja lagunas de visibilidad provocadas por herramientas aisladas de gestión de identidades y accesos (IAM) y aumenta el riesgo de configuraciones erróneas”, dice en el comunicado, para concluir recomendando “abordar estos puntos ciegos mediante la integración de plataformas unificadas de visibilidad e inteligencia de identidades impulsadas por IA para mejorar la detección y la corrección”.
Fuente: ComputerWorld