Los proveedores de ciberseguridad han empezado a crear o añadir funciones para proteger la infraestructura de IA de las empresas. Analizamos algunas de las que ya están en el mercado o que se planean lanzar en 2024.
La adopción generalizada de la inteligencia artificial (IA) generativa en las empresas ha aumentado la necesidad de contingencias, incluido el software de seguridad de IA. Es una tarea difícil porque el alcance de la IA en la infraestructura y los datos de una organización es enorme, lo que significa que se requiere un amplio espectro de medidas de protección. Esta es una de las razones por las que los atacantes se sienten atraídos por los abusos de la IA.
Hemos examinado las herramientas de nueve proveedores que gestionan la postura de seguridad de la IA (AI-SPM). Se trata de un campo emergente y, por desgracia, eso significa que la mayoría de los productos no son ni de lejos tan completos o integrados como podrían ser. Hay al menos otros nueve proveedores que están trabajando activamente en productos similares que verán la luz en los próximos meses.
Explicación de la gestión de la postura de seguridad de la IA
La gestión de la postura de seguridad de la IA es una disciplina de ciberseguridad emergente centrada en garantizar la integridad y seguridad de la IA y los sistemas de aprendizaje automático. AI-SPM engloba estrategias, herramientas y técnicas para supervisar, evaluar y mejorar la seguridad de los modelos, datos, conductos, aplicaciones y servicios de IA, incluso cuando las amenazas a estas entidades evolucionan continuamente.
En el pasado, las herramientas de gestión de la postura de seguridad se diseñaban para dos situaciones diferentes: para proteger las operaciones generales en la nube frente a errores de configuración y abusos, lo que es competencia de las herramientas de gestión de la postura de seguridad en la nube; y para proteger frente a fugas de datos o infecciones de malware, lo que es competencia de las herramientas de gestión de la postura de seguridad de los datos. Con el auge de la IA y los grandes modelos lingüísticos (LLM), es necesario que exista una tercera categoría de productos que compruebe las instancias de los servicios gestionados de IA en la nube y sus SDK (como Transformers de Hugging Face o Azure OpenAI SDK), y que evite los abusos de los modelos.
Los primeros informes sobre el uso inseguro de la IA son desalentadores. Un estudio de Kong reveló que la mayoría de los encuestados han encontrado formas de eludir las restricciones de su organización sobre el uso de la IA, y una cuarta parte de ellos no tiene directrices de ningún tipo. MITRE ha desarrollado una completa base de datos de tácticas de los adversarios, denominada Adversarial Threat Landscape for Artificial-Intelligence Systems o ATLAS, basada en observaciones de ataques del mundo real. Los investigadores del MIT han reunido una base de datos de más de 700 riesgos relacionados con la IA que han observado a partir de diversas fuentes de IA. Otra gran fuente de métodos de ataque relacionados con la IA es el Open Worldwide Application Security Project (OWASP), que el año pasado publicó su última lista de exploits Top 10 Large Language Models. Todos ellos son esfuerzos meritorios y los responsables de seguridad deberían examinarlos antes de elegir cualquier producto AI-SPM.
Por ejemplo, los datos de entrenamiento utilizados en un modelo de IA podrían ser objeto de un ataque o inyección de datos erróneos que podrían utilizarse para manipular sus resultados, como lo que los investigadores de Jfrog descubrieron en febrero con más de 100 modelos que podían ejecutar código en la máquina de una víctima para crear puertas traseras maliciosas.
Por qué las empresas necesitan AI-SPM
Los AI-SPM se han diseñado para proteger las redes y aplicaciones empresariales de estas y otras amenazas. Al igual que ninguna empresa moderna montaría una red sin un firewall adecuado, los AI-SPM “garantizan que los modelos de IA sigan siendo explicables, justos, responsables, transparentes y equitativos”, afirma el analista de Forrester, Andras Cser, a CSO. “Además, una buena higiene de seguridad dicta que no se debe permitir que la infraestructura de IA se utilice como un trampolín para los hackers para el movimiento lateral y la exfiltración de datos, y debe incluir políticas para prevenir y corregir la deriva de la configuración”.
Principales tendencias y características de los AI-SPM
Todos los AI-SPM hacen uso de configuraciones sin agente, accediendo a modelos basados en la nube y dejando los datos en sus plataformas existentes. Esto es tanto una medida de seguridad como para evitar mover los enormes repositorios de datos implicados.
Los proveedores de AI-SPM también hacen uso de mecanismos relacionados con la IA para clasificar estas vastas colecciones de datos, con el fin de realizar un seguimiento y proteger los datos frente a posibles abusos y ataques. Algunos de ellos han integrado sus AI-SPM con sus SPM de nube o de datos existentes con reglas, comprobación del cumplimiento, mejores prácticas y políticas de protección que unen los tres tipos de posturas de seguridad.
Algunos de los proveedores ofrecen soluciones más completas que incluyen una variedad de medidas de seguridad relacionadas con la IA, incluida la protección de los conductos y cargas de trabajo de IA, la identificación de datos confidenciales a los que hace referencia un modelo de IA, el examen de los datos de entrenamiento para detectar cualquier alteración por parte de un tercero o una aplicación externa, y las formas en que los servicios y plataformas compartidos de IA podrían verse comprometidos.
Algunos proveedores se limitan a realizar una inspección de alto nivel de uno o dos servicios de cada uno de los servicios de IA de las tres grandes plataformas en la nube (Amazon, por ejemplo, tiene más de una docena de ofertas de servicios relacionados con la IA), mientras que otros (como Securiti y Protectai) profundizan más y realizan un examen más exhaustivo de los datos de IA de los propios proveedores de IA y de otras fuentes de modelos.
Por último, algunos proveedores se han mostrado activos en el mundo del código abierto, como Protectai, que tiene versiones de código abierto de tres de sus cuatro herramientas comerciales, y GOAT de Orca, una plataforma de aprendizaje gratuita que se basa en los 10 riesgos principales de OWASP.
Principales proveedores y productos de AI-SPM
Pedimos a nueve proveedores de seguridad que nos mostraran sus herramientas relacionadas con la IA. Los proveedores abordaron el AI-SPM desde distintas direcciones. Protectai creó su AI-SPM desde cero, que es un superconjunto de funciones que se encuentran tanto en los SPM de datos como en los de nube. Algunos, como Palo Alto Networks, Wiz, Securiti y Orca, están tomando posiciones de liderazgo integrando y ampliando sus plataformas de postura existentes con herramientas completas de IA. Otras, como Microsoft, Cyera.io y Varonis, son menos completas y también amplían sus SPM de datos o en la nube. Legit Security amplió su herramienta general de seguridad de aplicaciones con AI-SPM. He aquí más detalles sobre cada una de ellas.
Cyera.io se especializa en la clasificación a nivel de archivos de datos. Tienen un producto DSPM que ha añadido lo que se podría considerar una protección de enlace de datos enriquecida con IA como parte de las funciones predeterminadas del producto. También ofrecen un módulo especializado que se utiliza para el escaneo de datos de Microsoft Copilot que puede detectar datos utilizados por personas con información privilegiada, por ejemplo.
LegitSecurity comenzó protegiendo las cargas de trabajo de las aplicaciones y ha ampliado su plataforma a la gestión de la postura de la IA. Examinan modelos de IA, repositorios de código, secretos criptográficos y otras instancias relacionadas con la IA y producen puntuaciones de riesgo para centrar los esfuerzos de mitigación. Por ejemplo, puede utilizar su herramienta para rastrear qué usuarios emplean los servicios de copiloto de Github o utilizan modelos de IA mal construidos o inseguros. Hay una docena de políticas preconstruidas para el seguimiento de la postura de la IA que vienen preinstaladas, y la creación de otras nuevas es más fácil con un módulo interactivo similar a cómo se construyen las reglas de firewall en otros productos de seguridad.
Microsoft Defender Cloud Security Posture Management incluye capacidades de IA como parte de su vista previa pública, y se espera una versión final del producto para finales de 2024. Las funciones de IA están integradas en su oferta de SPM en la nube. Los clientes tendrán que configurar el acceso de mínimo privilegio para escanear el servicio Bedrock de AWS. También escaneará Azure OpenAI y los servicios de aprendizaje automático, lo que significa menos servicios que los demás proveedores de este resumen (también se espera la compatibilidad con Google Cloud a finales de año). Tiene previsto analizar puntos finales privados de Azure en busca de errores de configuración y vulnerabilidades.
Orca Security tiene una única plataforma de seguridad polivalente que ofrece protección CNAPP y DSPM, lo que la hace bastante completa con sus funciones de IA añadidas. Puede escanear más de 50 fuentes de modelos de IA diferentes y recopilar un inventario de activos de herramientas de IA comunes, como Pytorch y TensorFlow, para crear un conjunto de materiales de software. Viene con docenas de reglas de seguridad de mejores prácticas que inicialmente se centraron en el cumplimiento. También tiene alertas para cuando se detectan datos sensibles dentro de los modelos, incluidos los repositorios de datos de formación, y cuando se exponen secretos.
El año pasado, Palo Alto Networks adquirió Dig Security, que ahora está totalmente incorporada y rebautizada como Prisma Cloud AI-SPM. Admite escaneos de nivel superior de los servicios de IA de Amazon, Google Cloud y Azure para descubrir contenido de IA y puede clasificar y examinar datos de modelos y secretos, y viene con muchas políticas integradas relacionadas con la IA.
Protectai ha creado desde cero una completa herramienta de postura ante la IA. Se compone de una serie de herramientas con precios independientes para realizar tareas específicas. También hay una serie de productos de código abierto que se pueden probar gratuitamente, y que conviene examinar porque las herramientas disponibles para la compra empiezan todas en el rango de los 200.000 dólares para asientos y escaneos ilimitados. Guardian es su herramienta de exploración que examina las vulnerabilidades del modelo y establece políticas de seguridad. Radar ofrece visibilidad de extremo a extremo y funciones de gobernanza. Recon fue adquirida a SydeLabs y se encarga de la detección automatizada de vulnerabilidades y de la creación de equipos rojos, centrándose específicamente en los puntos finales de LLM. Por último, Sightline proporciona un feed de vulnerabilidades relacionado con la IA.
Securiti ha ampliado su producto DSPM con funciones de protección contra la IA, incluida una serie de reglas y políticas integradas preconfiguradas que cubren tanto los datos como las circunstancias de la IA, el descubrimiento automático de modelos de IA y la asignación de flujos de datos. También incluye una visión profunda de varios servicios de AWS.
Varonis cuenta con una única plataforma de seguridad polivalente que procede de una sólida base de DSPM y ha añadido la postura de la IA para ayudar a los equipos de desarrollo en la clasificación de los datos utilizados en el ecosistema de la IA, como la exploración de malos comportamientos de la IA, el aprovechamiento indebido de identidades y el examen de los flujos de datos. La herramienta también incluye procesos de corrección automatizados. No es una solución tan completa como otras, ya que no explora en profundidad todos los servicios de AWS o Azure relacionados con la IA y no explora los almacenes de datos de IA patentados. Hay un módulo de coste adicional para escanear Microsoft Copilot y tienen planes para añadir otros módulos para Salesforce Einstein y Gemini de Google en un futuro próximo.
Wiz cuenta con una única plataforma de seguridad polivalente que proviene de una sólida experiencia en gestión de posturas (nube y datos). Su versión avanzada se ha ampliado con una completa serie de políticas, algoritmos de detección, canalización y escáneres de modelos y datos relacionados con la IA. Estos se reúnen en una página independiente del panel de IA. También puede detectar abusos en la canalización de la IA, mapear las dependencias gráficamente y sugerir medidas correctoras.
¿Cuál es el precio de AI-SPM?
El precio y la presentación de AI-SPM varían mucho. Muchos proveedores ofrecen pruebas gratuitas limitadas a un mes (una opción que también está disponible en AWS Marketplace). En los perfiles de proveedores anteriores señalamos las alternativas de código abierto, que también son una buena forma de ver cómo funcionan los productos.
En el extremo inferior está el precio de Legit Security, que refleja su herencia de seguridad de aplicaciones: 50 dólares al mes por instancia de desarrollador, con descuentos por cantidad. La mayoría de los otros proveedores venden los SPM por contratos anuales de seis cifras. Por ejemplo, Protectai vende cada uno de sus cuatro módulos por separado, a partir de 225.000 dólares anuales, con descuentos en paquetes.
La mayoría de los proveedores no han querido facilitar los precios directamente, pero los han publicado en AWS Marketplace. Securiti ofrece su producto como servicio a un precio de 3 dólares la hora por instancia en ejecución. Microsoft tiene un plan de precios por recurso similar para Defender. Palo Alto Networks Prisma Cloud/Enterprise tiene un plan que implica una compleja compra de ‘créditos’ que empieza en 18.000 dólares al año.
Varonis tiene dos componentes, un precio por usuario por aplicación protegida y un precio adicional por consumo de recursos. Para una situación típica con 1.000 usuarios, el total podría rondar las seis cifras anuales.
Los demás proveedores de AI-SPM tienen contratos anuales fijos: Cyera, Orca Security (entre 84.000 y 360.000 dólares, dependiendo del tamaño de la carga de trabajo) y Wiz Advanced (38.000 dólares).