Todos los ojos puestos en asegurar la IA Generativa.

Zscaler ha presentado su informe “Todos los ojos puestos en asegurar GenAI”, donde asegura que las organizaciones están sintiendo la presión de adoptar, cada vez más rápido, herramientas de IA generativa, dejando de lado las preocupaciones de seguridad. Y es que, aunque el 89% de las organizaciones consideran que las herramientas GenAI como ChatGPT pueden ser un riesgo potencial para la seguridad, el 95% ya las utiliza dentro de sus negocios.

Además, un 23% de este grupo de usuarios no monitorea su uso y el 33% aún no ha implementado ninguna medida de seguridad adicional relacionada con GenAI, aunque muchos lo tienen en su hoja de ruta. La situación parece particularmente pronunciada entre las empresas más pequeñas.

«Las herramientas GenAI, incluido ChatGPT y otras, son inmensamente prometedoras para las empresas en términos de velocidad, innovación y eficiencia», enfatizó Sanjay Kalra, vicepresidente de gestión de productos de Zscaler. «Sin embargo, con la ambigüedad actual que rodea a sus medidas de seguridad, sólo el 39% de las organizaciones perciben su adopción como una oportunidad en lugar de una amenaza. Esto no sólo pone en peligro la integridad de sus datos comerciales y de sus clientes, sino que también desperdicia su tremendo potencial».

Asegurar la IA Generativa

El informe revela que a pesar de la conciencia generalizada, no son los empleados quienes parecen ser la fuerza impulsora detrás del interés y el uso actual de esta aplicación: solo el 5% de los encuestados dijo que proviene de los empleados. En cambio, el 59% dijo que el uso estaba siendo impulsado directamente por los equipos de TI.

«El hecho de que los equipos de TI estén al mando debería ofrecer una sensación de tranquilidad a los líderes empresariales», continuó Kalra. «Significa que el equipo de liderazgo tiene la autoridad para moderar estratégicamente el ritmo de adopción de GenAI y establecer un control firme de su seguridad». medidas, antes de que su prevalencia dentro de su organización avance más. Sin embargo, es esencial reconocer que la ventana para lograr una gobernanza segura está disminuyendo rápidamente».

Dado que el 51% de los encuestados anticipa un aumento significativo en el interés por las herramientas IA generativa antes de fin de año, las organizaciones deben actuar rápidamente para cerrar la brecha entre el uso y la seguridad.

Un 51% de los encuestados anticipa un aumento significativo en el interés por las herramientas IA generativa antes de fin de año

Consejos de seguridad

A continuación se presentan algunos pasos que los líderes empresariales pueden seguir para garantizar que el uso de GenAI en su organización esté adecuadamente protegido:

• Implemente una arquitectura holística de confianza cero para autorizar solo aplicaciones y usuarios de IA aprobados.
• Realice evaluaciones exhaustivas de riesgos de seguridad para nuevas aplicaciones de IA para comprender claramente las vulnerabilidades y responder a ellas.
• Establezca un sistema de registro integral para rastrear todas las indicaciones y respuestas de la IA.
• Habilite medidas de prevención de pérdida de datos (DLP) basadas en confianza cero para todas las actividades de IA para proteger contra la filtración de datos.

Fuente: https://revistabyte.es/actualidad-it/ia-generativa-9/