Cómo abordar los riesgos de seguridad de la IA generativa con una perspectiva positiva.
La GenAI representa un importante punto de inflexión para la ciberseguridad, pues engloba sistemas que pueden comprender, aprender y llevar a cabo conocimientos en una amplia gama de tareas, de forma muy similar a como lo haría un ser humano. Además, puede ser un aliado en la protección de los entornos informáticos y, al mismo tiempo, utilizarse para crear nuevos vectores de ataque. Es mucho lo que está en juego para las IT y la seguridad, lo que plantea la cuestión de qué deben hacer las organizaciones para liberar valor de forma responsable.
Pero como con cualquier tecnología emergente existen riesgos que debemos gestionar, y asegurarnos de que reflejen nuestros valores éticos. Porque la IA generativa también puede ofrecer mucho para ayudarnos a proteger nuestros entornos.
Abordando los riesgos de la GenAI
A medida que se amplían las capacidades de la GenAI, la seguridad se convierte en una cuestión de primer orden. Los piratas informáticos pueden utilizar la velocidad y la automatización con las que trabaja la IA generativa, descubriendo vulnerabilidades más rápidamente, actualizando el malware en tiempo real y construyendo mejores correos electrónicos de phishing y suplantación digital. Los sistemas de GenAI requieren de medidas de seguridad adecuadas para evitar convertirnos en el blanco de los ataques, y también pueden reducir los fraudes y las nuevas superficies de ataque provocadas por el auge de las deepfakes.
La seguridad de la IA generativa comienza por implantar una infraestructura basada en la confianza, empezando por el dispositivo y llegando hasta los datos y el usuario. El objetivo es contar con sólidas medidas de control de acceso que impidan intrusiones maliciosas y posibles usos fraudulentos del sistema. Y para garantizar la seguridad de los datos es necesario disponer de capacidades como la clasificación de los mismos, el cifrado y el almacenamiento, y la transmisión segura de datos. El elemento humano también desempeña un papel fundamental: auditorías periódicas, medios para identificar cuándo el sistema no se comporta como se espera, así como técnicas para mitigar la parcialidad y las directrices éticas son importantes para resolver estos problemas.
La GenAI refuerza la ciberseguridad
Mientras la industria trabaja para abordar los riesgos de la IA generativa, ésta promete convertirse en un aliado de la ciberseguridad, abriendo nuevas vías para ayudar a proteger mejor a las organizaciones frente a las amenazas. Dado que la IA generativa analiza grandes cantidades de datos de seguridad de una empresa, realiza predicciones y aprende continuamente, los equipos de ciberseguridad pueden abordar mejor las amenazas. Por ejemplo, detectando anomalías en el tráfico de la red o contenido sospechoso en el correo electrónico. En este supuesto, la GenAI puede predecir futuras amenazas o identificar vulnerabilidades, ya que aprende de incidentes pasados y de la información sobre amenazas.
Cómo abordar los riesgos de seguridad de la IA generativa con una perspectiva positiva
La automatización puede transformar nuestra forma de abordar la seguridad, especialmente en las áreas de control de prevención y detección. Al automatizar la detección de amenazas, la IA generativa reduce el tiempo necesario para descubrir y responder a los intentos de ataque, mitigando los daños potenciales. Automatizar las tareas rutinarias de ciberseguridad, como la notificación de incidentes o la comunicación de amenazas, permite a los equipos de seguridad centrarse en tareas más estratégicas. Con ello, los profesionales pueden trabajar en lo que más importa y acceder antes a la información sobre la que pueden actuar.
Puede que la creación de contenidos no sea la primera característica que viene a la mente cuando se piensa en GenAI y ciberseguridad, pero se trata de una capacidad relevante para la formación en concienciación sobre seguridad. Al utilizar IA generativa para personalizar los módulos de formación, los criterios de personalización pueden basarse en las funciones de los usuarios finales, sus comportamientos anteriores y las amenazas comunes a las que pueden enfrentarse. Ese nivel de especificidad en la formación puede disminuir el error humano, que es un factor clave en muchos incidentes de seguridad.
Una visión optimista
La GenAI es un arma de doble filo para la ciberseguridad. Por un lado, plantea nuevos retos que nos obligan a repensar y evolucionar nuestras estrategias de ciberseguridad y, por otro, promete una mejor detección y respuesta a las amenazas, capacidades predictivas y eficiencia operativa.
A lo largo de la historia de la humanidad hemos gestionado el riesgo de la innovación, a la vez que avanzábamos en el progreso humano. En Dell Technologies, manejar la tecnología de manera responsable es un elemento fundamental. La clave reside en utilizar sus ventajas y, al mismo tiempo, abordar los riesgos de forma proactiva y vigilante. Por ello se recomiendan medidas de seguridad sólidas, una supervisión continua y un enfoque flexible y en constante evolución de la privacidad de los datos y la ética. A medida que nos sumergimos en la era de la IA generativa, la relación entre la IA y la ciberseguridad seguirá siendo simbiótica.