La directora general de Inteligencia Artificial, Aleida Alcaide, desvela cómo trabaja España para posicionarse internacionalmente en una tecnología que está llamada a cambiar el mundo, aunque asegura que “su introducción no va a ser tan rápida como nos quieren vender” y “no veremos una transformación profunda de la Administración y las empresas debido a la IA antes de 10 años”. La directiva, una plena defensora de la regulación, subraya que el Reglamento europeo de IA “en absoluto” desincentiva la innovación.
La teleco Aleida Alcaide, una apasionada confesa del mundo jurídico que conoce muy bien el entramado del sector público –donde ha desempeñado la mayor parte de su carrera profesional– asumió el liderazgo de la Dirección General de Inteligencia Artificial en noviembre de 2024, después de que el Ministerio para la Transformación Digital y de la Función Pública reorganizara su estructura y dividiera la extinta Dirección General de Digitalización e Inteligencia Artificial, dependiente de la Secretaría de Estado de Digitalización e Inteligencia Artificial, en dos órganos: uno, el que ella misma dirige, y el otro la Dirección General de Ordenación de los Servicios de Digitalización y de Comunicación Audiovisual.
Entonces, esta funcionaria perteneciente al Cuerpo Superior de Sistemas y Tecnologías de la Información del Estado era directora de Gabinete de la Secretaria de Estado de Digitalización e Inteligencia Artificial, aunque previamente había trabajado durante casi cuatro años con el equipo de dirección del Plan de Recuperación del Ministerio de Economía (casi un año como subdirectora de Coordinación y Seguimiento de Fondos Europeos de la Subsecretaría de Transformación Digital). “Como conocía todas las iniciativas en marcha, no me fue difícil engancharme a la nueva posición”, reconoce Alcaide, que se muestra feliz de trabajar para la Administración, “un sitio innovador que genera múltiples oportunidades laborales y permite trabajar en grandes proyectos disruptivos”. Uno de ellos, de hecho, fue la coordinación de la implantación en España del sistema de reconocimiento de identidades digitales extranjeras (conocido como eIDAS) y la representación en los grupos de trabajo europeos en esta materia.
“Ahora estoy encantada de trabajar para fomentar el impulso de la IA en las empresas españolas”, asegura Alcaide, que desgrana, en entrevista con COMPUTERWORLD, la estrategia del Gobierno y de su Dirección en particular para impulsar la adopción con garantías y respetando la legislación actual de una tecnología que está llamada a cambiar no sólo el tejido empresarial y sus procesos, sino toda la sociedad por completo en todo el mundo.
La Dirección General de Inteligencia Artificial, dice el BOE, “enfoca sus competencias en el desarrollo normativo, aspectos éticos y regulación, así como el seguimiento y coordinación de la implantación de la normativa en materia de inteligencia artificial, el fomento de programas orientados a fomentar la adopción de la inteligencia artificial en los sectores productivos de la economía y sociedad de forma eficiente o la generación de espacios de debate y foros de discusión con la ciudadanía en torno al despliegue e impacto de la inteligencia artificial”. No obstante, el Gobierno de España ya lanzó la Estrategia Nacional de IA, que se ha actualizado recientemente, hace ya cinco años, en pleno 2020.
En efecto, y lanzar una Estrategia Nacional de IA en 2020, cuando esta tecnología no disponía de la relevancia actual, es un hito considerable. Entonces, la estrategia se enfocó en dinamizar la IA que entonces había a través de muchos programas muy atomizados y orientados, por un lado, a la capa de la investigación –como las cátedras de IA, el Spain Talent Hub, etc.– y, por otro, al desarrollo de soluciones tecnológicas. Pero cuando en 2023 irrumpió ChatGPT y todas las plataformas que llegaron después de IA generativa vimos que debíamos reenfocar la estrategia para posicionarnos a nivel internacional, invertir adecuadamente en tecnología y no perder la oportunidad temporal que surgía.
Por este motivo, en 2024 reeditamos la Estrategia Nacional de IA a la que inyectamos unos 1.500 millones de euros; gran parte de este montante se imputó al programa Kit Digital, que también se reformuló y al que se añadió la posibilidad de facilitar a las medianas y pequeñas empresas el acceso a una consultoría para contratar soluciones de IA. De este modo, mientras ayudamos a las empresas a introducir inteligencia artificial también desarrollamos el ecosistema de proveedores.
Otra pata importante de la Estrategia fue enfocar el Fondo Next Tech, de 4.000 millones de euros, a coinvertir en empresas que estuvieran desarrollando soluciones relacionadas con esta tecnología. En cualquier país, el ecosistema emprendedor es fundamental para seguir creciendo en lo digital y esta es una de nuestras líneas prioritarias.
¿Y cómo ve el ecosistema español de IA en la actualidad?
En España hay startups con grandes ideas, pero es difícil que escalen y que, además, cuando lo hagan, permanezcan en nuestro país. En este punto, he de recalcar la importancia de la formación, y aquí los datos que vemos son muy buenos. Según el Índice de IA (AI Index) de la Universidad de Stanford, España es el segundo país tras Estados Unidos en producir un mayor número de profesionales TIC. Es un dato rompedor y demoledor para los que dicen que en España no hay talento tecnológico.
Lo hay, el problema es que este talento se marcha fuera del país…
Bueno, eso es relativo. Lo que hemos de hacer es garantizar a estas personas una cierta seguridad a la hora de crecer profesionalmente y, en esta línea, es clave contar con un tejido empresarial adecuado. Porque es cierto que, aunque muchos no se van, sí ven mermadas sus posibilidades y no cuentan con las oportunidades que deberíamos poder ofrecer como país. Para que tengan estas oportunidades necesitamos que las medianas y pequeñas compañías, nuestro tejido empresarial fundamental, crezcan. Sólo así estas personas tendrán carreras profesionales y España conseguirá crecer como país.
En lo que respecta a las grandes empresas, éstas sí están introduciendo proyectos de IA y viendo dónde esta tecnología puede aportarlas mayores beneficios, pero tienen mucho desconocimiento en la parte normativa. Ahí es donde nosotros jugamos un rol esencial: en formar, enseñar y dar a conocer el Reglamento europeo de IA y quitar los miedos que éste genera porque la realidad es que no altera en absoluto el régimen jurídico que hay en España. El Reglamento mantiene los derechos fundamentales, unos derechos que no deberían cambiar al utilizar la IA.
Por ejemplo, publicar imágenes pornográficas de niños en una red social es un delito y también lo es si se hace con la IA. Ocurre igual con la propiedad intelectual. Hay quien cree que el Reglamento está alterando las reglas del juego en propiedad intelectual y esto no es así: en todo lo relacionado con esta actividad aplica la Directiva de copyright y las transposiciones a nivel nacional.
“Las grandes empresas están introduciendo proyectos de IA y viendo dónde ésta puede aportarles mayores beneficios, pero tienen mucho desconocimiento en la parte normativa. Ahí es donde nosotros jugamos un rol esencial: en formar, enseñar y dar a conocer el Reglamento europeo de IA y quitar los miedos que éste genera“
En este campo, la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), que depende de la Secretaría de Estado de Digitalización e Inteligencia Artificial en la que se enmarca la Dirección General de IA y de cuyo consejo rector forma parte usted, tiene un papel de control y evangelización clave.
Así es. Se trata de una agencia pionera en Europa, que integra tanto la supervisión de la IA como la concienciación en torno a esta tecnología. Habrá más entidades de este estilo en otros países de la UE, como Hungría, aunque, en general, lo que muchos, como Francia, han decidido es que la labor de supervisión de la IA la realicen agencias que ya tenían, mientras que están creando institutos de seguridad para la actividad de concienciación.
Al crear AESIA nuestro objetivo era tener en España una agencia que tenga un control absoluto de todas las derivadas que pueda suponer la IA. Estamos viendo cómo con la IA se puede cambiar el statu quo de muchas cuestiones; por ejemplo, con ‘deepfakes’ se está alterando el resultado de elecciones, se cambia la visión sobre determinados conflictos mundiales… Así que tener una agencia que vele por este tipo de conductas en nuestro país nos da una garantía muy grande en el control de esta tecnología. Por otro lado, según el CIS, de las personas que conocen la IA, más del 75% dice que la incertidumbre es el sentimiento que más le genera esta tecnología, así que, de nuevo, disponer de una agencia que conciencie sobre esta tecnología da mucha tranquilidad.
Por otro lado, como el Reglamento de IA establece una gobernanza según la cual las agencias que supervisan determinados sectores verticales también tendrán que supervisar la aplicación de la IA en estos, la AESIA tendrá también un papel de coordinación de estos otros supervisores. Por ejemplo, en el ámbito del medicamento, el supervisor que velará por la aplicación de la IA sería la Agencia Estatal de Medicamentos y Productos Sanitarios. Pero hay muchas más. Y será la AESIA quien coordinará esa gobernanza para garantizar homogeneidad absoluta a la hora de, por ejemplo, sancionar en los casos que haya que hacerlo.
Por todo esto creo que, sí, ha sido muy buena decisión contar con una entidad propia para la supervisión y la sensibilización en torno a la IA. La AESIA podrá detectar prácticas prohibidas y evangelizar para que no se lleven a cabo.
¿Cree que habrá muchas sanciones en España por incumplir el Reglamento de IA? [El pasado mes de febrero ya entraron en vigor las prohibiciones de sistemas considerados de riesgo inaceptable para los derechos fundamentales y la seguridad de las personas –como la identificación biométrica en espacios públicos, los que usan técnicas de manipulación y los que infieren emociones en lugares de trabajo o estudios– y desde este agosto la AESIA ya podrá sancionar a los operadores que incumplan con multas de hasta 35 millones de euros o el 7% de la facturación total anual mundial].
El problema es que, como existe cierto desconocimiento, muchas empresas no saben hasta dónde pueden llegar en la aplicación de la IA. En todo caso, la parte gruesa del reglamento, la prohibición de los sistemas de alto riesgo, no entrará en vigor hasta agosto de 2026, de forma que tenemos más de un año para concienciar y explicar. Ya estamos trabajando en un plan de difusión junto con la AI Office europea para garantizar que se cumple el Reglamento.
Dicho esto, dos cosas. Una es que nuestro enfoque en la Dirección de IA está en innovar en torno a esta tecnología, no en sancionar. Y la otra es que no hay que olvidar que existe un procedimiento (apercibimiento) que permite a las empresas parar la actividad susceptible de multa antes de que se inicie el régimen sancionador. Por eso es tan bueno que la AESIA tenga los dos enfoques (supervisión y concienciación). Es más, no debemos enfocarnos sólo a la sanción aunque, eso sí, cuando se vulneran los derechos fundamentales hay que responder con contundencia.
“Ha sido muy buena decisión que España cuente con una entidad propia para la supervisión y la sensibilización en torno a la IA. La AESIA podrá detectar prácticas prohibidas y evangelizar para que no se lleven a cabo“
¿Cómo ve la política de Estados Unidos en IA tras la llegada de Donald Trump y el terremoto geopolítico que ha supuesto su presidencia?
No veo que la aproximación de Estados Unidos en la regulación de la IA sea tan diferente de la europea; de hecho acaban de anunciar una nueva normativa contra los ‘deepfakes’. Además, vemos que las grandes cabezas de las multinacionales tecnológicas también están diciendo que es necesario regular porque tienen miedo de a dónde puede llegar la IA. Por otro lado, este país ya tiene una normativa clara para proteger los derechos fundamentales y, reitero, el Reglamento europeo no va a diferir del status quo en este sentido.
En definitiva, que no tengan el mismo enfoque que nosotros y no hayan hecho un reglamento tan enfocado y detallado como el europeo no quiere decir que no estén supervisando y protegiendo este tipo de cuestiones y sus derechos fundamentales. Incluso China, que está avanzando mucho en IA, también hace controles.
Lo que es importante es avanzar –y en España estamos trabajando para traccionar esto– en que desde organismos internacionales como puede ser la ONU lleguemos a acuerdos globales en materia de IA.
Lo que está claro es que para operar en Europa las grandes multinacionales con desarrollos de IA tienen que cumplir la normativa de la UE, y este es un mercado muy importante para ellas. Incluso estamos negociando con estas un código de buenas prácticas que pueden firmar de forma opcional para garantizar que los grandes modelos cumplen todas las garantías.
Y un último apunte: hay una idea errónea de que el Reglamento europeo de IA desincentiva la innovación. En absoluto esto es así.
España ha sido elegida para albergar una de las siete primeras fábricas de IA que se crearán en la Unión Europea. Se está montando en el Barcelona Supercomputing Center – Centro Nacional de Supercomputación (BSC-CNS) con una inversión del Gobierno central de más de 61,76 millones de euros y de la Generalitat de otros 14 millones. ¿Cómo marcha el proyecto?
¿Dónde entrenan las empresas (de todo tipo, también pymes, scaleups y startups) sus proyectos y sistemas de IA? En las nubes de los grandes hiperescalares. Pero muchas de estas empresas y sus clientes no quieren que sus datos estén en estas clouds fuera de España y de la UE. Así que tener una fábrica de IA en España en uno de los centros de supercomputación más potentes del mundo permitirá a nuestras empresas acudir allí para entrenar sus soluciones sin que los datos salgan de nuestro territorio. Abrir este centro de supercomputación, que estaba muy enfocado a la investigación, al ámbito empresarial y generar ecosistema es muy buena noticia.
Estas fábricas están muy enfocadas probar soluciones de IA, no a poner en producción las aplicaciones y a dar servicio a sus clientes, que es a lo que se dedicarán las gigafactorías anunciadas por la Comisión Europea.
Con estos proyectos, las fábricas de IA y las gigafactorías (de las que habrá unas cuatro o cinco en la UE), tratamos de conseguir soberanía en el territorio europeo y no depender solo de nubes de empresas americanas.
“Las fábricas están muy enfocadas a probar soluciones de IA, no a poner en producción las aplicaciones y a dar servicio a sus clientes, que es a lo que se dedicarán las gigafactorías anunciadas por la Comisión Europea”
España, finalmente, ha presentado a la UE su propio proyecto de gigafactoría de IA, dirigido por un consorcio empresarial público-privado liderado por Telefónica e impulsado por el Gobierno de España, con coordinación directa desde la Moncloa por la Oficina Económica del presidente, junto al Ministerio de Transformación Digital y Función Pública y en cooperación con la Generalitat de Cataluña.
Prefiero no hacer, de momento, declaraciones sobre este asunto, más allá de lo que se ha comunicado, pues ahora entramos en un proceso de diálogo con la Comisión Europea.
¿Podrá Europa llegar a ser autónoma en tecnologías de la información algún día?
Siempre habrá una dependencia mínima por el tema de los chips, que vienen de Asia, pero hay que destacar que en nuestro país tenemos empresas con grandes conocimientos para construir este tipo de centros. En España hay un gran talento, lo que es necesario es unirlo e introducirlo en grandes proyectos y en este aspecto la Administración puede actuar de vertebradora.
Por eso era tan necesario contar con una Secretaría de Estado de Digitalización e Inteligencia Artificial, centrada no solo en la parte de IA que cubre mi Dirección, sino también en la parte de datos y de competencias digitales.
Hablamos mucho sobre la llegada de la IA a las empresas pero… ¿y a la Administración?
En mi Dirección General tenemos la competencia de la coordinación del despliegue de la IA en la Administración pública pero no prestamos servicio; sí nos coordinamos con las entidades que lo hacen, siendo la Agencia Estatal de Administración Digital una de ellas, pero no solo, porque no hay que olvidar que ministerios como el de Sanidad o Justicia tienen centros muy potentes en TI, al igual que el resto de subdirecciones de TI. Lo quiero resaltar porque todos ellos tienen un rol muy importante en el despliegue de los proyectos de transformación usando IA. Por ejemplo, el Ministerio de Justicia está llevando a cabo proyectos muy innovadores utilizando IA, es de las unidades más innovadoras en este ámbito.
Con la Agencia estamos trabajando en un proyecto que arrancamos desde mi dirección general y que está orientado a impulsar casos de uso de IA generativa en la Administración General del Estado, utilizando ALIA, nuestro modelo español.
Hemos recibido hasta 300 solicitudes en este proyecto, lo que pone de manifiesto el gran interés que existe en los ministerios por introducir la inteligencia artificial. Nuestra idea es hacer pruebas de concepto de unos 20. El objetivo final es evitar que cada ministerio implante la IA por su cuenta ofreciendo servicios comunes. Hasta ahora hemos visto cuatro grandes casos de uso: la generación de informes, notas, clasificación de documentos, etc.; apoyar los procedimientos de tramitación (generación de contratos, evaluación de memorias de subvenciones o memorias finales…); mejorar la relación con los ciudadanos como ya se está haciendo en otros sectores como el telco y el energético; y la optimización de la gestión de recursos humanos en lo que respecta a mejorar la planificación del trabajo, las vacaciones, etc.
“Estamos en una fase de la IA en la que ésta puede hacer más eficientes los procesos pero no sustituir a las personas. Además, en este momento no es una tecnología fiable del todo, siempre debe haber un humano que supervise. No, la introducción de la IA no va a ser tan rápida como nos quieren vender“
El cambio cultural que esto implica para la Administración es abismal. ¿Podrá ésta digerirlo?
El cambio es el mismo que ya están afrontando las grandes empresas, que también son organizaciones con muchos empleados, lo que dificulta el proceso. En el sector público, la IA no es un diferencial respecto a lo que ya estábamos haciendo. Desde hace muchos años venimos hablando de que la transformación digital va mucho más allá de digitalizar procedimientos e implica un cambio de procesos. Ya con la reforma que hubo de procedimientos en 2015 se introdujo el concepto de ‘actuación administrativa automatizada’ que ha sido desarrollada en el reglamento del funcionamiento electrónico del sector público. Por lo tanto, ya en su día se preveía que la administración pudiera tener actuaciones automatizadas. Que esas actuaciones ahora sean asistidas por IA es un elemento más.
En definitiva, aunque vemos muchos titulares sobre cómo la IA puede cambiar el mundo, en mi opinión, tenemos un camino muy largo hasta llegar a ese punto. Nosotros, como he dicho, ya estamos probando casos de uso; tenemos uno con la Agencia Tributaria y otro con la Sociedad Española de Cardiología y la realidad es que conseguir un resultado útil no es inmediato. Estamos en una fase de la IA en la que ésta puede hacer más eficientes los procesos pero no sustituir a las personas. Además, en este momento no es una tecnología fiable del todo, siempre debe haber un humano que supervise. No, la introducción de la IA no va a ser tan rápida como nos quieren vender.
¿Cuánto tiempo queda para que esto cambie y el impacto sea mayor?
Bastante. Desde luego no veremos una transformación profunda de la Administración y las empresas debido a la IA antes de 10 años.
No se va a producir, entonces, una reducción drástica de personal…
No va a haber una reducción global de personal en grandes empresas ni en organizaciones públicas debido a la IA. Sí habrá una transformación paulatina del personal a medida que se van añadiendo los nuevos procesos. Es más, los empleados ya se están transformando.
Dicho esto, sí hay una posición que está en una situación más delicada, que es la de programador porque sí es cierto que la IA es muy buena en programación. Existen modelos de IA que están entre el 0,1% de los mejores programadores del mundo. Dicho esto, creo que los programadores que saben de tecnología podrán reenfocarse porque la IA necesita ahora mismo personas que la entrenen.
“Hay 600 millones de hispanohablantes en el mundo, es una lengua fundamental, así que disponer de un modelo que tenga un entrenamiento mayor en nuestro idioma era una iniciativa fundamental que teníamos que dar desde España“
El español es el segundo idioma más hablado del mundo, pero no esperan que ALIA se use se forma masiva…
Hay 600 millones de hispanohablantes en el mundo, es una lengua fundamental, así que disponer de un modelo que tenga un entrenamiento mayor en nuestro idioma era una iniciativa fundamental que teníamos que dar desde España. El objetivo de ALIA es detectar precisamente esas brechas que hay en el desarrollo de la IA para garantizar que esta tecnología sea inclusiva desde el punto de vista de la lengua pero también del conocimiento de todos los desarrollos que hay de tecnologías del lenguaje y generar ecosistema. Porque para nosotros ALIA es mucho más que un modelo: es un conjunto de recursos que queremos enfocar a distintos sectores. Y el objetivo es que ALIA no solo dependa del sector público sino incentivar que otros desarrollen soluciones por encima. De hecho Europa nos ha ‘comprado’ este proyecto porque ha lanzado una iniciativa, Open Europe LLM, en el que se va a integrar ALIA, además de corpus de otras lenguas de la UE y crear un ecosistema de innovación en torno al desarrollo de modelos en idiomas europeos.
¿Y cuándo veremos avances en torno a ALIA?
Esperamos publicar a la vuelta del verano el modelo 40b ya instruido [un modelo de lenguaje de gran tamaño, con 40.000 millones de parámetros, entrenado desde cero con 9,2 billones de tokens y que admite 36 idiomas], que nos permitirá usar un ALIA más grande para los casos de uso que tenemos que hacer.
Fuente: Computerworld