El nuevo reinado de la Inteligencia Artificial.
Ética, privacidad, sesgos, ciberseguridad… sus grandes desafíos.
El sector tecnológico vive en un momento de ebullición con la IA como el gran agitador de un escenario apasionante, plagado de sueños prometedores, pero sembrado de minas. Es tal la vorágine de innovaciones y las voces en contra de este frenesí, que surgen muchas dudas acerca de su futuro.
A finales de marzo, un grupo de más de 1.000 expertos y gurús del sector, entre los que se encuentran Steve Wozniak, cofundador de Apple, o Elon Musk, suscribía una carta abierta solicitando un receso de seis meses en el entrenamiento de los sistemas de IA generativa del estilo de ChatGPT, por considerarlos una “potencial amenaza para la humanidad”. En la misiva, alertaban de que el desarrollo se encuentra en “una carrera fuera de control para crear mentes digitales cada vez más poderosas que ni siquiera sus creadores pueden llegar a controlar de forma fiable”. Como resumen de la inquietud generada, suena lapidario un reciente twitt de Patrick Hennigsen, productor de 21st Century Wire Media: “Se necesita un enfoque alternativo de la IA para evitar la destrucción de la humanidad”.
Ante tal movimiento de tierras, cabe preguntarse si hay que tener miedo a la inteligencia artificial. La respuesta de Enrique Puertas, profesor de IA y Big Data de la Universidad Europea, viene a serenar los ánimos: “Yo creo que no: lo que hay por debajo son operaciones matemáticas muy complejas, pero sí hay que tener cuidado con el uso que se hace de estas herramientas. Al final, todo va a suponer un cambio en la forma en que trabajamos y si no somos conscientes de los sesgos que puede haber en estos sistemas, podemos tener problemas”. Para el experto, ese miedo irracional que viene de las películas de la ciencia ficción está fuera de lugar. “El problema puede provenir de la parte ética y del uso que se haga de esas herramientas”.
Europa se está quedando muy rezagada y puede suponer una desventaja económica para el viejo continente
Las armas no son malas en sí mismas, sino el uso que se hace de ellas. Y, en consecuencia, ¿podría decirse que quien domine la inteligencia artificial dominará el mundo? “En el marco socioeconómico, quien tenga estas tecnologías y se posicione mejor va a tener una ventaja competitiva”, sentencia Puertas. “No hablamos solo de aspectos bélicos, sino políticos y económicos. Quienes están tomando la delantera son China y Estados Unidos. En este sentido, Europa se está quedando muy rezagada y puede suponer una desventaja económica para el viejo continente”.
En contrapartida, Europa va por delante en regulación. “Estamos por delante, pero según se mire, puede ser un hecho que nos esté lastrando. Todos estos sistemas de inteligencia artificial se basan en el uso de datos. La IA aprende a partir de los datos históricos. En Europa somos muy garantistas con lo que tiene que ver con privacidad, lo cual es loable, pero a cambio hace que el desarrollo de estos modelos resulte más complejo”. Hay una parte burocrática de permisos, sesgos éticos, anonimización… mientras que en otras latitudes resulta todo más sencillo y hace que estos sistemas vayan más rápido. Además, no está previsto que la nueva legislación entre en vigor hasta 2024 o 2025. “Al ritmo que evoluciona la inteligencia artificial, con anuncios cada semana, veo complicado encajar las nuevas innovaciones con el marco regulatorio”, recela el investigador.
Prohibiciones
Por otro lado, Italia ha suspendido temporalmente el uso de ChatGPT y otros países con menos pedigrí democrático como China, Irán, Corea del Norte y Rusia lo han vetado por motivos espurios. También da qué pensar que estados de diverso corte consideran ‘inconveniente’ el uso de la IA por parte de la población. En este punto, el experto puntualiza que Italia no lo ha prohibido estrictamente hablando, y nos remite a su génesis.
ChatGPT es una herramienta creada por OpenAI que no tiene presencia en Europa y que se rige por las normas de privacidad del estado de California. Aunque esté en EEUU, ChatGPT lo están usando muchas personas en Europa, e Italia de forma previsora ha pedido a la compañía estadounidense que le aclare si cumple con las leyes de privacidad comunitarias, solicitando información de dónde y cómo almacena los datos. “Ha sido la propia OpenAI, a partir de esta petición para aclarar la situación, la que ha decidido bloquear el acceso a las conexiones que se hagan desde IP italianas”. Además, resulta difícil sancionar a una empresa no europea porque no cumpla con nuestras leyes ya que no está cometiendo ningún delito, puntualiza.
“La Agencia Española de Protección de Datos también está investigando al respecto, pero todo apunta a que se haga a nivel europeo, no tiene sentido que haga la guerra por su cuenta cada país. La UE está pidiéndole a la firma un interlocutor y, además, que se garantiza el cumplimiento con el GDPR”, resume el profesor de la Universidad Europea.
Todos dicen ChatGPT
OpenAI se ha visto desbordada por el éxito que ha tenido con ChatGPT (actualmente en su versión 4) que, cinco días después de su lanzamiento a finales de 2022, alcanzó el millón de usuarios y, a principios de febrero, ya rozaba los 100 millones. Es una organización que nació con la idea de democratizar el uso de la IA. Su misión es crear modelos de inteligencia artificial que puedan utilizar las personas, que no fuera un tesoro exclusivo de las grandes corporaciones. Uno de esos desarrollos partía con la misión de escribir bien. Su objetivo era aprender a generar texto gramatical y sintácticamente correcto. “Le pasaron una colección de miles de millones de documentos, Wikipedia, artículos de revistas científicas… Este aprendizaje tuvo un efecto colateral, ya que lo que redacta no solo es correcto sino también lo que escribe”, relata el profesor. Nunca genera el mismo texto sobre la misma petición, por lo tanto, desde la firma empezaron a preguntar a los usuarios qué respuestas resultaban más satisfactorias. Y para ello crearon un grupo y le presentaron distintas alternativas, para lo cual desplegaron un sistema llamado Instruct con el fin de que la gente eligiera la respuesta que más le agradara. Este sistema se lanzó a principios de 2022, resultaba complicado de utilizar y al final lo hicieron más amigable, creando un sistema de diálogo. Y se consumó el milagro: “La gente empezó a vez que podías pedir un trabajo de investigación o textos para uso personal, y entonces OpenAI tuvo que cambiar el uso inicial”.
Microsoft puso 10.000 millones a modo de donación, lo que le ha convertido en un socio preferente y ahora lo está integrando en su buscador Bing y en muy poquito tiempo han conseguido más de cien millones de usuarios, con lo cual Google, dominador de las búsquedas, ha visto cómo se puede tambalear su hegemonía. Además de integrarla ChatGPT en su nube de Azure, la firma de Redmond ha presentado Dynamics 365 Copilot, que ofrece asistencia interactiva, basada en IA, en todas las funciones de negocio. un movimiento estratégico para ganar posiciones en el ámbito de las organizaciones que viven instaladas en la nueva realidad híbrida. Y, siguiendo los pasos de Microsoft, todas las Big Tech van a la caza de su particular vellocino de oro.
Producto de la improvisación, Google pareció ponerse nervioso presentando Bard (candidata a némesis de ChatGPT) de forma precipitada, con errores de libro y suscitando diversas críticas. Pero el gigante apuesta a la grande. En un movimiento diseñado para agilizar la investigación, la cabecera Alphabet está fusionando la unidad DeepMind con sede en Londres y Google Brain, con sede en Silicon Valley. “Combinar todo este talento en un equipo enfocado, respaldado por los recursos computacionales de Google, acelerará significativamente nuestro progreso en IA”, explicaba Sundar Pichai, tras el anuncio.
Una inteligencia ‘verdadera’
El caso de Elon Musk es peculiar. Fue uno de los socios fundadores de OpenAI, siempre se ha mostrado muy crítico con la inteligencia artificial por el uso que se le pueda dar para manipular a la gente y en particular frente a los sesgos, acusando a la ideología WOKE de ser la mano invisible que mueve los hilos. Y hace apenas unos días, el controvertido CEO de Twitter revelaba sus planes para lanzar su propuesta TruthGPT, un chatbot libre de condicionantes, que ha sido aplaudido por su círculo de admiradores. “Las personas influyentes de Twitter están aclamando el chatbot para plantear un desafío a las ofertas existentes de gigantes de la industria como Microsoft y Google. Tienen la esperanza de que Musk cree un modelo de IA centrado en el ser humano que dé prioridad a las consideraciones éticas y abogue por la mejora de la humanidad, dando forma en última instancia a un futuro más responsable y sostenible”, comentaba Smitarani Tripathy, analista de medios sociales de GlobalData. Ben Goertzel, cofundador y director de tecnología de OODA, pedía ir más allá de TruthGPT: “Necesitamos sistemas que usen la lógica para comprender la verdad de maneras que los LLM no lo hacen; pero también necesitamos sistemas que comprendan verdades humanas más profundas, incluidas las verdades transracionales y espirituales”.
Otro contendiente al que no hay que perder de vista es Alibaba, que se ha apresurado a presentar Tongyi Qianwen, un chatbot de IA al estilo ChatGPT, que incorporará a todas sus aplicaciones.
“La gran fuerza de Tongyi Qianwen es que está particularizado para el idioma chino con sus distintos dialectos”, enfatiza Puertas.
El último en sumarse a la fiesta ha sido Amazon con su Bedrock, que no es un chatbot al uso sino una API de AWS que permite desarrollar y personalizar nuevas herramientas con las que generar imágenes o texto, y va dirigida a grandes clientes. No podemos cerrar este epígrafe sin referirnos a Mark Zuckerberg, dueño de Meta, que anunció en febrero su nuevo modelo de lenguaje LLaMA (Large Language Model Meta AI), más enfocado al colectivo investigador.
El lado oscuro
Como queda patente en el artículo, arrecian las herramientas de IA frente a la lentitud legislativa y merodean los fantasmas del mundo fake y los sesgos malditos. A todo ello hay que añadir la ciberseguridad como el gran ámbito que está experimentando su particular revolución y donde los cibercriminales experimentan nuevas armas de destrucción masiva. Este maremágnum amenaza con arrastrarnos como una ola gigante sin control y sin unas normas que dejen claras las reglas de juego. En opinión de Enrique Puertas, “es el momento de que se sienten todos los responsables y que se replanteen muchas cosas. Ahora ya no debemos creernos todo lo que vemos, es muy sencillo crear una imagen o vídeo de cualquier persona y saltarse barreras de acceso online por ejemplo a entidades bancarias: el phishing es cada vez más realista gracias a ChatGPT”.
Otro aspecto que no hay que perder de vista es el social. Según un informe de Goldman Sachs, los avances en IA podrían automatizar hasta una cuarta parte de los trabajos, particularmente los de abogados y personal administrativo. El 7% de los trabajadores estadounidenses y europeos podrían ser reemplazados por IA generativa.
Pese a los usos perniciosos y otras sombras de la IA, el profesor insiste en que no hay que vetarla: “Sería un error; hay que ser conscientes de los riesgos y hay que hacer mucha labor de concienciación y formación”. Todas las precauciones serán pocas para entrar con buen pie en el futuro reinado de la inteligencia artificial. Que los sesgos nos sean propicios.