Ética, privacidad, sesgos, ciberseguridad… sus grandes desafíos.
El sector tecnológico vive en un momento de ebullición con la IA como el gran agitador de un escenario apasionante, plagado de sueños prometedores, pero sembrado de minas. Es tal la vorágine de innovaciones y las voces en contra de este frenesí, que surgen muchas dudas acerca de su futuro.
A finales de marzo, un grupo de más de 1.000 expertos y gurús del sector, entre los que se encuentran Steve Wozniak, cofundador de Apple, o Elon Musk, suscribía una carta abierta solicitando un receso de seis meses en el entrenamiento de los sistemas de IA generativa del estilo de ChatGPT, por considerarlos una “potencial amenaza para la humanidad”. En la misiva, alertaban de que el desarrollo se encuentra en “una carrera fuera de control para crear mentes digitales cada vez más poderosas que ni siquiera sus creadores pueden llegar a controlar de forma fiable”. Como resumen de la inquietud generada, suena lapidario un reciente twitt de Patrick Hennigsen, productor de 21st Century Wire Media: “Se necesita un enfoque alternativo de la IA para evitar la destrucción de la humanidad”.
Ante tal movimiento de tierras, cabe preguntarse si hay que tener miedo a la inteligencia artificial. La respuesta de Enrique Puertas, profesor de IA y Big Data de la Universidad Europea, viene a serenar los ánimos: “Yo creo que no: lo que hay por debajo son operaciones matemáticas muy complejas, pero sí hay que tener cuidado con el uso que se hace de estas herramientas. Al final, todo va a suponer un cambio en la forma en que trabajamos y si no somos conscientes de los sesgos que puede haber en estos sistemas, podemos tener problemas”. Para el experto, ese miedo irracional que viene de las películas de la ciencia ficción está fuera de lugar. “El problema puede provenir de la parte ética y del uso que se haga de esas herramientas”.
Europa se está quedando muy rezagada y puede suponer una desventaja económica para el viejo continente
Las armas no son malas en sí mismas, sino el uso que se hace de ellas. Y, en consecuencia, ¿podría decirse que quien domine la inteligencia artificial dominará el mundo? “En el marco socioeconómico, quien tenga estas tecnologías y se posicione mejor va a tener una ventaja competitiva”, sentencia Puertas. “No hablamos solo de aspectos bélicos, sino políticos y económicos. Quienes están tomando la delantera son China y Estados Unidos. En este sentido, Europa se está quedando muy rezagada y puede suponer una desventaja económica para el viejo continente”.
En contrapartida, Europa va por delante en regulación. “Estamos por delante, pero según se mire, puede ser un hecho que nos esté lastrando. Todos estos sistemas de inteligencia artificial se basan en el uso de datos. La IA aprende a partir de los datos históricos. En Europa somos muy garantistas con lo que tiene que ver con privacidad, lo cual es loable, pero a cambio hace que el desarrollo de estos modelos resulte más complejo”. Hay una parte burocrática de permisos, sesgos éticos, anonimización… mientras que en otras latitudes resulta todo más sencillo y hace que estos sistemas vayan más rápido. Además, no está previsto que la nueva legislación entre en vigor hasta 2024 o 2025. “Al ritmo que evoluciona la inteligencia artificial, con anuncios cada semana, veo complicado encajar las nuevas innovaciones con el marco regulatorio”, recela el investigador.
Por otro lado, Italia ha suspendido temporalmente el uso de ChatGPT y otros países con menos pedigrí democrático como China, Irán, Corea del Norte y Rusia lo han vetado por motivos espurios. También da qué pensar que estados de diverso corte consideran ‘inconveniente’ el uso de la IA por parte de la población. En este punto, el experto puntualiza que Italia no lo ha prohibido estrictamente hablando, y nos remite a su génesis.
ChatGPT es una herramienta creada por OpenAI que no tiene presencia en Europa y que se rige por las normas de privacidad del estado de California. Aunque esté en EEUU, ChatGPT lo están usando muchas personas en Europa, e Italia de forma previsora ha pedido a la compañía estadounidense que le aclare si cumple con las leyes de privacidad comunitarias, solicitando información de dónde y cómo almacena los datos. “Ha sido la propia OpenAI, a partir de esta petición para aclarar la situación, la que ha decidido bloquear el acceso a las conexiones que se hagan desde IP italianas”. Además, resulta difícil sancionar a una empresa no europea porque no cumpla con nuestras leyes ya que no está cometiendo ningún delito, puntualiza.
“La Agencia Española de Protección de Datos también está investigando al respecto, pero todo apunta a que se haga a nivel europeo, no tiene sentido que haga la guerra por su cuenta cada país. La UE está pidiéndole a la firma un interlocutor y, además, que se garantiza el cumplimiento con el GDPR”, resume el profesor de la Universidad Europea.
Todos dicen ChatGPT
OpenAI se ha visto desbordada por el éxito que ha tenido con ChatGPT (actualmente en su versión 4) que, cinco días después de su lanzamiento a finales de 2022, alcanzó el millón de usuarios y, a principios de febrero, ya rozaba los 100 millones. Es una organización que nació con la idea de democratizar el uso de la IA. Su misión es crear modelos de inteligencia artificial que puedan utilizar las personas, que no fuera un tesoro exclusivo de las grandes corporaciones. Uno de esos desarrollos partía con la misión de escribir bien. Su objetivo era aprender a generar texto gramatical y sintácticamente correcto. “Le pasaron una colección de miles de millones de documentos, Wikipedia, artículos de revistas científicas… Este aprendizaje tuvo un efecto colateral, ya que lo que redacta no solo es correcto sino también lo que escribe”, relata el profesor. Nunca genera el mismo texto sobre la misma petición, por lo tanto, desde la firma empezaron a preguntar a los usuarios qué respuestas resultaban más satisfactorias. Y para ello crearon un grupo y le presentaron distintas alternativas, para lo cual desplegaron un sistema llamado Instruct con el fin de que la gente eligiera la respuesta que más le agradara. Este sistema se lanzó a principios de 2022, resultaba complicado de utilizar y al final lo hicieron más amigable, creando un sistema de diálogo. Y se consumó el milagro: “La gente empezó a vez que podías pedir un trabajo de investigación o textos para uso personal, y entonces OpenAI tuvo que cambiar el uso inicial”.
Microsoft puso 10.000 millones a modo de donación, lo que le ha convertido en un socio preferente y ahora lo está integrando en su buscador Bing y en muy poquito tiempo han conseguido más de cien millones de usuarios, con lo cual Google, dominador de las búsquedas, ha visto cómo se puede tambalear su hegemonía. Además de integrarla ChatGPT en su nube de Azure, la firma de Redmond ha presentado Dynamics 365 Copilot, que ofrece asistencia interactiva, basada en IA, en todas las funciones de negocio. un movimiento estratégico para ganar posiciones en el ámbito de las organizaciones que viven instaladas en la nueva realidad híbrida. Y, siguiendo los pasos de Microsoft, todas las Big Tech van a la caza de su particular vellocino de oro.
Producto de la improvisación, Google pareció ponerse nervioso presentando Bard (candidata a némesis de ChatGPT) de forma precipitada, con errores de libro y suscitando diversas críticas. Pero el gigante apuesta a la grande. En un movimiento diseñado para agilizar la investigación, la cabecera Alphabet está fusionando la unidad DeepMind con sede en Londres y Google Brain, con sede en Silicon Valley. “Combinar todo este talento en un equipo enfocado, respaldado por los recursos computacionales de Google, acelerará significativamente nuestro progreso en IA”, explicaba Sundar Pichai, tras el anuncio.
El caso de Elon Musk es peculiar. Fue uno de los socios fundadores de OpenAI, siempre se ha mostrado muy crítico con la inteligencia artificial por el uso que se le pueda dar para manipular a la gente y en particular frente a los sesgos, acusando a la ideología WOKE de ser la mano invisible que mueve los hilos. Y hace apenas unos días, el controvertido CEO de Twitter revelaba sus planes para lanzar su propuesta TruthGPT, un chatbot libre de condicionantes, que ha sido aplaudido por su círculo de admiradores. “Las personas influyentes de Twitter están aclamando el chatbot para plantear un desafío a las ofertas existentes de gigantes de la industria como Microsoft y Google. Tienen la esperanza de que Musk cree un modelo de IA centrado en el ser humano que dé prioridad a las consideraciones éticas y abogue por la mejora de la humanidad, dando forma en última instancia a un futuro más responsable y sostenible”, comentaba Smitarani Tripathy, analista de medios sociales de GlobalData. Ben Goertzel, cofundador y director de tecnología de OODA, pedía ir más allá de TruthGPT: “Necesitamos sistemas que usen la lógica para comprender la verdad de maneras que los LLM no lo hacen; pero también necesitamos sistemas que comprendan verdades humanas más profundas, incluidas las verdades transracionales y espirituales”.
Otro contendiente al que no hay que perder de vista es Alibaba, que se ha apresurado a presentar Tongyi Qianwen, un chatbot de IA al estilo ChatGPT, que incorporará a todas sus aplicaciones.
“La gran fuerza de Tongyi Qianwen es que está particularizado para el idioma chino con sus distintos dialectos”, enfatiza Puertas.
El último en sumarse a la fiesta ha sido Amazon con su Bedrock, que no es un chatbot al uso sino una API de AWS que permite desarrollar y personalizar nuevas herramientas con las que generar imágenes o texto, y va dirigida a grandes clientes. No podemos cerrar este epígrafe sin referirnos a Mark Zuckerberg, dueño de Meta, que anunció en febrero su nuevo modelo de lenguaje LLaMA (Large Language Model Meta AI), más enfocado al colectivo investigador.
Como queda patente en el artículo, arrecian las herramientas de IA frente a la lentitud legislativa y merodean los fantasmas del mundo fake y los sesgos malditos. A todo ello hay que añadir la ciberseguridad como el gran ámbito que está experimentando su particular revolución y donde los cibercriminales experimentan nuevas armas de destrucción masiva. Este maremágnum amenaza con arrastrarnos como una ola gigante sin control y sin unas normas que dejen claras las reglas de juego. En opinión de Enrique Puertas, “es el momento de que se sienten todos los responsables y que se replanteen muchas cosas. Ahora ya no debemos creernos todo lo que vemos, es muy sencillo crear una imagen o vídeo de cualquier persona y saltarse barreras de acceso online por ejemplo a entidades bancarias: el phishing es cada vez más realista gracias a ChatGPT”.
Otro aspecto que no hay que perder de vista es el social. Según un informe de Goldman Sachs, los avances en IA podrían automatizar hasta una cuarta parte de los trabajos, particularmente los de abogados y personal administrativo. El 7% de los trabajadores estadounidenses y europeos podrían ser reemplazados por IA generativa.
Pese a los usos perniciosos y otras sombras de la IA, el profesor insiste en que no hay que vetarla: “Sería un error; hay que ser conscientes de los riesgos y hay que hacer mucha labor de concienciación y formación”. Todas las precauciones serán pocas para entrar con buen pie en el futuro reinado de la inteligencia artificial. Que los sesgos nos sean propicios.
Cookie | Duración | Descripción |
---|---|---|
__cf_bm | 1 hour | This cookie, set by Cloudflare, is used to support Cloudflare Bot Management. |
_GRECAPTCHA | 6 months | Google Recaptcha service sets this cookie to identify bots to protect the website against malicious spam attacks. |
cookielawinfo-checkbox-advertisement | 1 year | Set by the GDPR Cookie Consent plugin, this cookie records the user consent for the cookies in the "Advertisement" category. |
cookielawinfo-checkbox-analytics | 11 months | This cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Analytics". |
cookielawinfo-checkbox-functional | 11 months | The cookie is set by GDPR cookie consent to record the user consent for the cookies in the category "Functional". |
cookielawinfo-checkbox-necessary | 11 months | This cookie is set by GDPR Cookie Consent plugin. The cookies is used to store the user consent for the cookies in the category "Necessary". |
cookielawinfo-checkbox-others | 11 months | This cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Other. |
cookielawinfo-checkbox-performance | 11 months | This cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Performance". |
CookieLawInfoConsent | 1 year | CookieYes sets this cookie to record the default button state of the corresponding category and the status of CCPA. It works only in coordination with the primary cookie. |
csrftoken | 1 year | This cookie is associated with Django web development platform for python. Used to help protect the website against Cross-Site Request Forgery attacks |
opt_out | 1 year | This cookie is used for preventing the installation of third party advertiser or other cookies on the browser. |
PHPSESSID | 24 minutes | This cookie is native to PHP applications. The cookie stores and identifies a user's unique session ID to manage user sessions on the website. The cookie is a session cookie and will be deleted when all the browser windows are closed. |
rc::a | never | This cookie is set by the Google recaptcha service to identify bots to protect the website against malicious spam attacks. |
rc::b | session | This cookie is set by the Google recaptcha service to identify bots to protect the website against malicious spam attacks. |
rc::c | session | This cookie is set by the Google recaptcha service to identify bots to protect the website against malicious spam attacks. |
rc::f | never | This cookie is set by the Google recaptcha service to identify bots to protect the website against malicious spam attacks. |
ts | 1 year 1 month | PayPal sets this cookie to enable secure transactions through PayPal. |
usprivacy | 1 year 1 month | This is a consent cookie set by Dailymotion to store the CCPA consent string (mandatory information about an end-user being or not being a California consumer and exercising or not exercising its statutory right). |
viewed_cookie_policy | 11 months | The cookie is set by the GDPR Cookie Consent plugin and is used to store whether or not user has consented to the use of cookies. It does not store any personal data. |
wordpress_test_cookie | session | WordPress sets this cookie to determine whether cookies are enabled on the users' browsers. |
Cookie | Duración | Descripción |
---|---|---|
cX_G | 1 year 1 month | Cxense sets this cookie for storing the global ID, mapping different ids together into one ID. |
v1st | 1 year 1 month | The v1st cookie is set by TripAdvisor to collect details about how visitors use the website, by displaying user reviews, awards and information received on the TripAdvisor community. |
yt-player-headers-readable | never | The yt-player-headers-readable cookie is used by YouTube to store user preferences related to video playback and interface, enhancing the user's viewing experience. |
yt-remote-cast-available | session | The yt-remote-cast-available cookie is used to store the user's preferences regarding whether casting is available on their YouTube video player. |
yt-remote-cast-installed | session | The yt-remote-cast-installed cookie is used to store the user's video player preferences using embedded YouTube video. |
yt-remote-connected-devices | never | YouTube sets this cookie to store the user's video preferences using embedded YouTube videos. |
yt-remote-device-id | never | YouTube sets this cookie to store the user's video preferences using embedded YouTube videos. |
yt-remote-fast-check-period | session | The yt-remote-fast-check-period cookie is used by YouTube to store the user's video player preferences for embedded YouTube videos. |
yt-remote-session-app | session | The yt-remote-session-app cookie is used by YouTube to store user preferences and information about the interface of the embedded YouTube video player. |
yt-remote-session-name | session | The yt-remote-session-name cookie is used by YouTube to store the user's video player preferences using embedded YouTube video. |
ytidb::LAST_RESULT_ENTRY_KEY | never | The cookie ytidb::LAST_RESULT_ENTRY_KEY is used by YouTube to store the last search result entry that was clicked by the user. This information is used to improve the user experience by providing more relevant search results in the future. |
Cookie | Duración | Descripción |
---|---|---|
_gat | 1 minute | Google Universal Analytics sets this cookie to restrain request rate and thus limit data collection on high-traffic sites. |
dmvk | session | The dmvk cookie is set by Dailymotion to record data of visitor behaviour on the website. |
Cookie | Duración | Descripción |
---|---|---|
_fbp | 3 months | Facebook sets this cookie to display advertisements when either on Facebook or on a digital platform powered by Facebook advertising after visiting the website. |
_ga | 1 year 1 month 4 days | Google Analytics sets this cookie to calculate visitor, session and campaign data and track site usage for the site's analytics report. The cookie stores information anonymously and assigns a randomly generated number to recognise unique visitors. |
_gid | 1 day | Google Analytics sets this cookie to store information on how visitors use a website while also creating an analytics report of the website's performance. Some of the collected data includes the number of visitors, their source, and the pages they visit anonymously. |
cX_P | 1 year 1 month | Cxense sets this cookie for site-specific user sessions - across sessions. |
Cookie | Duración | Descripción |
---|---|---|
guest_id | 1 year 1 month | Twitter sets this cookie to identify and track the website visitor. It registers if a user is signed in to the Twitter platform and collects information about ad preferences. |
test_cookie | 15 minutes | doubleclick.net sets this cookie to determine if the user's browser supports cookies. |
VISITOR_INFO1_LIVE | 6 months | YouTube sets this cookie to measure bandwidth, determining whether the user gets the new or old player interface. |
VISITOR_PRIVACY_METADATA | 6 months | YouTube sets this cookie to store the user's cookie consent state for the current domain. |
YSC | session | Youtube sets this cookie to track the views of embedded videos on Youtube pages. |
yt.innertube::nextId | never | YouTube sets this cookie to register a unique ID to store data on what videos from YouTube the user has seen. |
yt.innertube::requests | never | YouTube sets this cookie to register a unique ID to store data on what videos from YouTube the user has seen. |
Cookie | Duración | Descripción |
---|---|---|
__cflb | 1 day | This cookie is used by Cloudflare for load balancing. |
_awl | 1 year 1 month | No description available. |
_pcid | 1 year 1 month | Description is currently not available. |
_pctx | 1 year 1 month | Description is currently not available. |
gckp | 1 year | This cookie is set by the provider Cxense. This cookie is used for building user profile information across all sites in the Cxense network. |
itsec-hb-login-27e4caa2b0fb20a2dee118de04e9de77 | 1 hour | Description is currently not available. |
ntvSession | session | Description is currently not available. |