En el marco de una nueva entrega de Conversaciones humanitarias generadoras de talento impulsadas por Fundación Cruz Roja, Nuria Oliver, Cristina Aranda y José María Lasalle debaten sobre la importancia de promover una IA ética, responsable y humanista.
El avance irrefrenable de la inteligencia artificial (IA) ha obligado a tecnólogos, reguladores y sociedad civil a echar mano del pensamiento crítico para reflexionar sobre los límites de la tecnología, beneficios y riesgos asociados. Son innumerables los desafíos derivados de la popularización de la IA; sin embargo, sobre todos ellos, destaca por su magnitud y calado el reto de promover una IA ética, responsable y centrada en el ser humano.
En el marco de una nueva entrega de Conversaciones humanitarias generadoras de talento, Fundación Cruz Roja abre un nuevo espacio de debate para abordar precisamente esta cuestión. Una conversación a tres voces protagonizada por expertos de renombre. Entre ellos, Nuria Oliver, directora científica y cofundadora de Fundación Ellis Alicante; Cristina Aranda, doctora en lingüística teórica y aplicada y cofundadora de Mujeres Tech; y José María Lasalle, director del Foro de Humanismo Tecnológico de ESADE y autor del libro Civilización artificial. Tres nombres propios que han coincidido en la necesidad imperante de impulsar el pensamiento humanístico en la sociedad para desarrollar una tecnología de IA con tintes sociales.
“Nos encontramos ante un escenario de inevitabilidad de la IA”, comenta Lasalle; y es precisamente esa inexorabilidad la que debe dar lugar a “una reflexión profunda sobre el sentido de la propia tecnología”. Una visión que cobra especial relevancia dado que “está cambiando la fisionomía del mundo tal y como la conocemos hasta la fecha”. En este sentido el representante de la ESADE, echando la vista atrás, reconoce que este nuevo paradigma “nos obliga a tener presente la agenda de desigualdades que acompañó al desarrollo de la revolución industrial”. Para evitar que vuelva a ocurrir, incide, “cualquier tipo de anticipación debe ser abordada de una manera prudencial, especialmente teniendo en consideración que la profundidad de la IA nos obliga a tener unas capacidades reforzadas”.
Así, partiendo de la base de que “necesitamos IA para abordar algunos de los grandes retos sociales del milenio, no tenemos otra opción que garantizar que ésta esté centrada en las personas”, infería Oliver. Sus aplicaciones y beneficios son infinitos, como también lo son sus limitaciones éticas y morales. Precisamente por este motivo, proseguía la cofundadora de Ellis Alicante, “es necesaria una visión humanitaria y humanista para garantizar una IA ética, responsable y orientada al bien social”.
La tecnología, defiende Aranda a capa y espada, “nos permite transformar el mundo”. “La IA es una increíble herramienta que ayuda a las personas a solucionar necesidades concretas”. De hecho, incide la doctora en lingüística teórica y aplicada, “las IA generativas van a tener cada vez más presencia en la sociedad”. Es Oliver quien da muestra de ello: “La intersección entre el contexto de fines humanitarios y la IA es cada vez más intensa y extensa. Un claro ejemplo de ello tiene que ver con la aplicación de la citada tecnología para atajar los objetivos de desarrollo sostenible de Naciones Unidas”.
Sin embargo, ahí no queda todo. “Una de las grandes revoluciones de la IA se está viviendo en el ámbito sanitario, donde ha llegado a impactar en la toma de decisiones médicas como el diagnóstico y el tratamiento hasta los propios procesos e infraestructuras de hospitales y ambulatorios”. Pero este no es el único sector, su aplicación en esferas como la educación, la energía, el medioambiente o las ciudades inteligentes son inimaginables.
La irrupción y disrupción de la IA en el contexto popular actual obliga también, en palabras de Aranda, a redefinir las necesidades de talento especializado para garantizar una IA ética y responsable. “Las personas somos el epicentro de todo”, comenta la fundadora de Mujeres Tech, “desde el ámbito de las humanidades y las ciencias sociales es necesario incorporar perfiles de este calado para abordar las cuestiones persona-máquina”. Siguiendo este hilo, argumenta: “La IA está impactando en las democracias, en la sociedad, por lo que se necesita una diversidad de perfiles que antes no existía para abordar este despliegue de manera segura”. “No hay que endemoniar a la tecnología, hay que ser responsable en su desarrollo y uso”, espetaba.
En el camino hacia esta meta emerge el concepto de justicia algorítmica; es decir, la aplicación de principios éticos y de equidad en el desarrollo y uso de algoritmos de aprendizaje automático. “No podemos ser naive”, dice Oliver, “la IA, como los humanos, no es perfecta, hay que tener en cuenta los sesgos, la privacidad, la manipulación subliminal del comportamiento humano… Hay una serie de retos en los que tenemos que investigar libres de intereses económicos”.
Al ser preguntados sobre la fórmula para evitar una IA plagada de sesgos, Oliver centra el foco en los datos con los que se entrenan las redes neuronales. La calidad de la captura y explotación de los mismos determinará lo sesgado o no que esté un algoritmo. Además, irrumpe Lasalle, “la IA va incorporando mecanismos autorreferenciales a medida que va aprendiendo, por lo que muchas veces es complicado para los ingenieros definir dónde existen los sesgos”. “Existen muchos [sesgos] que intervienen, por lo que la diversidad de equipos es clave”, vuelve a señalar Aranda.
Sin embargo, comenta Oliver, hay forma de atajar estos sesgos con un “rebalanceo de los datos”. Por ejemplo, señala, mediante la incorporación de técnicas de preprocesamiento que, basadas en datos sintéticos, representen grupos infrapersonificados; incluyendo el propio concepto de justicia en las redes de aprendizaje del algoritmo; o, mediante métodos postprocesados, logrando que este aprenda un nuevo criterio de decisión más justo a partir de un modelo que puede estar sesgado. “Estos métodos se pueden entrelazar para modelar matemáticamente el concepto de justicia de los algoritmos y poder medirlo”, concluye Oliver.
Cookie | Duración | Descripción |
---|---|---|
__cf_bm | 1 hour | This cookie, set by Cloudflare, is used to support Cloudflare Bot Management. |
_GRECAPTCHA | 6 months | Google Recaptcha service sets this cookie to identify bots to protect the website against malicious spam attacks. |
cookielawinfo-checkbox-advertisement | 1 year | Set by the GDPR Cookie Consent plugin, this cookie records the user consent for the cookies in the "Advertisement" category. |
cookielawinfo-checkbox-analytics | 11 months | This cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Analytics". |
cookielawinfo-checkbox-functional | 11 months | The cookie is set by GDPR cookie consent to record the user consent for the cookies in the category "Functional". |
cookielawinfo-checkbox-necessary | 11 months | This cookie is set by GDPR Cookie Consent plugin. The cookies is used to store the user consent for the cookies in the category "Necessary". |
cookielawinfo-checkbox-others | 11 months | This cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Other. |
cookielawinfo-checkbox-performance | 11 months | This cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Performance". |
CookieLawInfoConsent | 1 year | CookieYes sets this cookie to record the default button state of the corresponding category and the status of CCPA. It works only in coordination with the primary cookie. |
csrftoken | 1 year | This cookie is associated with Django web development platform for python. Used to help protect the website against Cross-Site Request Forgery attacks |
opt_out | 1 year | This cookie is used for preventing the installation of third party advertiser or other cookies on the browser. |
PHPSESSID | 24 minutes | This cookie is native to PHP applications. The cookie stores and identifies a user's unique session ID to manage user sessions on the website. The cookie is a session cookie and will be deleted when all the browser windows are closed. |
rc::a | never | This cookie is set by the Google recaptcha service to identify bots to protect the website against malicious spam attacks. |
rc::b | session | This cookie is set by the Google recaptcha service to identify bots to protect the website against malicious spam attacks. |
rc::c | session | This cookie is set by the Google recaptcha service to identify bots to protect the website against malicious spam attacks. |
rc::f | never | This cookie is set by the Google recaptcha service to identify bots to protect the website against malicious spam attacks. |
ts | 1 year 1 month | PayPal sets this cookie to enable secure transactions through PayPal. |
usprivacy | 1 year 1 month | This is a consent cookie set by Dailymotion to store the CCPA consent string (mandatory information about an end-user being or not being a California consumer and exercising or not exercising its statutory right). |
viewed_cookie_policy | 11 months | The cookie is set by the GDPR Cookie Consent plugin and is used to store whether or not user has consented to the use of cookies. It does not store any personal data. |
wordpress_test_cookie | session | WordPress sets this cookie to determine whether cookies are enabled on the users' browsers. |
Cookie | Duración | Descripción |
---|---|---|
cX_G | 1 year 1 month | Cxense sets this cookie for storing the global ID, mapping different ids together into one ID. |
v1st | 1 year 1 month | The v1st cookie is set by TripAdvisor to collect details about how visitors use the website, by displaying user reviews, awards and information received on the TripAdvisor community. |
yt-player-headers-readable | never | The yt-player-headers-readable cookie is used by YouTube to store user preferences related to video playback and interface, enhancing the user's viewing experience. |
yt-remote-cast-available | session | The yt-remote-cast-available cookie is used to store the user's preferences regarding whether casting is available on their YouTube video player. |
yt-remote-cast-installed | session | The yt-remote-cast-installed cookie is used to store the user's video player preferences using embedded YouTube video. |
yt-remote-connected-devices | never | YouTube sets this cookie to store the user's video preferences using embedded YouTube videos. |
yt-remote-device-id | never | YouTube sets this cookie to store the user's video preferences using embedded YouTube videos. |
yt-remote-fast-check-period | session | The yt-remote-fast-check-period cookie is used by YouTube to store the user's video player preferences for embedded YouTube videos. |
yt-remote-session-app | session | The yt-remote-session-app cookie is used by YouTube to store user preferences and information about the interface of the embedded YouTube video player. |
yt-remote-session-name | session | The yt-remote-session-name cookie is used by YouTube to store the user's video player preferences using embedded YouTube video. |
ytidb::LAST_RESULT_ENTRY_KEY | never | The cookie ytidb::LAST_RESULT_ENTRY_KEY is used by YouTube to store the last search result entry that was clicked by the user. This information is used to improve the user experience by providing more relevant search results in the future. |
Cookie | Duración | Descripción |
---|---|---|
_gat | 1 minute | Google Universal Analytics sets this cookie to restrain request rate and thus limit data collection on high-traffic sites. |
dmvk | session | The dmvk cookie is set by Dailymotion to record data of visitor behaviour on the website. |
Cookie | Duración | Descripción |
---|---|---|
_fbp | 3 months | Facebook sets this cookie to display advertisements when either on Facebook or on a digital platform powered by Facebook advertising after visiting the website. |
_ga | 1 year 1 month 4 days | Google Analytics sets this cookie to calculate visitor, session and campaign data and track site usage for the site's analytics report. The cookie stores information anonymously and assigns a randomly generated number to recognise unique visitors. |
_gid | 1 day | Google Analytics sets this cookie to store information on how visitors use a website while also creating an analytics report of the website's performance. Some of the collected data includes the number of visitors, their source, and the pages they visit anonymously. |
cX_P | 1 year 1 month | Cxense sets this cookie for site-specific user sessions - across sessions. |
Cookie | Duración | Descripción |
---|---|---|
guest_id | 1 year 1 month | Twitter sets this cookie to identify and track the website visitor. It registers if a user is signed in to the Twitter platform and collects information about ad preferences. |
test_cookie | 15 minutes | doubleclick.net sets this cookie to determine if the user's browser supports cookies. |
VISITOR_INFO1_LIVE | 6 months | YouTube sets this cookie to measure bandwidth, determining whether the user gets the new or old player interface. |
VISITOR_PRIVACY_METADATA | 6 months | YouTube sets this cookie to store the user's cookie consent state for the current domain. |
YSC | session | Youtube sets this cookie to track the views of embedded videos on Youtube pages. |
yt.innertube::nextId | never | YouTube sets this cookie to register a unique ID to store data on what videos from YouTube the user has seen. |
yt.innertube::requests | never | YouTube sets this cookie to register a unique ID to store data on what videos from YouTube the user has seen. |
Cookie | Duración | Descripción |
---|---|---|
__cflb | 1 day | This cookie is used by Cloudflare for load balancing. |
_awl | 1 year 1 month | No description available. |
_pcid | 1 year 1 month | Description is currently not available. |
_pctx | 1 year 1 month | Description is currently not available. |
gckp | 1 year | This cookie is set by the provider Cxense. This cookie is used for building user profile information across all sites in the Cxense network. |
itsec-hb-login-27e4caa2b0fb20a2dee118de04e9de77 | 1 hour | Description is currently not available. |
ntvSession | session | Description is currently not available. |