Estos pueden ayudar a las organizaciones con el cumplimiento normativo y la mitigación de riesgos.
En respuesta a la numerosas preocupaciones éticas que rodean el auge de la inteligencia artificial (IA) generativa, incluidas la privacidad, los prejuicios y la desinformación, muchas empresas tecnológicas han comenzado a trabajar con especialistas en ética, ya sea como parte de su personal o como consultores externos. Estos se incorporan para supervisar cómo las organizaciones están adoptando estas herramientas en sus productos, servicios y flujos de trabajo.
Bart Willemsen, vicepresidente y analista de Gartner, dice que las empresas ganarían contratando a esta figura. “Contar con una función tan dedicada con un enfoque consistente en el tiempo significa que la tasa de éxito del uso justificable y responsable de la IA aumenta”.
No obstante, existe el riesgo de que estas sean contrataciones simbólicas y no tengan un impacto significativo en la dirección y en la toma de decisiones.
Especialista en ética de la IA como educador tecnológico
Para algunos, el término ‘eticista’ puede connotar la imagen de una persona absorta en sus propios pensamientos, alejada de la realidad cotidiana de una compañía. En la práctica, es un puesto altamente colaborativo, que debería tener influencia horizontal. Jon Fennel, especialista en ética de la Universidad de Cambridge (Reino Unido), asesora frecuentemente a organizaciones, y asegura que la ética es como el arte marcial jiu-jitsu: “A medida que se llega a los cinturones más avanzados, hablas menos de los movimientos y mucho más de los principios que los conforman, como el equilibrio, el apalancamiento y el dinamismo”.
Él aborda esta tecnología del mismo modo. Por ejemplo, cuando enseña ingeniería de estímulos con el objetivo de reducir la tasa de alucinaciones de IA generativa, no exige a los estudiantes que memoricen frases específicas. En cambio, los instruye sobre principios más amplios, como cuándo usar instrucciones o ejemplos para enseñar el modelo.
Por su parte, Darren Menachemson, jefe de ética de la consultora de diseño australiana ThinkPlace, también cree que una de las responsabilidades clave de este rol es la comunicación, particularmente en torno a la gobernanza. “Esto significa que las empresas deben tener suficiente conocimiento de la tecnología para poder controlar los riesgos, mitigarlos y lidiar con ellos. La IA como concepto debe comunicarse bien en toda la corporación para que las personas comprendan cuáles son sus límites y puedan usarla de manera responsable”.
Por supuesto, esta instrucción plantea desafíos culturales, como el lema de “moverse rápido y romper cosas”, que ha definido al ecosistema tecnológico. “Lo que estamos viendo es un verdadero imperativo entre muchas organizaciones de moverse rápidamente, de seguir el ritmo de lo que está sucediendo a nivel más amplio y también de aprovechar oportunidades realmente sorprendentes que son demasiado significativas y conllevan demasiados beneficios como para ignorarlas”, indica Menachemson.
El experto sostiene que los especialistas en ética, en particular los de nivel superior, pueden tener éxito a pesar de estos desafíos si poseen tres cualidades. La primera es una comprensión profunda de los matices de la tecnología de IA y el nivel de riesgo que esto plantea en relación con el propio apetito de riesgo de la organización.
La segunda es la voluntad de involucrar a las partes interesadas para “comprender el contexto comercial en el que se está introduciendo la inteligencia artificial e ir más allá de lo general hacia lo específico en términos de la orientación que se ofrece”.
El tercer atributo es fundamental para ejecutar el segundo. “Confundir a los directivos con un lenguaje técnico o altamente académico los hace perder la oportunidad de tener una influencia real. Los especialistas en ética de alto nivel deben ser comunicadores expertos y deben comprender cómo pueden conectar el riesgo ético con las prioridades estratégicas de los altos ejecutivos”, afirma.
Ofrecer orientación práctica en dos niveles
Aunque la ética puede ser subjetiva, el trabajo de un especialista en ética de la IA o la tecnología está lejos de ser inexacto. Cuando aborda una cuestión en particular, como el consentimiento del usuario, el especialista en ética generalmente parte de un conjunto amplio de mejores prácticas y luego ofrece recomendaciones adaptadas a la organización.
“Les diremos: ‘Esto es lo que actualmente es el estándar de la industria (o lo más avanzado) en términos de IA responsable, y realmente depende de ustedes decidir en el panorama de posibilidades qué quieren priorizar’”, dijo Matthew Sample, quien era especialista en ética de IA para el Instituto de IA Experiencial y la Universidad Northeastern cuando Computerworld lo entrevistó. “Por ejemplo, si [las organizaciones] no están auditando sus modelos de IA en cuanto a seguridad, en cuanto a sesgos, si no los están monitoreando a lo largo del tiempo, tal vez quieran enfocarse en eso”.
Sample ofrece consejos que van más allá de estas mejores prácticas, que pueden ser tan específicos como cómo poner en práctica la ética en la empresa. “Si literalmente no tienen ni una sola persona en la empresa que piense en la ética de la IA, tal vez deban centrarse en la contratación”, dijo como ejemplo.
Pero Sample evita hacer recomendaciones de línea dura. “En aras de la ética, no decimos, desde luego, ‘esto es lo único que se puede hacer en este momento”.
Menachemson tiene un enfoque similar de dos frentes para sus flujos de trabajo. En el nivel superior, Menachemson dice que los especialistas en ética brindan orientación general sobre cuáles son los riesgos para un problema en particular y cuáles son las posibles mitigaciones y controles.
“Pero también es imperativo profundizar”. Este paso debe centrarse en el contexto único de la organización y solo se puede realizar después de comprender los consejos básicos.
“Una vez que se realiza esa diligencia, es cuando se pueden presentar recomendaciones significativas al director ejecutivo o al directorio. Hasta que no se realiza esa diligencia, no se tiene ninguna garantía de que realmente se esté controlando el riesgo de una manera significativa”, dijo.
Todo el mundo debería ser un especialista en ética
En lo que respecta a la implementación, Jesslyn Diamond, directora de ética de datos en Telus Digital, con sede en Canadá, dice que su grupo trabaja para anticipar las consecuencias no deseadas de IA generativa, como cualquier posible mal uso, mediante el uso de un equipo rojo, que identifica brechas e incluso intenta romper los sistemas intencionalmente. “También utilizamos el concepto de equipo azul, que consiste en intentar crear soluciones innovadoras para proteger y mejorar los resultados que son posibles en conjunto a través de un equipo púrpura”. El equipo púrpura es multidisciplinario por naturaleza y abarca profesionales de control de calidad, atención al cliente, finanzas, políticas y más. “Hay algo en la naturaleza no determinista de la IA generativa que realmente hace que estas perspectivas, aportes y conocimientos diversos sean tan necesarios”.
Diamond dice que el trabajo en equipo crea la oportunidad para que diferentes tipos de profesionales utilicen la tecnología, lo que es útil no solo para explorar los riesgos y las consecuencias no deseadas que son consideraciones importantes para la ética, sino también para revelar beneficios adicionales.
Telus también ofrece formación especializada a los empleados sobre conceptos como gobernanza de datos, privacidad, seguridad, ética de datos e inteligencia artificial responsable. Estos empleados se convierten en administradores de datos en sus esferas de influencia. Hasta la fecha, Telus cuenta con una red de más de 500 administradores de datos.
“Familiarizarse más con el funcionamiento de la [IA] realmente prepara tanto a los que son muy técnicos como a los que son menos técnicos para poder participar plenamente en este importante ejercicio de tener esa diversidad de experiencia y antecedentes [representados]”.
Puede parecer obvio que la ética debe ser multidisciplinaria, pero demasiadas empresas encasillan esta función en un rincón remoto de la organización. “Es muy importante que la gente comprenda la tecnología para poder gestionarla de manera significativa, y esa tensión entre alfabetización y participación tiene que darse al mismo tiempo”, dijo Diamond.
Creando una cultura de innovación ética
El objetivo de asesorar en materia de ética no es crear un modelo de servicio de asistencia, en el que los colegas o clientes siempre tengan que recurrir al especialista en ética para obtener orientación adicional. Los especialistas en ética generalmente aspiran a que sus partes interesadas alcancen cierto nivel de independencia.
“Queremos que nuestros socios sean autosuficientes. Queremos enseñarles a hacer este trabajo por sí solos”, aseveraSample.
Los especialistas en ética pueden promover la ética como un valor central de la empresa, al igual que el trabajo en equipo, la agilidad o la innovación. La clave para esta transformación es comprender el objetivo de la organización al implementar la IA.
“Si creemos que la inteligencia artificial va a transformar los modelos de negocios… entonces es responsabilidad de una organización asegurarse de que los altos ejecutivos y la junta directiva nunca se desconecten de lo que la IA está haciendo por o para su organización, fuerza laboral o clientes”, dijo Menachemson.
Esta alineación puede ser especialmente necesaria en un entorno donde las empresas se están lanzando de cabeza a la IA sin ninguna dirección estratégica clara, simplemente porque la tecnología está de moda.
Un especialista en ética o un equipo dedicado podrían abordar una de las cuestiones más fundamentales en torno a la IA, señala Willemsen de Gartner. Una de las preguntas más frecuentes en el nivel directivo, independientemente del proyecto en cuestión, es si la empresa puede utilizar la IA para ello, dijo. “Y aunque es ligeramente comprensible, la segunda pregunta casi siempre se omite: ‘¿ Deberíamos utilizar la IA?’”, agregó.
En lugar de operar con esta brecha evidente, Willemsen dice que las organizaciones deberían invertir el orden de las preguntas. “Número uno: ¿Qué estoy tratando de lograr? Olvídense de la IA por un segundo. Dejen que ese sea el primer enfoque”, dijo, y señaló que la mayoría de las organizaciones que adoptan este enfoque tienen un éxito más demostrable.
Esta sencilla pregunta debería formar parte de un programa más amplio de reflexión y autoevaluación organizacional. Willemsen cree que las empresas pueden mejorar su ética en materia de IA ampliando el alcance de sus investigaciones, planteando preguntas difíciles, manteniendo el interés en las respuestas y, en última instancia, haciendo algo con ellas.
Si bien la IA puede tener efectos transformadores, Willemsen enfatiza la necesidad de analizar de cerca cómo beneficiaría —o no— a las personas. “Esto debe tener en cuenta no solo la función de la tecnología de IA, el grado en que se deben prevenir los resultados no deseados y que la tecnología debe estar bajo control, sino que también puede abordar cuestiones como las condiciones inhumanas en los entornos mineros para el hardware que la ejecuta, la conexión con la esclavitud moderna con ‘granjas de etiquetado’, así como el daño incalculable del consumo de electricidad y el uso de agua sin precedentes para la refrigeración de los centros de datos”, dijo. Según Willemsen, las organizaciones que sean plenamente conscientes de estos problemas y estén alineadas con sus iniciativas de IA obtendrán beneficios. “El valor de la ética de la IA puede no ser tangible de inmediato”, afirmó. “Pero saber qué es correcto e incorrecto significa que el valor y el mayor beneficio de la ética de la IA tienen una visión a más largo plazo: una aplicación consistente de la tecnología solo donde sea realmente útil y tenga sentido.
Fuente: https://www.computerworld.es/article/3607879/