Los responsables de TI pueden trasladar al ámbito de la IA prácticas habituales de gestión, como la incorporación, la supervisión y la definición de permisos. Pero hacerlo no implica atribuir a los agentes capacidad de juicio, responsabilidad propia ni un lugar en el organigrama.
Créditos: Rob Schultz / Shutterstock
El miembro más reciente de la plantilla empresarial nunca duerme, nunca pide un aumento de sueldo y se puede clonar antes de la hora de comer. Además, puede tomar con total seguridad decisiones erróneas miles de veces antes de que nadie se dé cuenta. Esto ayuda a explicar por qué algunos líderes tecnológicos han empezado a referirse a los agentes de IA como empleados, compañeros de trabajo o becarios, en lugar de como software. Una vez que un agente es capaz de actualizar registros, emitir reembolsos, enviar comunicaciones o actuar en múltiples sistemas empresariales, su implementación ya no se parece mucho a la instalación de otra aplicación.
Algunos artículos recientes de Harvard Business Review han llevado esa analogía aún más lejos. Uno de ellos sostiene que los agentes deberían ser tratados como una nueva plantilla, con funciones definidas, autoridad, fuentes de información fiables, supervisión y registros de auditoría. Otro recomienda dar nombres y descripciones de puesto a los agentes, incorporarlos a la empresa, evaluar su rendimiento y aumentar sus responsabilidades una vez que hayan demostrado su valía.
Pero hay una trampa: la gente puede empezar a creerse la metáfora.
Otro estudio de HBR realizado a 1.261 directivos reveló que, cuando la IA se enmarcaba como un empleado en lugar de como una herramienta, los directivos con experiencia en el trabajo con agentes de IA asumían menos responsabilidad personal por los resultados y atribuían más responsabilidad a la IA. Además, escalaban más problemas y detectaban menos errores. En el estudio, el 31% de los encuestados afirmó que sus empresas ya concebían la IA como un compañero de equipo o un empleado, mientras que el 23 % señaló que los agentes figuraban en los organigramas o en los esquemas de trabajo.
Para los responsables de TI, la respuesta podría ser, por tanto, inspirarse libremente en el manual de gestión de empleados, sin llevar la metáfora demasiado lejos.
Evitar incluir el software en el organigrama
Amy Loomis, vicepresidenta de grupo de IDC, traza una línea roja en torno a una palabra: responsabilidad. Los seres humanos, afirma, tienen obligaciones para con sus empresas y entre ellos, y aportan una comprensión de la cultura y los valores corporativos que un agente puede imitar lingüísticamente sin llegar a poseerlos.
Esto hace que llamar “compañero de trabajo” a un agente sea, potencialmente, algo más que un antropomorfismo inofensivo. Esa etiqueta sugiere una relación entre iguales y puede animar a las personas a delegar el juicio en un sistema que es muy bueno a la hora de dar lo que se le ha pedido, afirma Loomis, pero no necesariamente a la hora de reconocer lo que realmente se necesitaba.
“La responsabilidad es algo que conlleva cualidades que son exclusivamente humanas”, afirma. “A los agentes se les puede conceder permiso para acceder a los datos, pero la responsabilidad de lo que hacen con ese acceso recae en la persona que se lo concedió, no en el propio agente”.
Esa distinción sigue dejando mucho que aprender de la gestión de personal. Tiene sentido otorgar a un agente un acceso rastreable y permisos con un alcance estrictamente delimitado, así como establecer un «interruptor de emergencia» para impedir que el agente mantenga el acceso. Pero Loomis considera más eficaz pensar en términos de otorgar al agente un «estatuto operativo» en lugar de una identidad humana: definir qué hace el sistema, a qué puede acceder y de qué siguen siendo responsables los humanos.
En otras palabras, dar al agente una tarjeta de seguridad. Pero sin poner su foto en ella.
La metáfora del empleado tiene una función que cumplir
Raja Iqbal, fundador de la empresa de gobernanza de IA agentiva Ejento AI y coautor del artículo de HBR ‘Para escalar con éxito los agentes de IA, piénsese en ellos como miembros de un equipo‘, está más cerca de Loomis de lo que sugiere el titular.
Iqbal afirma que la metáfora pretende situar a los directores de sistemas de información (CIO), a los directores de seguridad de la información (CISO) y a otros líderes tecnológicos en la “postura cognitiva” adecuada. Pensar en un agente como un miembro del equipo, argumenta, puede recordar a una empresa que debe aplicar disciplinas de gestión familiares: una identidad única, una supervisión humana clara, una autoridad definida, límites de gasto, fuentes de información aprobadas y un registro de auditoría.
Si otro término genera la misma disciplina, a él también le parece bien. De hecho, Iqbal rechaza explícitamente los empleados sintéticos con personalidades humanas y puestos en el organigrama. Eso genera precisamente el problema de responsabilidad que preocupa a los críticos: “Bob lo hizo” se convierte en una excusa, aunque Bob sea un programa informático.
“La metáfora es peligrosa cuando es meramente decorativa”, reflexiona Iqbal. Con ello se refiere a que las empresas se meten en problemas cuando adoptan los atributos humanos —nombres, personalidades o el lenguaje de los compañeros— sin imponer también la supervisión, los límites y la responsabilidad que hacen que la analogía sea útil.
Su distinción preferida es más sencilla: el agente necesita una identidad técnica para que la empresa pueda reconstruir lo que hizo, mientras que un ser humano debe seguir siendo responsable de esas acciones. “La identidad es la primitiva de auditoría, y el propietario humano es la primitiva de responsabilidad”, relata. Dicho de forma más clara, la identidad del agente responde a qué actuó; el propietario humano responde a quién es responsable.
La analogía con los empleados vuelve a resultar útil a la hora de decidir cuánta libertad debe concederse a un agente. Iqbal recomienda una autonomía gradual. Un agente podría comenzar con un humano que apruebe cada acción, pasar a realizar acciones de bajo riesgo de forma independiente y, finalmente, recibir una autonomía limitada si su rendimiento observado lo justifica. Un error grave puede hacer que vuelva a bajar en la escala —o que se le expulse por completo—.
Esto se parece mucho al período de prueba de un nuevo empleado. Además, es simplemente una buena gobernanza de software para un sistema probabilístico.
En DXC, los agentes profesionales son software
Russell Jukes ha tenido muchas oportunidades de poner a prueba esa distinción. Como director digital y de información de DXC Technology, supervisa la IA en una organización de servicios de TI con aproximadamente 115 000 empleados. “Consideramos [a un agente de IA] como un superpoder, no como una persona”, indica.
DXC clasifica a los agentes en dos categorías. Los agentes personales trabajan para empleados individuales y, por lo general, operan utilizando la identidad y el acceso del empleado. Los agentes profesionales son sistemas empresariales diseñados para flujos de trabajo más amplios. En una de las principales plataformas de IA de DXC, los empleados han creado hasta ahora unos 8.000 agentes personales, frente a unos 100 agentes profesionales.
La variedad profesional está sujeta a una supervisión mucho más estricta. Puede tener su propia identidad no humana, credenciales, permisos y límites de autoridad. La actividad pasa por planos de control que permiten a DXC ver lo que hacen los agentes y, cuando es necesario, desactivarlos.
Jukes cree que muchos de estos agentes acabarán desapareciendo por completo de la vista de los usuarios. Un agente podría analizar durante la noche las necesidades de recursos internos y recomendar a empleados para los proyectos. Nadie tiene que saludarlo por la mañana ni considerarlo un compañero de trabajo; simplemente reciben el resultado.
Ahí es donde se aleja de la metáfora del trabajador. Jukes afirma que aprendió desde el principio que la IA no se puede implementar como el SaaS convencional. Su primer intento siguió el modelo de software habitual: poner la aplicación a disposición de los empleados, dejar que la utilizaran dentro del flujo de trabajo establecido y esperar que se adoptara por sí sola. “Hice eso y nadie lo utilizó”, dice. La experiencia le convenció de que la IA requiere un enfoque diferente, y se comprometió a “no volver a implementar nunca más la IA como si fuera SaaS”.
El SaaS convencional es en gran medida determinista: el software limita a los usuarios a un flujo de trabajo definido y produce resultados predecibles. La IA agentiva es diferente. Puede interpretar un objetivo, elegir entre herramientas y fuentes de datos, y decidir cómo alcanzar un resultado. Para Jukes, eso significa que los CIO tienen que diseñar las políticas, los permisos, el acceso a los datos, las medidas de seguridad y la autoridad en torno al agente, en lugar de limitarse a implementar otra aplicación.
Esto también crea una cadena de responsabilidad más clara. Si una persona aprueba la acción del agente, Jukes afirma que esa persona es la responsable de la decisión. Si un agente autónomo actúa de acuerdo con una política empresarial, la responsabilidad recae en las personas encargadas de dicha política. Si la tecnología no funciona según lo previsto, la responsabilidad recae en el departamento de TI. Al agente en sí nunca se le atribuye la culpa.
Quizá, después de todo, habría que tratarlo como a un becario
Nina Tatsiy, CIO global de Quadient, una empresa de tecnología de automatización, adopta una postura intermedia entre la de Iqbal y la de Jukes. Ella denomina a los agentes “becarios”, pero utiliza deliberadamente el término como analogía, no como una designación organizativa. Los agentes deben gestionarse como software, con controles de seguridad, gobernanza y técnicos, al tiempo que se reconoce que su comportamiento probabilístico requiere una supervisión adicional. “Hay que hacer ambas cosas”, expone Tatsiy.
A un becario no se le dan todas las contraseñas y autorizaciones la primera mañana. Tampoco debería ser así con un agente. Hay que incorporarlo, formarlo, supervisarlo, volver a formarlo cuando cambie su entorno y, finalmente, retirarlo cuando quede obsoleto.
Quadient suele evitar dar nombres humanos a los agentes. A Tatsiy le preocupa que hacerlo anime a la gente a verlos como auténticos compañeros capaces de emitir juicios. “La confianza excesiva es un problema”, afirma, sobre todo porque la IA tiende a expresar conclusiones con tanta seguridad. Tatsiy prefiere utilizar la IA para cuestionar una hipótesis o plantear preguntas que las personas no han tenido en cuenta, en lugar de permitir que sea ella quien saque conclusiones por ellas.
Sin embargo, la analogía del becario ha resultado útil desde el punto de vista operativo. En una implementación en el área de cuentas por pagar, Quadient hizo que un agente siguiera de cerca a los trabajadores humanos y aprendiera de sus comentarios en diferentes situaciones. Solo después de que se hubiera probado su rendimiento en niveles cada vez más complejos, comenzó a ofrecer recomendaciones. Los humanos seguían tomando la decisión final. El agente, en otras palabras, se ganó más confianza. No se ganó la responsabilidad.
Inspirarse en las políticas de recursos humanos, pero manteniendo a las personas al mando
Por lo tanto, la división emergente puede tener menos que ver con si los agentes son empleados o software que con qué partes de cada modelo de gestión deben conservar los responsables de TI. Los agentes necesitan identidades técnicas individuales, pero no identidades humanas. Necesitan responsabilidades definidas, pero no puestos de trabajo en el sentido humano. Necesitan supervisión y evaluación, pero no evaluaciones anuales de rendimiento. Pueden recibir una autoridad cada vez mayor, pero no una responsabilidad cada vez mayor.
Y cuanto más potentes se vuelven, más importante se vuelve esa distinción. Tratar a un agente autónomo como si fuera un SaaS cualquiera ignora el hecho de que puede interpretar, elegir y actuar de formas que el software convencional no puede. Tratarlo como si fuera Steve, de Contabilidad, plantea un problema diferente: tarde o temprano, alguien podría empezar a dar por sentado que ‘Steve’ sabe lo que hace.
Es posible que los responsables de TI tengan que inspirarse en gran medida en RR. HH. a medida que la IA con capacidad de agencia se extienda por toda la empresa. Simplemente no deberían empezar a expedir tarjetas de identificación de empleado.
Fuente: CIO