El problema que todavía no estamos viendo…
Hay ideas curiosas. Algunas aparecen de repente y desaparecen tan rápido como llegaron. Otras, en cambio, se quedan dando vueltas en la cabeza durante meses, incluso años, esperando el momento adecuado para tomar forma. La idea que quiero compartir en este artículo pertenece claramente al segundo grupo.
Llevo bastante tiempo pensando que algo no termina de encajar en la conversación actual sobre Inteligencia Artificial, Agentic AI y agentes autónomos. Veo organizaciones desarrollando copilotos, asistentes virtuales, agentes especializados, ecosistemas multiagente y plataformas completas de automatización cognitiva. Veo fabricantes anunciando nuevas capacidades prácticamente cada semana. Veo consultoras presentando marcos de adopción. Veo analistas hablando de productividad.
Pero hay una pregunta que aparece una y otra vez en mi cabeza: ¿Cómo vamos a gobernar todo esto cuando deje de ser un experimento y se convierta en operación real?
Hace algunos meses empecé a profundizar más en esta reflexión. Después de revisar distintos trabajos académicos relacionados con la calidad y gestión de agentes de IA, incluyendo propuestas muy interesantes orientadas a la definición de acuerdos de nivel de servicio para agentes inteligentes, y tras asistir a una sesión especialmente inspiradora en Londres de la mano de SysAid, terminé llegando a la conclusión de que merecía la pena escribir este artículo y compartir estas ideas con todos vosotros.
Entre otras cosas porque me dio la sensación de que muchas de las conversaciones que estamos teniendo alrededor de la IA están centradas en la tecnología, cuando quizá las preguntas verdaderamente importantes se encuentran en otro lugar. No porque tenga todas las respuestas. Todo lo contrario.
De hecho, cuanto más leo, más conversaciones mantengo y más proyectos veo aparecer, más preguntas me surgen, y cuando uno llega a ese punto normalmente pasan dos cosas… o te quedas callado para no complicarte la vida, o escribes un artículo para ver si entre todos conseguimos encontrar mejores respuestas. Yo he optado por la segunda opción, jeje. Quizá porque ya tengo “una edad” en la que “complicarme la vida” forma parte de mi descripción personal, jajaja.
Lo curioso es que esta sensación no es nueva. Los que llevamos unos cuantos años trabajando alrededor de disciplinas como Gobierno Corporativo, Gestión de Servicios, Transformación Organizativa o Enterprise Service Management hemos visto situaciones parecidas muchas veces. Cambia la tecnología, cambian los fabricantes, cambian las siglas y cambian los colores de las presentaciones, pero hay ciertos patrones que se repiten con una precisión casi matemática. Primero aparece una nueva capacidad tecnológica. Después aparecen los casos de uso. Más tarde llega la fase de entusiasmo colectivo en la que parece que todos los problemas de la humanidad van a resolverse durante el próximo trimestre. Y finalmente llega una pregunta mucho menos atractiva pero infinitamente más importante: ¿Cómo gestionamos todo esto?
Lo vimos con los ERP. Lo vimos con ITSM. Lo vimos con Cloud. Lo vimos con la transformación digital. Y ahora estamos empezando a verlo con la Inteligencia Artificial. De hecho, me atrevería a decir que una parte importante de las organizaciones está cometiendo exactamente el mismo error que cometió en otras épocas.
Estamos dedicando enormes cantidades de tiempo a hablar de capacidades, pero muy poco tiempo a hablar de responsabilidades. Estamos hablando de lo que los agentes pueden hacer, pero no de lo que deberían hacer. Hablamos de autonomía, pero no de límites. Hablamos de productividad, pero no de rendición de cuentas.
Hablamos de automatización, pero no de gobierno… y eso debería preocuparnos un poco (bastante en realidad). Porque cuando uno observa con detenimiento lo que está ocurriendo en estos momentos, descubre algo especialmente interesante… ya no estamos hablando de simples herramientas. Tampoco estamos hablando únicamente de asistentes conversacionales capaces de responder preguntas. Lo que empieza a llegar a las organizaciones son entidades capaces de interpretar contexto, tomar decisiones, ejecutar acciones, interactuar con otros sistemas, coordinar procesos e incluso colaborar con otros agentes para alcanzar determinados objetivos.
Dicho de otra forma, estamos empezando a incorporar nuevos participantes dentro de la operación empresarial… y aquí es donde mi cabeza empieza a hacer (mucho) ruido. Porque si durante décadas hemos desarrollado mecanismos para gobernar personas, equipos, departamentos, proveedores, servicios, procesos y tecnología, resulta extraño que pensemos que podremos incorporar una nueva categoría de actores organizativos sin desarrollar ningún modelo específico para gestionarlos.
Quizá el problema esté precisamente en cómo los estamos viendo. Seguimos hablando de agentes como si fueran simplemente software. Como si fueran una aplicación más dentro del catálogo tecnológico de la empresa. Como si fueran una evolución más o menos sofisticada de las herramientas que ya conocemos. Pero cada vez tengo más dudas sobre esa interpretación.
Un sistema tradicional hace aquello para lo que fue programado. Un agente, en cambio, empieza a decidir cómo va a hacer aquello para lo que fue diseñado… y esa diferencia es brutalmente enorme. Tan enorme que sospecho que todavía no hemos terminado de comprender todas sus implicaciones.
Por ejemplo, cuando una organización incorpora un portal de autoservicio, una herramienta BPM o una plataforma ITSM/ESM, el comportamiento esperado suele estar perfectamente definido (o eso queremos siempre, jeje). Los procesos, los flujos, las reglas e incluso las excepciones son conocidas.
Sin embargo, con un agente empiezan a aparecer zonas grises.
¿Qué ocurre cuando interpreta mal una situación? ¿Qué ocurre cuando dispone de varias alternativas válidas? ¿Qué ocurre cuando la información es incompleta? ¿Qué ocurre cuando debe decidir entre velocidad y precisión? ¿Qué ocurre cuando coordina acciones con otros agentes? ¿Qué ocurre cuando la decisión que toma tiene impacto económico, operativo o incluso reputacional? …y sobre todo: ¿Quién es responsable de todo eso? Porque seamos sinceros, en algún momento alguien va a preguntar por eso, no? …antes o después, siempre ocurre.
Lo que me lleva a pensar que quizá estamos utilizando una conversación equivocada… o al menos una conversación incompleta. Quizá el verdadero reto de la próxima etapa de la Inteligencia Artificial no sea tecnológico. Quizá el verdadero reto sea organizativo… o quizá el reto no sea construir agentes cada vez más inteligentes, sino aprender a convivir con ellos de una forma razonable, controlada y alineada con los objetivos del negocio.
…y bueno, es precisamente ahí donde empieza a tomar forma la idea que quiero desarrollar a lo largo de este artículo. Una idea que todavía está evolucionando, que seguramente mejorará con el debate y que probablemente requerirá muchas más conversaciones para alcanzar la madurez necesaria. Pero toda idea necesita un punto de partida… y el mío es bastante sencillo (según yo, jeje):
Si durante años hemos utilizado los Service Level Agreements para gobernar la calidad de los servicios, quizá ha llegado el momento de preguntarnos si las organizaciones necesitarán algo parecido para gobernar a sus agentes de Inteligencia Artificial. Quizá haya llegado el momento de empezar a hablar de AI Agent Level Agreements… o simplemente “ALAs”.
Creo que “…y si tengo razón”, entonces lo verdaderamente interesante no será entender qué son. Lo verdaderamente interesante será entender por qué los SLA tradicionales empiezan a quedarse cortos para el mundo que estamos construyendo.
Perfecto. La siguiente parte no debería entrar todavía en definir los ALAs. Antes hay que construir la tensión intelectual que justifique su existencia. Creo que la segunda parte debería centrarse en una idea muy concreta: «Estamos intentando gobernar agentes con herramientas conceptuales diseñadas para servicios.»
Los SLA fueron diseñados para servicios, no para agentes…
Hay algo que me resulta especialmente interesante cuando observo cómo las organizaciones están empezando a incorporar Inteligencia Artificial en sus operaciones… y es que, casi sin darnos cuenta, tendemos a interpretar cualquier innovación utilizando los modelos mentales que ya conocemos. Es algo completamente normal. De hecho, lo hacemos constantemente… más de lo que deberíamos.
Cuando aparecen nuevas tecnologías solemos intentar encajarlas dentro de categorías familiares porque eso nos ayuda a entenderlas más rápido. El problema es que, de vez en cuando, aparece algo que no encaja del todo en ninguna categoría anterior… y cuando eso ocurre, seguir utilizando los mismos marcos de pensamiento suele ser el comienzo de muchos errores (y lo sabes bien).
Personalmente, tengo la impresión de que eso es exactamente lo que está ocurriendo con los agentes de Inteligencia Artificial. Porque cuando hablamos de ellos, la mayoría de las organizaciones parecen asumir que estamos hablando simplemente de una nueva generación de servicios digitales… y no estoy tan seguro de que sea así.
De hecho, cuanto más profundizo en este tema, más convencido estoy de que estamos intentando gestionar una realidad nueva utilizando herramientas conceptuales diseñadas para una realidad completamente distinta (o pasada, sí).
Pensemos un momento en los SLA. Durante décadas han sido una pieza fundamental de la gestión de servicios… y con toda la razón del mundo. Han permitido definir expectativas, establecer compromisos, medir niveles de calidad y gestionar relaciones entre proveedores, clientes y unidades de negocio. Gracias a ellos hemos podido profesionalizar la prestación de servicios y convertir muchas conversaciones subjetivas en conversaciones objetivas basadas en datos.
No creo que nadie que haya trabajado seriamente en gestión de servicios pueda cuestionar la importancia de un buen SLA (y existen aunque muchos rara vez hayan visto uno, jejeje) … yo desde luego no lo haría. Pero también creo que debemos reconocer algo importante. Los SLA fueron diseñados para gobernar servicios. No fueron diseñados para gobernar agentes… y aunque la diferencia pueda parecer pequeña, sospecho que es muchísimo más grande de lo que parece.
Cuando definimos un SLA tradicional solemos preocuparnos por cuestiones bastante concretas. La disponibilidad del servicio. Los tiempos de respuesta. Los tiempos de resolución. La capacidad. El rendimiento. La continuidad. La satisfacción del usuario… etcétera. Todas ellas son variables perfectamente razonables cuando hablamos de servicios.
Pero ahora hagamos un pequeño ejercicio mental. Imaginemos un agente de IA que participa en el proceso de contratación de personal. No estoy hablando de que publique ofertas o envíe correos automáticamente. Estoy hablando de un agente capaz de analizar candidatos, cruzar información, identificar patrones y proponer recomendaciones a los responsables de selección… supongamos ahora que ese agente recomienda descartar un determinado candidato.
¿Qué métrica del SLA me ayuda a evaluar si esa recomendación fue adecuada?
La disponibilidad no. El tiempo de respuesta tampoco. La capacidad de procesamiento mucho menos… porque el problema ya no está relacionado con la prestación del servicio. El problema está relacionado con la calidad del juicio que el agente ha aplicado durante el proceso… y eso cambia completamente la conversación (ya lo vas pillando, no?).
Lo mismo ocurriría con un agente financiero capaz de aprobar determinados gastos, con un agente de compras encargado de interactuar con proveedores o con un agente que coordina actividades entre varias áreas de negocio. En todos esos casos podemos seguir midiendo tiempos, disponibilidad y rendimiento… y muy probablemente deberíamos seguir haciéndolo (digo yo, no?).
Pero esas métricas dejan de ser suficientes, porque el verdadero riesgo ya no se encuentra únicamente en si el agente funciona. El verdadero riesgo aparece cuando el agente toma una decisión incorrecta mientras funciona perfectamente… y creo que esa diferencia es fundamental y nos hace entrar en situaciones y circunstancias que hasta ayer no nos preocupaban ni eran “nuestro problema”.
Durante años nos hemos acostumbrado a evaluar sistemas en función de su capacidad para ejecutar correctamente una tarea predefinida. Sin embargo, los agentes empiezan a introducir algo nuevo dentro de la ecuación organizativa… introducen criterio (el suyo, pero criterio al fin) …y cuando aparece el criterio aparecen también preguntas para las que los SLA nunca fueron diseñados para responder:
¿Qué nivel de autonomía tiene permitido un agente? ¿Qué decisiones puede tomar sin supervisión humana? ¿Qué decisiones requieren validación? ¿Qué riesgos puede asumir? ¿Qué información puede utilizar? ¿Qué capacidad de actuación tiene sobre otros sistemas? ¿Qué nivel de trazabilidad debe mantener? ¿Qué ocurre cuando existen varias respuestas válidas y debe elegir una de ellas? ¿Y quién responde cuando la elección resulta equivocada? …y mil dudas más.
Hace años, cuando comenzamos a hablar de Enterprise Service Management, muchos de nosotros intentamos explicar que la gestión de servicios no consistía únicamente en implantar herramientas. Consistía en establecer reglas, responsabilidades, modelos operativos y mecanismos de gobierno que permitieran a la organización funcionar de forma coherente. Esa misma reflexión aparece ahora delante de nosotros, pero en un contexto completamente distinto.
Porque quizá el verdadero reto de la Inteligencia Artificial no sea construir agentes cada vez más inteligentes. Quizá el verdadero reto sea aprender a integrarlos dentro de estructuras organizativas que fueron diseñadas durante décadas para gestionar personas, servicios y tecnologías tradicionales… y eso nos lleva a una pregunta especialmente incómoda y “existencial”: Si un agente ya no es simplemente una aplicación, ni tampoco es exactamente un servicio… pero cada vez se parece más a una entidad capaz de actuar, decidir y generar impacto dentro de la organización… entonces, ¿Qué es exactamente lo que deberíamos acordar, medir y gobernar?
Porque sospecho que la respuesta ya no cabe dentro de un SLA tradicional… y precisamente por eso empiezo a pensar que necesitamos una nueva conversación. Una que no se centre únicamente en la calidad del servicio prestado, sino también en la calidad del comportamiento esperado… una que no hable solamente de disponibilidad y rendimiento, sino también de autonomía, límites, responsabilidad, riesgo y valor generado. Una conversación que, probablemente, termine llevándonos hacia algo que todavía no existe de manera formal en la mayoría de las organizaciones, pero que me atrevería a apostar que acabará llegando antes de lo que imaginamos: Los “AI Agent Level Agreements”.
¿Cómo implementar un ALA en la práctica?
Hasta aquí hemos hablado del concepto, pero si algo he aprendido durante años trabajando en transformación organizativa es que toda buena idea termina enfrentándose a la misma pregunta: «Vale JuanMa, suena muy bien… ¿y ahora cómo lo implemento?» …y sinceramente creo que esa es la pregunta correcta.
Porque un ALA no debería convertirse en otro documento corporativo que nadie lee, otro Excel perdido en una carpeta o una política de cincuenta páginas que solo se consulta cuando algo sale mal. Si los ALAs llegaran a existir de manera formal dentro de las organizaciones, deberían convertirse en una herramienta de gobierno viva, integrada en la operación y vinculada directamente a la forma en la que gestionamos agentes durante todo su ciclo de vida.
…y bueno, estoy convencido de que aquí es donde aparece una conexión innegable y especialmente interesante con #LaGuíaESM y con la metodología A.R.T.E. ¿Por qué? Pues, porque, en realidad, implantar ALAs no sería un proyecto de Inteligencia Artificial. Sería un proyecto de gobierno y gestión… y eso cambia completamente la perspectiva (ya lo sabes, no?).
Lo primero que debería hacer una organización no sería definir métricas. Tampoco desplegar tecnología, ni mucho menos empezar construyendo agentes porque el mercado está hablando de ellos. Lo primero sería responder a una pregunta muy sencilla:
¿Dónde tiene sentido incorporar agentes dentro de nuestro modelo operativo?
…y claro, parece una pregunta obvia (para ti que todo lo sabes, jeje), pero sospecho que durante los próximos años veremos muchas organizaciones haciendo exactamente lo contrario… ya verás como primero construirán agentes, y después buscarán problemas para asignarles.
Ya hemos visto esa película unas cuantas veces con otras tecnologías… y rara vez termina bien (aunque te cueste admitirlo). Por eso, antes de hablar de ALAs, lo primero sería identificar claramente qué procesos, servicios o capacidades podrían beneficiarse realmente de la participación de agentes inteligentes… porque, bueno, en realidad, no todos los procesos necesitan IA, ni todos los servicios necesitan autonomía, ni todos los problemas necesitan agentes (aunque te haga ilusión y te sientas super innovador por proponerlo) …y reconocer eso también forma parte de una buena estrategia.
Una vez identificado el caso de uso aparece el siguiente paso: definir el papel organizativo del agente… y aquí es donde creo que muchas organizaciones van a descubrir algo interesante, ya que un agente no debería verse como una herramienta. Debería verse como un actor operativo.
Es decir, igual que definimos funciones y responsabilidades para una persona (a veces incluso lo hacemos bien), deberíamos definir funciones y responsabilidades para un agente. ¿Cuál es su misión? ¿Sobre qué proceso interviene? ¿Quién es su propietario? ¿Qué autoridad tiene asignada? ¿Qué riesgos asume? ¿Qué valor debe generar? …fíjate que todavía no hemos hablado de prompts, modelos, tokens o plataformas… seguimos hablando de gobierno, y claro, esto no es casualidad.
Personalmente imagino un ALA funcionando como una especie de ficha de gobierno asociada al agente. Un documento vivo que permita responder rápidamente preguntas fundamentales sobre su comportamiento esperado. Preguntas como ¿Qué objetivo persigue? ¿Qué datos utiliza? ¿Qué acciones puede ejecutar? ¿Qué decisiones puede tomar? ¿Qué decisiones debe escalar? ¿Qué métricas lo evaluarán? ¿Qué riesgos se consideran aceptables? ¿Quién es responsable de supervisarlo? ¿Cada cuánto tiempo será revisado?… y ya sabes, muchísimas más.
Si te das cuenta, verás que muchas de estas preguntas se parecen enormemente a las que ya utilizamos cuando diseñamos servicios, procesos o modelos de gobierno… y precisamente por eso creo que #LaGuíaESM proporciona una base tan sólida para este tipo de iniciativas. Porque una organización que ya dispone de gobierno, catálogo de servicios, gestión por procesos, mecanismos de medición y una estructura operativa clara parte con muchísima ventaja sobre otra que intenta introducir agentes en medio del caos.
De hecho, me atrevería a afirmar algo que quizá no resulte especialmente popular, pero es difícil caerle bien a todos, jejeje. Yo pienso que antes de implantar agentes inteligentes deberíamos ser capaces de gestionar correctamente nuestros servicios. Lo sé. No es una frase especialmente futurista. No vende muchas licencias. Pero creo sinceramente que es verdad… porque ya sabemos que automatizar el desorden sigue generando desorden. Solo que más rápido.
Entonces, una vez que el agente está definido y el ALA documentado, la siguiente gran responsabilidad consiste en supervisar su comportamiento durante la operación… y aquí es donde el ALA deja de ser un documento para convertirse en un instrumento de gestión.
Las organizaciones deberían monitorizar elementos tradicionales como disponibilidad o rendimiento, por supuesto. Pero también elementos mucho más interesantes: nivel de autonomía utilizado, calidad de las decisiones, volumen de escalaciones, excepciones generadas, errores detectados, desviaciones respecto a la política establecida, valor generado para el negocio, riesgos materializados… etcétera, etcétera.
Porque un agente que cumple técnicamente sus objetivos podría estar generando problemas organizativos importantes… y precisamente ahí es donde los modelos tradicionales empiezan a quedarse cortos.
Ya para terminar, pues aparece una fase que, curiosamente, suele olvidarse en muchas iniciativas de IA… “la revisión periódica” …y aquí creo que A.R.T.E. vuelve a tener mucho que aportar. Porque si algo defiende la metodología es que toda transformación debe medirse, optimizarse y evolucionar continuamente.
Un ALA no debería ser estático. La autonomía de un agente puede aumentar. Sus responsabilidades pueden cambiar. Los riesgos pueden evolucionar. Las necesidades del negocio pueden modificarse. Por lo tanto, el ALA también debería evolucionar. Exactamente igual que evolucionan los servicios, los procesos o los modelos de gobierno.
Podríamos resumir toda esta idea en una única frase: Un ALA no debería utilizarse para controlar agentes. Debería utilizarse para garantizar que los agentes evolucionan de forma alineada con los objetivos, riesgos y capacidades de la organización.
Porque al final del día, ese siempre ha sido el verdadero objetivo del gobierno. No controlar por controlar. Sino crear las condiciones necesarias para que las cosas evolucionen de forma segura, sostenible y aportando valor… y sospecho que, cuando los agentes se conviertan en un componente habitual de nuestras organizaciones, exactamente eso será lo que necesitaremos hacer con ellos.
Gracias por haber llegado hasta aquí. Estoy seguro de que podrás sacar mucho provecho de todo este planteamiento, y si tienes ganas de que nos pongamos “existenciales” y nos sentemos a filosofar, cuenta conmigo.
¡Espero que tengas una semana genial!✌🏻😊
