En esta ocasión traigo una entrevista en The McKinsey Podcast (publicada hace ya unos meses, en audio y en texto) con Alexis Krivkovich, quien codirige la práctica de “People & Organizational Performance” en McKinsey a nivel global y además lleva más de veinte años trabajando en transformación y diseño de grandes organizaciones. Por eso creo que su lectura de cómo la IA agéntica puede cambiar el diseño organizativo merece atención. Pero es más, también me ha parecido interesante por dos razones: primero porque hay varios puntos en los que coincidimos (y que ya he traído en entradas anteriores de esta serie “En tiempos de IA”), y segundo porque deja abierta una cuestión en la que creo que merece la pena detenerse: qué capacidades humanas seguirá necesitando la organización para comprender, cuestionar, intervenir y recuperar el sistema, y cómo garantizar que éstas continúen regenerándose.
Voy primero con las coincidencias.
La principal es que introducir agentes no consiste simplemente en automatizar tareas dentro de la organización que ya tenemos. Si cambia la división del trabajo entre personas y máquinas, entonces también tendrán que cambiar los workflows, los roles y el propio diseño organizativo. Es una idea que ya traté en “Reconfigurar la organización para la IA agéntica”. Por otro lado, la entrevista también apunta a un desplazamiento del trabajo humano hacia el juicio, la supervisión y la resolución de problemas, algo que conecta con cuestiones que ya señalé en “Producir más rápido exige organizaciones capaces de adaptarse” y en “Automatizar puede destruir capacidades que necesitaremos mañana”.
Hasta aquí, bastante de acuerdo.
El asunto que me ha llamado la atención es esta evolución que plantea Krivkovich desde el human in the loop hacia el human above the loop:
“If we get to a place where teams of AI agents are able to do most, if not the entire core process, the human’s role becomes judgment on top.”
Es decir, los agentes pueden llegar a ejecutar prácticamente todo el proceso y las personas concentrarse en juzgar el resultado.
Ahí veo un problema: no basta con reservar a las personas el juicio y la supervisión. La organización debería seguir siendo capaz de regenerar las capacidades humanas que hacen posibles ese juicio y esa supervisión. Y es que buena parte de ese juicio se ha desarrollado precisamente participando en el trabajo. Al delegar progresivamente esa experiencia, estamos activando un bucle de refuerzo (un círculo vicioso):
más capacidad de los agentes → más delegación → menos experiencia humana relevante → menor capacidad para supervisar e intervenir → mayor dependencia de los agentes → más delegación.
Una organización podría conservar durante años suficientes expertos para supervisar sus agentes mientras consume el stock de experiencia acumulada y debilita el mecanismo que permite renovarla. De hecho, en la propia entrevista detectan el problema: “Judgment is developed over time”. Krivkovich lo reconoce como “the billion-dollar question” y plantea reforzar aprendizaje y desarrollo de capacidades. Y aquí es donde discrepo fundamentalmente, porque creo que el problema es más sistémico que formativo. Esto no se resuelve impartiendo cursos o manteniendo artificialmente a personas haciendo trabajos que los agentes realizan mejor. Algunas capacidades dejarán de ser necesarias y otras podrán desarrollarse de formas nuevas. Una organización puede tener manuales, expertos nominales, mecanismos de escalado y personas autorizadas para intervenir y, sin embargo, haber perdido la capacidad efectiva de operar sin los agentes debido a ese bucle de refuerzo que irá siendo erosionada quizás sin darnos cuenta hasta que suceda alguna situación –normalmente una crisis– que requiera de criterio humano. Por lo tanto, el problema de diseño es qué capacidades humanas seguirá necesitando la organización para comprender, cuestionar, intervenir y recuperar el sistema, y cómo garantizar que continúen regenerándose.
En dinámica de sistemas, un bucle de balance actúa así: detecta la distancia entre el estado actual y el que queremos mantener y provoca acciones para reducirla. Es lo que hacemos, por ejemplo, al regular la temperatura de una ducha: si el agua está demasiado fría añadimos agua caliente; si nos pasamos, corregimos deliberadamente en sentido contrario hasta acercarnos a la temperatura deseada. Necesitamos, por tanto, un bucle de balance que limite al anterior bucle y ayude a detectar cuándo se deterioran capacidades que seguimos necesitando y generar así, deliberadamente, las experiencias necesarias para reconstruirlas.
Como con la temperatura del agua, primero necesitamos una referencia: qué capacidades humanas queremos conservar y hasta qué nivel. Cuando la capacidad disponible se aleja de esa referencia, la diferencia debería activar una respuesta deliberada que compense la dinámica anterior. Por tanto, este bucle debería medir algo más parecido a “¿podemos todavía hacerlo?” que a “¿tenemos documentado cómo hacerlo?”.
Podríamos formular ese bucle así:
menos capacidad humana disponible → mayor distancia respecto a la capacidad que queremos conservar → más experiencias deliberadamente diseñadas para desarrollarla → más experiencia y juicio → mayor capacidad humana disponible → menor distancia respecto al nivel deseado.
El primer bucle empuja progresivamente a delegar más y participar menos; este segundo introduce una fuerza en sentido contrario cuando esa delegación empieza a erosionar capacidades que todavía necesitamos. Pretende, pues, evitar que deleguemos también, inadvertidamente, nuestra capacidad futura para comprender, cuestionar o intervenir en aquello que hemos delegado.
Esas experiencias deliberadas pueden adoptar formas muy distintas: revisar una muestra de decisiones aparentemente correctas, trabajar sobre excepciones, enfrentar periódicamente a personas y agentes al mismo problema, simular situaciones adversas o comprobar que seguimos siendo capaces de recuperar un proceso cuando los agentes dejan de estar disponibles.
Como diría Peter Senge en “La Quinta Disciplina”:
Las organizaciones que aprenden son aquellas donde las personas expanden continuamente su capacidad para crear los resultados que realmente desean, donde se nutren patrones de pensamiento nuevos y expansivos, donde se libera la aspiración colectiva y donde la gente aprende continuamente a aprender todos juntos.
Pero, ojo, porque este diseño tiene un coste. Mantener esas experiencias consume tiempo y recursos y, visto exclusivamente desde la productividad, algunas parecerán redundantes. Eliminar toda esa redundancia puede significar eliminar también el mecanismo mediante el que conservamos la capacidad de intervenir cuando el funcionamiento ordinario deja de serlo. Por eso he puesto tanto énfasis en la palabra “deliberadamente”, porque debe formar parte del diseño de la organización.
En el fondo, de lo que estamos hablando es de resiliencia organizativa: de conservar capacidad efectiva para responder cuando el sistema sale de las condiciones para las que fue diseñado. En una organización agéntica, esa resiliencia tampoco puede darse por supuesta. Habrá que diseñarla.
El enlace a la entrevista: 🔗 https://www.mckinsey.com/capabilities/people-and-organization/our-insights/ai-is-everywhere-the-agentic-organization-isnt-yet