Esta entrada la publiqué originalmente en LinkedIn aquí.
El “International AI Safety Report 2026” (dirigido por Yoshua Bengio) es un estudio exhaustivo sobre las capacidades que podría llegar a desarrollar una IA y los riesgos que éstas conllevarían. Me he detenido en la sección sobre “Loss of control”, definida como ese escenario en el que una IA consigue operar fuera del control humano y donde retomar el control es muy costoso o incluso imposible, porque esta semana ha estado bastante presente en los medios la idea de IAs acabando con la humanidad.
Alarmismos aparte, una pérdida de control empieza mucho antes de la catástrofe: empieza cuando las organizaciones delegan capacidad de acción en estas IAs más rápido de lo que rediseñan sus mecanismos de comprensión, responsabilidad y parada.
Hay una analogía bastante directa con la “deuda técnica”. Podemos ganar velocidad para hoy aceptando compromisos que habrá que pagar después, con intereses, claro. Con la IA podemos hacer algo parecido: aumentar autonomía y alcance antes de haber construido la capacidad organizativa necesaria para comprender, supervisar, intervenir y detener lo que hemos delegado. A eso lo podríamos llamar “deuda de control”.
Y, como cualquier deuda, empieza a cobrarnos cuotas desde el primer día. Decisiones que cada vez menos personas saben reconstruir, excepciones que requieren supervisión adicional, capacidades humanas que dejamos de ejercitar, nuevas dependencias del sistema. Si seguimos aumentando la autonomía sin amortizar esa deuda, recuperar capacidad de gobierno será progresivamente más costoso.
Aquí hay además una pequeña trampa para las organizaciones obsesionadas con eliminar fricción: algunos checkpoints, restricciones y redundancias que parecen ineficiencia son precisamente elementos de control. Si medimos el éxito de la adopción por autonomía conseguida, tareas eliminadas o tiempo ahorrado, podemos terminar premiando la acumulación de esa deuda.
El informe es larguísimo, incluso sólo este apartado, pero merece la pena. El link te lleva a él directamente:
🔗 https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026#2.2.2.
