La IA no está modernizando al Estado: está reemplazando deliberación por velocidad, oficio por algoritmo y responsabilidad por opacidad. Un sistema puede volverse más eficiente y, al mismo tiempo, dejar de gobernar.
Hoy existe una confusión habitual —y demasiado cómoda— en el debate público actual: asumir que modernizar instituciones es simplemente automatizarlas, y que incorporar inteligencia artificial equivale, por defecto, a progreso. Esta idea se repite sin mayor fricción en discursos oficiales, consultorías, hojas de ruta digitales y presentaciones de proveedores tecnológicos, como si no admitiera discusión alguna.
Sin embargo, hay evidencia que apunta en la dirección contraria. Lejos de fortalecer a las instituciones, la IA, está debilitándolas en su esencia. Hace unos días llegó a mis manos el interesante y provocador paper How AI Destroys Institutions, de Woodrow Hartzog y Jessica Silbey, ambos académicos de la facultad de derecho de la Universidad de Boston, va aún mas lejos
Civic institutions—the rule of law, universities, and a free press—are the backbone of democratic life. They are the mechanisms through which complex societies encourage cooperation and stability, while also adapting to changing circumstances. The real superpower of institutions is their ability to evolve and adapt within a hierarchy of authority and framework for roles and rules while maintaining legitimacy in the knowledge produced and action taken. Purpose- driven institutions built around transparency, cooperation, and accountability empower individuals to take intellectual risks and challenge the status quo. This happens through the machinations of interpersonal relationships within those institutions, which broaden perspectives and strengthen shared commitment to civic goals.
Unfortunately, the affordances of AI systems extinguish these institutional features at every turn. In this essay, we make one simple point: AI systems are built to function in ways that degrade and are likely to destroy our crucial civic institutions. The affordances of AI systems erode expertise, short- circuit decision-making, and isolate people from each other. They are anathema to the kind of evolution, transparency, cooperation, and accountability that give vital institutions their purpose and sustainability. In short, current AI systems are a death sentence for civic institutions, and we should treat them as such.
No estamos ante simples fallas de implementación, ni frente a una carencia regulatoria pasajera o a una supuesta “inmadurez digital”. El problema es más profundo. La lógica que estructura los sistemas de IA choca de frente con la lógica sobre la cual se sostienen las instituciones públicas.
El provocativo documento de Hartzog y Silbey, en el cual se plantean algunos juicios bastante disruptivos, sobre los cuales sería bueno abrir un debate serio, que creo debería ser pronto ya que la IA está AQUI, de lo contrario va a ser muy tarde.
Las instituciones no existen para ser eficientes
Uno de los errores centrales del enfoque tecnocrático es evaluar a las instituciones con métricas propias de plataformas digitales: velocidad, costos marginales, escalabilidad. Ese marco es cómodo, medible y vendible, pero equivocado, o al menos no del todo completo.
- Las instituciones no existen para optimizar procesos. Existen para producir legitimidad en contextos complejos.
- Un tribunal no es mejor por cuán rápido falla, sino porque sus decisiones pueden explicarse, revisarse y aceptarse incluso por quienes resultan perjudicados.
- Una universidad no está para emitir títulos en serie, sino para transmitir conocimiento entre generaciones, formar criterio y sostener el disenso informado.
- Los Servicios Públicos no son una línea de producción de trámites, sino un entramado de reglas, responsabilidades y aprendizaje organizacional.
La IA, en cambio, premia exactamente lo contrario: respuestas inmediatas, decisiones opacas, reducción del conflicto y desplazamiento del juicio humano.
La destrucción silenciosa del oficio
He planteado con anterioridad, una idea que hoy se vuelve imposible de ignorar: la IA no elimina empleos en primer lugar; automatiza tareas.
Cuando el criterio profesional es reemplazado por una recomendación algorítmica, lo que se pierde no es la persona, sino el proceso mediante el cual esa persona aprende, se equivoca, corrige y transmite experiencia. La expertise deja de ser un activo colectivo y pasa a ser un estorbo difícil de justificar. Esto es especialmente grave en el sector público, donde el conocimiento no es individual, sino institucional. Sin transferencia de saber, sin fricción entre pares, sin deliberación jerárquica, la institución pierde memoria y capacidad adaptativa. Puede seguir funcionando, pero ya no aprende.
Automatizar siempre es decidir (aunque se lo niegue)
Otro punto clave suele pasar inadvertido: toda automatización es una decisión política disfrazada de solución técnica.
Cada regla codificada en un modelo, cada umbral, cada ponderación elimina un espacio donde antes existía deliberación humana. La IA no “asiste” la decisión: la toma por adelantado. Y lo hace sin contexto, sin responsabilidad y sin posibilidad de disentir o desobedecer. El resultado puede ser una administración más rápida, pero también más frágil. Menos explicable. Menos justa. Y, sobre todo, menos legítima.
Aquí aparece la paradoja central de la transformación digital contemporánea: cuanto más se automatiza la decisión, menos institucional es el resultado.
La ilusión persistente de la neutralidad tecnológica
Durante años se repitió que los sistemas eran neutrales y que los sesgos estaban en los datos. Hoy sabemos que eso no es cierto, pero hemos caído en una nueva ilusión: creer que, con suficiente “buen diseño”, la IA puede alinearse de manera natural con los valores institucionales.
La evidencia muestra lo contrario. La IA aplana jerarquías, diluye responsabilidades, reemplaza el conflicto por optimización y traduce decisiones morales en salidas técnicas. No es un error de diseño. Es una consecuencia directa de su arquitectura.
No estamos frente a una herramienta más potente, sino frente a una tecnología profundamente desinstitucionalizante.
El verdadero riesgo: Estados que funcionan, pero ya no gobiernan
El mayor peligro quizá no sea el colapso, sino algo más silencioso: instituciones que siguen operando, pero vaciadas de sentido. Estados que procesan trámites, universidades que producen papers, sistemas judiciales que emiten fallos… sin deliberación, sin aprendizaje, sin legitimidad social.
Ese es el escenario donde la democracia se vuelve administrativa, la política se reduce a gestión y el conflicto se interpreta como una anomalía del sistema.
- Modernizar no es acelerar.
- Digitalizar no es automatizar.
- Y gobernar no es optimizar.
La pregunta incómoda —y urgente— no es cómo incorporar más IA al Estado, sino:
¿Qué estamos dispuestos a sacrificar cuando lo hacemos?
La entrada ¿La IA y la ilusión tecnocrática? se publicó primero en Escritorio de Alejandro Barros.
Fuente: Alejandro Barros (¿La IA y la ilusión tecnocrática?).
