El conocimiento como condición de legitimidad del poder, o la inteligencia del gobierno

I. El radar

Hace poco, los tribunales italianos comenzaron a anular numerosas multas de tránsito. No porque los conductores hubieran respetado necesariamente los límites de velocidad, sino por una razón más elemental y más grave: los aparatos empleados para acreditarla habían sido aprobados administrativamente, pero no homologados conforme a la exigencia legal que los jueces consideraron aplicable. La distinción puede parecer bizantina. Es exactamente lo contrario: el ordenamiento se negó a aceptar que la venia de una autoridad equivaliera a la acreditación de que el instrumento conoce verdaderamente lo que dice conocer. Durante décadas, el Estado había sancionado con aparatos cuya capacidad de medir nunca superó ese examen.

La noticia pasó casi inadvertida. Parecía un tecnicismo administrativo. Es, en realidad, una de las lecciones jurídicas más importantes de nuestro tiempo, porque los jueces italianos formularon —quizá sin advertir todo su alcance— un principio que desborda por completo el tránsito vehicular: el poder no puede imponer consecuencias jurídicas mediante un instrumento cuya capacidad de conocer no haya sido previamente acreditada.

Detengámonos en lo que ese principio supone. La velocidad de un automóvil es una de las realidades más simples que existen: una magnitud física, objetiva, medible con precisión matemática. Y sin embargo, para sancionar con base en ella, el ordenamiento exige homologar el aparato: verificar públicamente que conoce lo que afirma conocer.

Ahora comparemos.

Un contribuyente descubre una mañana que su cuenta bancaria ha sido congelada. Nadie cometió un error: un sistema lo clasificó como «riesgo». Una madre recibe la notificación de que su prestación social queda suspendida: un modelo detectó una «anomalía» en su expediente. Un pequeño comerciante ve rechazadas sus facturas: sus operaciones no alcanzaron el umbral de «materialidad». Un ciudadano encuentra eliminada su publicación: el contenido fue calificado como «desinformación». Un viajero es apartado de la fila en el aeropuerto: su perfil coincidía con un «patrón».

En ninguno de estos casos se le imputa un acto. Se le imputa una categoría.

Y aquí surge la pregunta que este ensayo quiere plantear con toda la seriedad que merece: si el Estado exige homologación para un aparato que mide kilómetros por hora, ¿quién ha homologado los instrumentos con los que pretende medir el riesgo, la peligrosidad, la confiabilidad o la materialidad de una conducta? ¿Qué examen han superado esas categorías para producir efectos jurídicos sobre personas concretas? La velocidad, al menos, existe en el orden físico y puede medirse. ¿En qué orden de realidad existe la «peligrosidad»? ¿Con qué instrumento se mide la «confiabilidad» de un hombre?

La tesis de estas páginas puede enunciarse desde ahora, y no es una tesis sobre tecnología, sino un principio de teoría del Estado: ningún poder puede ser legítimo si el conocimiento sobre el que actúa no ha sido previamente justificado conforme a la naturaleza del objeto conocido. Antes de preguntar quién gobierna, el derecho preguntó siempre cómo conoce el poder aquello sobre lo que gobierna; y ningún conocimiento legitima si no es verdadero, porque la verdad no consiste en la coherencia de un procedimiento, sino en la adecuación del entendimiento con la realidad. La homologación del conocimiento es condición de legitimidad del poder. Y las categorías con las que hoy gobiernan los sistemas automatizados no han superado —ni pueden superar en su forma actual— ese examen.

Para demostrarlo hay que remontarse al origen. Porque el problema no comenzó con las computadoras.

II. De la prudencia al procedimiento

Durante siglos, la civilización occidental tuvo por evidente que gobernar era, ante todo, un acto de inteligencia. No de una inteligencia cualquiera: de aquella que juzga lo que debe hacerse aquí y ahora, respecto de personas concretas, en circunstancias que no se repiten jamás. La tradición la llamó prudencia, y la definió con exactitud lapidaria: recta ratio agibilium, la recta razón de lo que ha de obrarse.

Conviene entender bien qué significa esto, porque la palabra «prudencia» ha sido degradada por el uso moderno hasta significar apenas cautela o timidez. Nada más lejos de su sentido original. La prudencia es la virtud por la cual la inteligencia desciende desde los principios universales hasta el caso singular sin perderse en el camino. La ley dice que debe castigarse al ladrón; la prudencia reconoce si este hombre, en estas circunstancias, robó verdaderamente, y qué pena le es debida. Ninguna ley, por perfecta que sea, puede prever la infinita variedad de lo real. Entre la universalidad de la norma y la singularidad del caso hay siempre una distancia que solo el juicio puede recorrer. Ese juicio no es un defecto del sistema jurídico que convenga eliminar: es el acto mismo en que la justicia se realiza. Porque la justicia no consiste en aplicar reglas, sino en dar a cada uno lo suyo; y «cada uno» es siempre alguien singular.

La modernidad emprendió, lentamente, el camino inverso. Comenzó a ver en el juicio del gobernante no la garantía de la justicia sino la fuente de la arbitrariedad. Si el juicio humano puede errar —se razonó—, reduzcamos al mínimo la necesidad de juzgar. Que decida la regla, no el hombre. Primero fue la razón de Estado, que emancipó el cálculo político de la medida de la justicia; después vinieron los procedimientos administrativos, las burocracias especializadas y, más tarde, los indicadores, los protocolos, las matrices de cumplimiento. Cada etapa se presentó como un progreso contra el error humano. Y en cada etapa, el buen funcionario dejó de ser el que juzgaba rectamente para convertirse en el que seguía correctamente el procedimiento.

Nadie proclamó nunca la abolición de la prudencia. No hizo falta. Bastó con que la pregunta cambiara: donde antes se preguntaba qué es justo hacer en este caso, comenzó a preguntarse cuál es el procedimiento aplicable. Son dos preguntas de naturaleza distinta. La primera se dirige a la realidad; la segunda, al expediente.

El algoritmo no inaugura este proceso: lo consuma. Es el procedimiento llevado a su perfección formal: capaz de ejecutarse automáticamente y de producir resultados a los que la autoridad atribuye efectos de decisión, sin que ningún sujeto parezca asumir ya enteramente el acto de juzgar. Si el procedimiento quiso reducir el espacio del juicio humano, el algoritmo aspira a suprimir hasta la conciencia de que hay algo que juzgar. Por eso la inteligencia artificial no es una ruptura: es la herencia legítima de una transformación anterior, la que identificó la corrección formal del proceso con la justicia de la decisión. Esa identificación tuvo incluso su formulación científica: una teoría que se proclamó pura precisamente porque había vaciado al derecho de justicia, reduciendo la validez de la norma a su pedigrí formal. Una norma válida solo por su forma es ya, en rigor, un algoritmo escrito en papel; la máquina no ha hecho más que ejecutarlo a velocidad electrónica. La técnica no creó ese presupuesto. Lo recibió ya hecho.

Pero al consumar el proceso, el algoritmo hizo visible algo que permanecía oculto: que en el camino no solo cambió quién decide. Cambió el objeto mismo sobre el que se decide.

III. El Estado de clasificación

El derecho clásico juzgaba actos. Preguntaba: ¿qué hizo esta persona? Y toda su arquitectura —la prueba, el testimonio, la contradicción, la presunción de inocencia— estaba ordenada a reconstruir un hecho antes de atribuir una consecuencia. El acto podía ser difícil de probar, pero pertenecía al orden de lo real: había ocurrido o no había ocurrido.

El gobierno algorítmico pregunta otra cosa: ¿a qué categoría pertenece esta persona, y qué cabe esperar estadísticamente de quienes se le parecen?

La diferencia parece sutil. Es abismal. El acto humano es una realidad concreta, individual, imputable a su autor. El perfil es una abstracción construida agregando datos de multitudes: no describe lo que alguien hizo, sino lo que el sistema considera probable respecto de él. Cuando el perfil sustituye al acto como fundamento de la decisión pública, el ciudadano deja de comparecer ante el Estado como autor de una conducta y comienza a comparecer como portador de una probabilidad.

Vuelva el lector a las escenas del comienzo. El contribuyente de la cuenta congelada no fue acusado de defraudar: fue clasificado como riesgo. La madre de la prestación suspendida no fue oída antes de la suspensión: fue detectada como anomalía. A ninguno se le reconstruyó un hecho. A ambos se les asignó una categoría, y la categoría produjo por sí sola la consecuencia jurídica. La sospecha estadística empezó a comportarse como prueba; el indicador, como indicio; la probabilidad, como hecho consumado.

Y obsérvese la inversión que esto produce, porque es quizá el síntoma más grave. Durante siglos, era el Estado quien debía justificar por qué una circunstancia del ciudadano resultaba jurídicamente relevante. Hoy es el ciudadano quien debe demostrar que la clasificación no lo refleja. La carga del juicio ha cambiado de dirección: el poder ya no parte de los hechos para llegar a la categoría; parte de la categoría y exige al individuo probar su insuficiencia. Cualquier abogado que haya intentado desbloquear una cuenta congelada «por el sistema» conoce esta inversión en carne propia: no se litiga contra una acusación, se litiga contra una etiqueta. Y contra una etiqueta no hay careo posible.

Cuando el afectado pregunta por qué, recibe una respuesta que se ha vuelto fórmula de época: el sistema lo detectó. La frase merece atención, porque en ella la decisión aparece sin autor. Y merece otra más: exige del ciudadano un asentimiento sin razones exhibibles, un género de fe que solo se debe a quien no puede engañarse ni engañarnos. Cuando un poder humano lo reclama para sus veredictos, no ejerce autoridad: la usurpa. Pero ningún sistema decide. Alguien eligió las variables; alguien fijó los umbrales; alguien definió qué contaría como «normal» y qué como «anómalo». Y antes todavía, alguien juzgó qué fragmento de la realidad merecía convertirse en dato. Porque no existen datos puros: todo dato es el residuo de una selección, hecha conforme a una determinada comprensión previa de lo real. Lo que el sistema llama «dato» es ya el resultado de un juicio —solo que de un juicio que nadie firmó—. La discrecionalidad no ha desaparecido: se ha desplazado hacia atrás, hacia el momento del diseño, donde se ejerce sobre millones de casos a la vez y donde ningún recurso administrativo alcanza a discutirla. El funcionario que firma tiene hoy menos margen que nunca; el arquitecto de la categoría tiene más poder que ningún funcionario de la historia. No decide un expediente: decide cómo serán comprendidos todos los expedientes.

El Estado liberal gobernó mediante leyes; el Estado administrativo, mediante procedimientos; el Estado regulatorio, mediante estándares. El Estado digital comienza a gobernar mediante clasificaciones. Esto es lo que cabe llamar, con propiedad, el Estado de clasificación: aquel que ya no gobierna principalmente mediante órdenes ni mediante leyes, sino mediante las categorías que determinan de antemano qué verá el poder, qué considerará relevante y qué permanecerá invisible. A decir verdad, la operación es más antigua que las computadoras: el Estado moderno nació sustituyendo hombres concretos —el padre, el vecino, el artesano— por abstracciones homogéneas: el individuo, el contribuyente, el administrado. El algoritmo no inventó esa mirada; la ha llevado a su resolución máxima. Quien controla las categorías con las que la realidad comparece ante la autoridad, condiciona todas las decisiones posteriores sin necesidad de dictar ninguna.

Pues bien: es exactamente aquí donde el principio del radar italiano despliega toda su fuerza.

IV. La homologación del conocimiento

Homologar un instrumento de medición significa acreditar públicamente tres cosas: que la magnitud que dice medir existe; que el método empleado es capaz de alcanzarla; y que alguien responde de la medición ante quien la sufre. Nada de esto es un capricho técnico. Es la traducción administrativa de una exigencia de la razón natural: nadie puede ser condenado sino con base en un conocimiento verdadero, y ningún conocimiento es verdadero sino cuando la inteligencia se adecua a la realidad tal como es. La verdad no es la coherencia interna de un cálculo: es la conformidad del entendimiento con el ser de las cosas. Un procedimiento puede ser impecablemente consistente consigo mismo y enteramente falso respecto de la realidad.

Apliquemos entonces el triple examen a las categorías con las que hoy decide el poder.

Primer examen: ¿existe la realidad que la categoría dice nombrar? La velocidad existe: es una magnitud del orden físico. Pero ¿qué realidad nombra la «peligrosidad» de una persona que no ha hecho nada? El derecho clásico conocía el peligro como cualidad de situaciones objetivas —el edificio que amenaza ruina, la sustancia que envenena—. La «peligrosidad» algorítmica, en cambio, no es una cualidad del sujeto: es una correlación entre los datos del sujeto y los datos de otros sujetos. No está en el hombre clasificado; está en la comparación estadística que lo envuelve. Se le atribuye como propia una propiedad que solo existe en el agregado. Es, hablando con rigor, atribuir a la sustancia lo que solo pertenece a la relación de cantidad. El primer examen ya arroja una advertencia: buena parte de las categorías del gobierno algorítmico no nombran realidades del sujeto, sino construcciones sobre el sujeto.

Segundo examen: ¿es el método proporcionado a la naturaleza del objeto?* Aquí reside el núcleo filosófico de todo el problema, y conviene formularlo con la mayor claridad posible. No toda realidad puede conocerse del mismo modo. La escuela lo enseñó con precisión técnica: los saberes no se distinguen por su objeto material, sino por su objeto formal —por la razón bajo la cual alcanzan aquello que conocen—, y a cada objeto corresponde una proporción propia entre la potencia que conoce y lo conocido. La estadística y la prudencia pueden versar sobre la misma materia, la conducta humana; la alcanzan bajo razones formalmente irreductibles: aquella como frecuencia de una clase, esta como acto debido de una persona. Las magnitudes físicas se conocen midiendo, porque pertenecen al orden de la cantidad. El acto humano pertenece a otro orden: es la obra de una libertad, y su sentido no está en su materialidad exterior sino en el fin que lo mueve, el objeto que lo especifica y las circunstancias que lo rodean. El mismo movimiento exterior —entregar dinero— puede ser pago, préstamo, limosna, soborno o extorsión. Ninguna cámara distingue entre ellos; ninguna correlación estadística tampoco, porque la diferencia no es cuantitativa. La diferencia es de objeto y de fin. Y el fin no constituye una magnitud directamente mensurable: pertenece interiormente al agente, aunque pueda manifestarse y conocerse de modo indirecto por sus palabras, sus circunstancias, su conducta anterior y posterior. Así ha probado siempre el derecho el dolo, la simulación o el fraude: mediante un juicio racional sobre la totalidad del caso, no mediante la sola correlación cuantitativa.

La estadística puede conocer, y conoce admirablemente, las regularidades del comportamiento agregado: es un saber legítimo dentro de su orden. Lo que no puede es dar el salto del agregado al singular sin cambiar de naturaleza. Que el ochenta por ciento de quienes comparten cierto perfil incurra en una conducta puede modificar una estimación probabilística acerca de este hombre; lo que no puede es demostrar que él la haya realizado o la realizará, porque la frecuencia colectiva no constituye prueba del acto singular. Este hombre no es un porcentaje de sí mismo: es libre, y su acto futuro no existe todavía en ninguna parte de donde pueda extraerse por cálculo. Pretender medir la conducta futura de una persona libre no es un error de precisión que más datos corregirán: es un error de objeto. Se aplica el método de la cantidad a una realidad que no pertenece al orden de la cantidad.

Hay un modo escolástico de nombrar este error, y conviene nombrarlo porque ilumina todo lo demás. Las nociones con las que el derecho y la moral comprenden el obrar —el riesgo, el peligro, la buena fe, la gravedad, lo debido— no son unívocas: son análogas. No significan exactamente lo mismo en cada caso, sino algo proporcionalmente semejante, que solo el juicio puede reconocer en cada realización concreta. El algoritmo, en cambio, solo puede operar unívocamente: la variable ha de significar lo mismo en todos los casos, o el cálculo se vuelve imposible. Pretende, así, conocer mediante procedimientos unívocos realidades cuya inteligibilidad es analógica. La prudencia es, precisamente, la inteligencia de lo análogo; por eso ningún procedimiento puede sustituirla sin mutilar el objeto.

El radar, al menos, medía algo que era medible. El algoritmo que puntúa la confiabilidad de un hombre mide con toda exactitud algo que no es él.

Conviene medir toda la gravedad de lo que aquí se juega. Tratar la conducta futura de un hombre como magnitud calculable no es solo un exceso técnico: es negarle en el orden práctico aquello que lo constituye. La tradición lo dejó dicho al abrir su tratado del obrar humano: el hombre es imagen de Dios «en cuanto también él es principio de sus propias obras, como dotado de libre albedrío y de potestad sobre ellas» (S. Th., I-II, pról.). El perfil predictivo trata a la criatura racional como a un ser cuyo comportamiento se sigue de sus antecedentes con la necesidad propia de los cuerpos: le retira, prácticamente, el dominio de sus actos. No hace falta que el sistema niegue la libertad en teoría. Le basta con gobernar al hombre como si no la tuviera.

Tercer examen: ¿hay alguien que responda? La homologación del radar identifica un responsable: el fabricante certifica, el perito verifica, la autoridad responde. La decisión algorítmica, en cambio, fragmenta la responsabilidad exactamente en la medida en que fragmenta el juicio: quien diseñó el modelo no dictó el acto; quien dictó el acto no diseñó el modelo; quien cargó los datos no fijó los umbrales; y al final, «el sistema lo detectó». Pero un viejo principio de la tradición jurídica enseña que la autoridad se distingue del mero poder precisamente por el saber que la respalda: auctoritas es el saber socialmente reconocido; potestas, el poder socialmente reconocido. La autoridad, en su sentido clásico, no consiste en decidir: consiste en merecer ser creída; y solo merece ser creída quien conoce. Vista así, la crisis contemporánea del poder se deja nombrar con exactitud: no es una crisis de potestas, que nunca fue tan abundante; es una crisis de auctoritas, que nunca fue tan escasa. Cuando un gobierno aplica consecuencias graves sobre la vida, el patrimonio o la libertad de las personas basándose en categorías cuyo por qué no puede explicar con razones humanas respecto del caso singular, no se ha vuelto más objetivo: ha renunciado a la auctoritas en el acto concreto. No pierde por ello su existencia jurídica, pero compromete la justificación racional de la decisión singular; y el ejercicio de la potestad se vuelve entonces difícilmente distinguible de la mera fuerza administrativa revestida de neutralidad técnica.

El resultado del triple examen puede resumirse así: las categorías del gobierno algorítmico producen consecuencias jurídicas sin haber acreditado que la realidad que nombran existe, que el método que emplean es proporcionado a esa realidad, ni que alguien responde del conocimiento que afirman poseer. Son, en el sentido más estricto, instrumentos no homologados. Y si el ordenamiento anula la multa impuesta por un radar sin homologar, con razón infinitamente mayor debería negarse eficacia jurídica a la clasificación que congela un patrimonio, suspende un derecho o marca a un hombre, sin haber demostrado jamás que sabe lo que dice saber.

Adviértase que esta exigencia no condena la técnica. Un mapa no gobierna, pero ayuda a gobernar; un expediente no juzga, pero auxilia al juicio. Del mismo modo, un sistema estadístico puede legítimamente orientar la atención del poder —sugerir dónde mirar—, con tal de que nunca sustituya el juicio sobre lo mirado. La homologación del conocimiento traza precisamente esa frontera: todo instrumento es admisible como auxiliar de la prudencia dentro del orden de realidad que efectivamente conoce; ninguno lo es como sustituto del juicio fuera de él. No es una frontera tecnológica que el progreso desplazará. Es una frontera ontológica: la que separa el orden de la cantidad del orden del obrar humano.

Una precaución impide malentender el principio. Hablar de homologación del conocimiento no es trasladar la legitimidad política al terreno de los técnicos, como si un certificado bastara para justificar el poder, ni pedir a la tecnocracia que se certifique a sí misma. Es exactamente lo inverso. La homologación que aquí se exige no la otorga ningún laboratorio ni la decreta ninguna soberanía: la otorga o la niega la naturaleza del objeto conocido, que no está a disposición de nadie. Por eso es condición necesaria de la legitimidad, nunca suficiente: acredita que el poder puede conocer aquello sobre lo que decide; que decida además con justicia y en orden al bien común es examen ulterior, que ningún procedimiento aprueba en su lugar. Quien pretendiera que la certificación técnica basta habría reincidido en el error que estas páginas combaten: confundir la corrección del instrumento con la rectitud del juicio.

Podría objetarse, sin embargo, que semejante «homologación del conocimiento» es una exigencia nueva, una invención filosófica sin arraigo en el derecho positivo. La objeción merece una respuesta detenida. Porque ocurre exactamente lo contrario.

V. Un principio que el derecho siempre conoció

Una de las líneas fundamentales de la historia del proceso occidental puede leerse como un esfuerzo constante por determinar qué formas de conocimiento son aptas para fundar un juicio sobre otro hombre. No fue una línea recta —esa misma historia conoció la tortura judicial, la rigidez de la prueba tasada y los privilegios testimoniales—, pero fue una línea real, y en sus momentos más altos la civilización jurídica avanzó siempre en la misma dirección. Lo que aquí llamamos homologación del conocimiento no es una propuesta: es el nombre de esa dirección, que el derecho siguió durante siglos sin formularla nunca como principio general.

La tradición procesal romano-canónica fue construyendo esa exigencia pieza a pieza. El juez no podía conocer de cualquier manera ni por cualquier vía: conocía secundum allegata et probata, según lo alegado y probado, por medios que el propio ordenamiento acreditaba de antemano. La regla unus testis, nullus testis —incorporada al derecho romano tardío y desarrollada después por el derecho canónico y el ius commune— no significaba que un solo testigo fuese incapaz de decir verdad; significaba que el poder se negaba, por principio, a fundar consecuencias graves sobre una fuente aislada que no hubiera alcanzado el umbral jurídico de la prueba. El documento, el juramento, la inspección, la confesión: cada medio probatorio era, en rigor, un instrumento acreditado de conocimiento, con sus condiciones de admisión, su valor y su responsable identificable. Y sobre todos ellos, el juez, que respondía de su sentencia. Conocimiento acreditado, contradicción, juicio responsable: la estructura estaba ya ahí.

Pero el episodio más luminoso de esta historia es otro, y guarda con nuestro tiempo un paralelo que estremece. Durante siglos, Europa conoció un procedimiento que prometía exactamente lo que hoy promete el algoritmo: un veredicto sin las incertidumbres del juicio humano. Se llamaba ordalía. El acusado tomaba el hierro candente o era sumergido en el agua, y el resultado —la herida que sanaba o no sanaba, el cuerpo que flotaba o se hundía— declaraba la culpa o la inocencia. Nadie deliberaba. Nadie motivaba. Nadie respondía. El procedimiento producía el veredicto, y el veredicto se aceptaba porque se confiaba en el procedimiento.

La cristiandad terminó con aquello. El IV Concilio de Letrán, en 1215, prohibió la participación clerical y las bendiciones en las pruebas por agua o hierro; al retirarles la cooperación eclesiástica de la que dependía buena parte de su autoridad, precipitó su desaparición. En su lugar, la ciencia jurídica medieval edificó progresivamente el ordo iudiciarius: alegación, prueba racional, citación, contradicción, defensa, sentencia motivada por un juez que responde. El concilio no formuló una teoría de la prueba; hizo algo más eficaz: negó autoridad al rito. Pero aquel tránsito puede leerse legítimamente como lo que fue: una decisión civilizatoria según la cual el poder no debe imponer consecuencias graves mediante un procedimiento incapaz de ofrecer razones humanas susceptibles de examen.

Mírese ahora el algoritmo a esta luz. Un procedimiento opaco recibe al hombre, lo procesa conforme a reglas que él no conoce, y emite un veredicto —riesgo, anomalía, peligrosidad— que se acepta porque se confía en el procedimiento. Nadie delibera sobre su caso. Nadie motiva respecto de su singularidad. Nadie responde. La analogía no pretende ser una equivalencia histórica; señala algo más grave: una identidad de estructura. El gobierno algorítmico reproduce la forma de la ordalía —el veredicto sin razones, aceptado por confianza en el rito— con una diferencia que no lo excusa sino que lo agrava: la ordalía apelaba, al menos, al juicio de Dios, y aun así los teólogos terminaron viendo en ella una temeraria exigencia de milagro; el algoritmo apela al juicio de la correlación, que ni siquiera promete mirar al hombre singular. El derecho occidental ya se enfrentó una vez a esta forma de conocer, y le retiró su autoridad. El algoritmo todavía no ha encontrado su Letrán.

La misma convicción atraviesa el derecho penal. El principio nullum crimen sine lege, que la ciencia penal moderna formuló como reserva de ley, custodia una verdad muy anterior a él, elaborada por la teología moral y el derecho común cristiano: solo el acto voluntario es imputable, porque el hombre responde únicamente de aquello que procede de su razón y de su voluntad. La fórmula es moderna; la sustancia pertenece al patrimonio clásico y cristiano de la responsabilidad por el acto libre. El tipo penal describe una conducta, no una clase de personas. Por eso la ciencia penal rechazó siempre, como corrupción del derecho, el llamado derecho penal de autor: aquel que castiga al hombre por lo que es —vago, sospechoso, peligroso, enemigo— y no por lo que hizo. Los ordenamientos que lo ensayaron figuran entre los episodios más oscuros del siglo XX, y su condena es hoy patrimonio común de la civilización jurídica. Pues bien: cuando el perfil produce por sí mismo consecuencias adversas sin prueba individualizada, reproduce en el ámbito administrativo la lógica material del derecho de autor: el sujeto es tratado por lo que el modelo afirma que es, no por un acto jurídicamente acreditado. El patrimonio congelado, la prestación suspendida, la vigilancia reforzada no son formalmente penas; materialmente, gravan a un hombre por su pertenencia y no por su conducta. Y la presunción de inocencia, que es precisamente la prohibición de tratar a un hombre según la categoría antes de probarle el acto, queda vaciada por dentro mientras permanece intacta por fuera.

Y cuando el conocimiento técnico, legítimamente, debe entrar al proceso, el derecho contemporáneo lo somete a un régimen que es homologación pura: la prueba pericial. El perito debe acreditar su título; su método debe ser reconocido por la comunidad de su ciencia; su dictamen debe exponerse, puede ser refutado por otro perito y se somete a contradicción; y, sobre todo, el dictamen ilustra al juez sin sustituirlo: el saber especializado auxilia a la jurisdicción, pero no convierte al experto en su titular ni releva al juzgador de motivar por qué acepta o rechaza sus conclusiones. La configuración moderna de la prueba pericial es fruto de una evolución larga y desigual, pero su estructura expresa siempre la misma exigencia —acreditación del sujeto, validación del método, contradicción, subordinación al juicio—. La metrología legal que alcanzó a los radares italianos no es sino esta misma exigencia aplicada a los aparatos.

Reunamos ahora las piezas. En su línea más noble y constante, el derecho occidental ha impuesto al conocimiento cuatro condiciones para que pueda fundar el ejercicio del poder sobre un hombre: que verse sobre actos y no sobre pertenencias; que se adquiera por vías previamente acreditadas conforme a la naturaleza de lo conocido; que se exponga a la contradicción de aquel a quien afecta; y que culmine en el juicio motivado de alguien que responde. Cuatro condiciones, y el gobierno de clasificación las esquiva las cuatro: decide sobre pertenencias, por vías no acreditadas, sin contradicción posible, sin nadie que responda.

Por eso este ensayo no propone una innovación. Descubre un principio que el derecho aplicó siempre al conocimiento de los hechos físicos y de los hechos humanos, y que ahora exige ser extendido, con todo su rigor, al conocimiento algorítmico. La categoría estadística pretende entrar al derecho sin pasar por la única puerta por la que el derecho dejó entrar jamás a un conocimiento. La respuesta de la tradición es unívoca: por ahí no se entra.

Formulado el principio, sus consecuencias desbordan el problema que lo hizo visible, y conviene dejarlas enunciadas aunque su desarrollo exija otros trabajos. Si la homologación del conocimiento es condición de legitimidad del poder, entonces también el legislador queda sujeto a ella: una mayoría parlamentaria puede crear efectos jurídicos, pero no puede votar la realidad; la ley que atribuye consecuencias a una categoría que no nombra nada verdadero no es ordenación de la razón, sino fuerza revestida de forma, y la ontología no se somete a escrutinio de mayorías. Habría que preguntarse, entonces, si toda clasificación estatal con efectos sobre personas debe superar un control previo análogo al de la prueba pericial; si la carga de la prueba puede permanecer inalterada cuando el Estado gobierna mediante probabilidades; qué queda de la tipicidad cuando el tipo es sustituido por el perfil, y de la presunción de inocencia cuando lo imputado ya no es un acto sino una pertenencia estadística. Cada una de estas preguntas abre un capítulo del derecho público que está por escribirse. Todas derivan de un mismo tronco.

VI. Quién juzga

Queda entonces a la vista la verdadera cuestión de nuestro tiempo, que no es la que suele debatirse. Se discute la transparencia de los algoritmos, su explicabilidad, sus sesgos, la supervisión humana. Todo ello es razonable, y todo ello es insuficiente, porque presupone lo que había que examinar: que el procedimiento es, en principio, apto para la función que se le confía, y que solo hace falta perfeccionarlo. Imaginemos el sistema perfecto —transparente, auditado, matemáticamente exacto, sin sesgo alguno—. El problema permanecería intacto, porque el problema nunca fue la calidad del cálculo sino la naturaleza de lo calculado. Un cálculo matemáticamente perfecto sobre una realidad que no admite cálculo no es ciencia: es un error formalizado.

La justicia no consiste en producir decisiones, sino en reconocer lo debido a alguien. Y ese reconocimiento es un acto que compromete a quien lo realiza: un acto de inteligencia que es, inseparablemente, un acto moral. Por eso hay decisiones que pueden ser asistidas por procedimientos, decisiones que pueden ser enormemente mejoradas por la técnica, y decisiones que —precisamente porque son actos de justicia sobre personas concretas— no pueden dejar de ser prudenciales sin dejar de ser justas. No por limitación de las máquinas, sino por la naturaleza del acto: donde no hay nadie que juzgue, no hay nadie que responda; y donde nadie responde, no hay justicia, sino administración de categorías.

Alguien objetará, con razones que no deben despreciarse, que pedir prudencia al aparato estatal contemporáneo es pedir a la máquina lo que la máquina no puede dar; que el algoritmo no ha venido a pervertir un orden sano, sino a quitarle al Estado moderno su máscara humanista para mostrar el rostro mecánico que tuvo desde su origen. Puede ser. Pero la conclusión no cambia: la exigencia del juicio no es una nostalgia del Estado que fue ni una esperanza puesta en el que es; deriva de la naturaleza del acto humano y de la justicia, y por eso obliga a todo poder, cualquiera que sea su forma, y sobrevive a todos. Si el aparato contemporáneo resultara constitutivamente incapaz de juzgar, ello no lo relevaría de la exigencia: mediría, más bien, la magnitud de su ilegitimidad.

Los tribunales italianos, al anular aquellas multas, no hicieron filosofía. Hicieron algo mejor: recordaron que el poder debe rendir cuentas de su conocimiento antes de exigir obediencia a sus decisiones. Esa exigencia elemental, que la tradición romano-canónica practicó, que Letrán hizo prevalecer sobre la ordalía y que la prueba pericial mantiene viva, contiene todo un programa jurídico para el siglo que comienza: someter a homologación las categorías mismas con que el poder pretende conocer a los hombres, y negar eficacia a las que no acrediten poder conocer lo que dicen conocer.

Mientras esa homologación no se exija, el gobierno seguirá conociendo cada vez más y comprendiendo cada vez menos. Porque el peligro del gobierno algorítmico no es que las máquinas lleguen a cobrar conciencia. Es que los gobernantes la pierdan, delegando el acto moral de juzgar en el acto mecánico de calcular.

Y la pregunta final no será si las máquinas llegarán a pensar como los hombres, sino si los hombres que gobiernan seguirán pensando como gobernantes, o terminarán gobernando como si pensar consistiera únicamente en calcular.

En esa pregunta no se juega el futuro de la inteligencia artificial.

Se juega el futuro de la inteligencia del gobierno. ●