La última encíclica del papa León XIV, Magnifica Humanitas, no es un manifiesto teológico; es una advertencia existencial lanzada contra la línea de flotación de nuestra era. Al ubicar el debate de la inteligencia artificial en el terreno de la ontología y la condición humana, el Vaticano ha reubicado el problema donde verdaderamente pertenece. La técnica nunca ha sido neutral. Hoy, la verdadera encrucijada civilizatoria no se debate en los laboratorios de Silicon Valley, sino en una transición silenciosa e implacable: el paso de la Razón a la Red.
Occidente lleva siglos intentando anclar la moralidad en bases sólidas. Aristóteles lo hizo en la formación del carácter orientado al florecimiento humano (eudaimonía); Kant, en la autonomía de una voluntad racional capaz de legislar mediante el imperativo categórico. Sin embargo, los algoritmos de aprendizaje profundo (deep learning) están disolviendo esos cimientos mediante una sutil pero agresiva atrofia del juicio. Corremos el riesgo de aceptar un reduccionismo peligroso: asumir que, porque una IA optimiza con éxito la sintaxis de millones de datos, comprende la semántica de la justicia. Una máquina calcula, pero no comprende; ejecuta, pero es incapaz de experimentar el peso de la responsabilidad moral. La moral requiere agencia consciente; el silicio solo ofrece velocidad.
Esta delegación ciega de nuestra autonomía evoca la advertencia más perturbadora de Hannah Arendt: la banalidad del mal. El peligro contemporáneo ya no es el burócrata gris del siglo XX que justificaba la catástrofe bajo el lema “solo seguía órdenes”. El burócrata del siglo XXI es el usuario, el político o el desarrollador que abdica de su conciencia diciendo: “solo seguía el algoritmo”. Al fragmentarse la responsabilidad en complejas e invisibles redes automatizadas, se genera una apatía moral donde los sesgos y los contenidos manipulados (deepfakes) se aceptan como parte de una rutina técnica. Caemos así en la incapacidad de pensar (thoughtlessness) que Arendt identificó como la raíz del horror estructural.
El primer síntoma de esta atrofia radica en la opacidad epistémica que el usuario contemporáneo acepta hoy con docilidad. Al delegar el discernimiento a sistemas cuyos procesos lógicos internos resultan inescrutables, no solo ignoramos el origen del dato, sino que renunciamos a la naturaleza misma del juicio crítico. Consumimos conclusiones automáticas como si fueran revelaciones, convirtiendo la confianza técnica en un dogma ciego que anula la necesidad de verificar la verdad.
Es urgente, por tanto, desmontar la ilusión de la justicia algorítmica. Los creadores de software pretenden vender una neutralidad matemática que es, en esencia, inexistente: un modelo entrenado con la historia de nuestras imperfecciones no hace más que codificar, de manera aséptica y permanente, los sesgos y exclusiones del pasado. La equidad no es un problema de optimización de variables, sino una constante disputa humana que el frío cálculo jamás podrá resolver.
Por ello, la verdadera transformación de la “algorética” no exige mejores procesadores, sino un diseño centrado en lo humano. La arquitectura digital vigente no fue concebida para expandir la libertad del espíritu, sino para colonizar y monetizar el tiempo de atención del usuario. Si la técnica no redefine sus fundamentos éticos desde su propia concepción —priorizando el crecimiento cognitivo y el respeto a la dignidad sobre los monopolios de la eficiencia corporativa— la Red seguirá devorando al individuo.
Frente a esta parálisis, las páginas de Magnifica Humanitas dialogan con la “ética de la razón cordial” propuesta por la filósofa Adela Cortina. El tejido social y la convivencia cívica no pueden descansar sobre un procedimentalismo frío o sobre líneas de código que simulen la equidad. El discernimiento verdadero requiere un reconocimiento intersubjetivo basado en la empatía y en el corazón lúcido (kardía). No se puede legislar sobre lo justo sin un tejido afectivo que reconozca la dignidad del otro; una virtud que jamás emergerá de una base de datos.
Es aquí donde las tesis de Yuval Noah Harari encienden las alarmas. El ser humano ha dominado el planeta gracias a su capacidad para cooperar mediante “ficciones compartidas”. La gran amenaza de la IA no es que adquiera conciencia, sino su poder inédito para empaquetar, manipular y propagar estas ficciones a escala masiva. En las redes de información, el propósito primordial es la conexión y la eficiencia, no la representación de la verdad. Al saturar el espacio público con narrativas falsas altamente sofisticadas, la IA erosiona el suelo común sobre el cual construimos nuestros juicios morales. Las máquinas nos conectan en una red inmensa, pero nos desconectan del prójimo.
La “algorética” de la que habla el texto papal, por tanto, no puede reducirse a un simple parche de programación ni a un lavado de cara deontológico en los códigos corporativos. Debe ser un compromiso antropológico radical. Así como Cervantes usó la locura de Don Quijote como un disfraz de bufón para burlar la censura y golpear las estructuras de poder de su tiempo, la filosofía actual debe usar la sospecha crítica para desmantelar el dogma de la infalibilidad tecnológica.
Respaldar el arte de cuestionar las certezas es hoy nuestro principal acto de resistencia. Habitar la duda, no escapar de ella. La inteligencia artificial devorará el conocimiento acumulado de los siglos, pero es intrínsecamente incapaz de engendrar la sabiduría necesaria para gestionarlo. El veredicto ético es inapelable: la técnica debe estar al servicio de la persona, y no al revés.
En un mundo encandilado por la velocidad de la Red, nuestra única salvación consiste en salvaguardar, con lucidez y coraje, la soberanía de la Razón. Porque, a fin de cuentas, la última trinchera de nuestra resistencia no reside en la perfección del algoritmo, sino en la profundidad del espíritu; una verdad que León XIV sintetiza con precisión en el cierre de su encíclica:
“Frente a las arquitecturas de silicio que pretenden emular el pensamiento, la técnica debe inclinarse ante el misterio del alma. Una máquina podrá descifrar el orden del cosmos, pero jamás será capaz de comprender el valor de una lágrima o el peso de una esperanza”.
El autor es doctor en derecho, abogado y docente universitario.
