Studium. Filosofía y Teología. Vol. XXIXI 57 (2026) 189-215
ISSN 0329-8930 - ISSNL 2591-426X
Magnifica humanitas: sobre la custodia de la persona humana en el tiempo de la inteligencia artificial de SS. León XIV
Una invitación
Magnifica humanitas: on safeguarding the Human Person in the time of Artificial Intelligence of Leo XIV
An invitation
DOI: https://doi.org/10.53439/stdfyt57.29.2026.189-215
El presente número de nuestra revista, titulado “Repensar el conocimiento. Perspectivas filosóficas y epistemológicas sobre la inteligencia artificial”, editado y prologado por el distinguido profesor Dr. Gustavo Riesgo, quien además aporta una valiosa colaboración sobre la crisis lingüística que acompaña el fenómeno de la inteligencia artificial (IA), nos sitúa, desde la teología y la filosofía, ante su vertiginosa realidad, su naturaleza, su finalidad y su circunstancia como un acontecimiento epocal digno de ser pensado no sólo desde su compleja estructura tecnológica sino, sobre todo, desde sus fundamentos teóricos y sus consecuencias morales tanto individuales como sociales. Los artículos que se presentan en este número intentan, desde distintas perspectivas, realizar esta tarea logrando una visión de conjunto de gran valor científico, penetración filosófica y elevación teológica que agradecemos profundamente.
Al cierre de esta edición, el Papa León XIV ha publicado su carta encíclica Magnifica humanitas: sobre la custodia de la persona humana en el tiempo de la inteligencia artificial (15 de mayo de 2026, en adelante MH). El título y el contenido de este documento pontificio nos obligan a realizar una invitación a su lectura en esta edición dedicada a su contexto.
Esta cuestión es de suma importancia. Se trata de una encíclica social que conmemora los 135 años de la promulgación de la encíclica Rerum novarum de León XIII (1891). Desde el inicio de su pontificado, León XIV leyó la circunstancia de su ministerio petrino desde la clave de una nueva revolución técnica. Tal como León XIII afrontó de modo sistemático y positivo la revolución industrial de fines del siglo XIX, el actual Pontífice rinde un homenaje a su predecesor continuando la perenne reflexión de la Iglesia sobre los signos de los tiempos a la luz del Evangelio, reflexión que, en su dimensión social y realizada por el magisterio, constituye la Doctrina Social de la Iglesia. MH no es una encíclica sobre la IA, es una encíclica sobre la perenne misión de la Iglesia: la predicación del Evangelio, esta vez en el contexto de la nueva revolución causada por el ingreso de la IA en la configuración del horizonte de sentido sobre lo personal humano.
En esta invitación a la lectura quisiera presentar el contexto doctrinal de la encíclica, reseñar algunas ideas principales para impulsar una reflexión más acabada y profunda (por tanto, no se trata de una recensión) y señalar algunas consideraciones finales que puedan orientar tal reflexión.
Contexto doctrinal: Antiqua et nova y Quo vadis, humanitas?
La encíclica Magnifica humanitas, en lo que se refiere a la reflexión sobre la IA, ha sido precedida por el texto Antiqua et nova: nota sobre la relación entre la inteligencia artificial y la inteligencia humana del Dicasterio para la Doctrina de la Fe y el Dicasterio para la Cultura y la Educación (14 de marzo de 2025, en adelante AN) y la reflexión de la Comisión Teológica Internacional: Quo vadis, humanitas? Pensar la antropología cristiana ante algunos escenarios futuros de la humanidad (4 de marzo de 2026, en adelante, QVH).
El centro de la reflexión de la Iglesia, o su voz moral como indicó uno de los presentadores de MH, es la custodia de la persona humana en el misterio de su desarrollo pleno tanto natural como sobrenatural. Se trata, por tanto, de una reflexión sobre el ser humano desde su realidad misma (antropología), afirmada, salvada y elevada por la gracia (QVH, nn. 128-158). Esta realidad ha sido creada a imagen y semejanza de un Dios personal, uno y trino, salvada en esperanza por el Verbo encarnado y elevada por el don del Espíritu a una vida nueva llamada a realizarse incoadamente aquí en la construcción de la civilización del amor y en su plenitud, en la vida eterna.
En este contexto, AN es un antecedente fundamental para comprender el contexto epocal de MH. Lo propiamente personal en el hombre es su naturaleza racional, su capacidad de conocer (inteligencia) y de amar (voluntad) y, por ellas, de ser dueño de sí y de sus actos por medio de la libertad. La IA, en cuanto contexto cultural y problema teológico-filosófico, se enmarca, precisamente en la relación y la distinción entre la facultad racional personal y su potenciación técnica artificial.
A modo de síntesis, podemos aventurarnos a decir que el centro de la cuestión es cómo significa el término “inteligencia” del sintagma inteligencia artificial en relación con la inteligencia personal humana.
El entusiasmo inicial mostró una tendencia hacia una significación unívoca, es decir, que, en ambos casos, el humano y el artificial, la inteligencia significaría los mismo, a saber, una capacidad de adquirir, almacenar y procesar datos que, por una parte, sería indiscernible respecto a la capacidad humana (Test de Türing, AN, n. 11) y por otra, haría que se ampliara de modo sustancial (transhumanismo) o incluso la superara espaciotemporalmente (posthumanismo).
Este entusiasmo temprano dio paso a los llamados inviernos de la IA. El primero (1974-1980) por causa de la falta de avance en el proceso del lenguaje natural y el segundo (1987-1993) por el costo de los sistemas que superaban ésta y otras dificultades. Bajo ambos inviernos subyace la equivocidad: la IA y la inteligencia humana se dice de cosas totalmente distintas y son inconmensurables. Me atrevo a conjeturar que en la actualidad primaveral de la IA el riesgo de un nuevo invierno, más largo y quizás definitivo, se planteará no en el ámbito de la limitación tecnológica o económica sino respecto de su contorno moral que es, precisamente, el lugar donde la Iglesia posee una palabra significativa desde el depósito de la fe y su experiencia en la humanidad. Este contorno moral está vinculado al problema del lenguaje y de lo que Riesgo denomina “epistemia”: la confusión del lenguaje computacional, lineal y probabilístico y su imitación (mímesis) del juicio humano, especialmente, del juicio moral.
En este punto, podemos situar MH y sus predecesores inmediatos, AN y QVH, en una postura analógica y, si se quiere más precisión, de atribución extrínseca, es decir, que la “inteligencia” artificial sólo lo es con relación a la inteligencia humana y subordinada a ella. La inteligencia humana sería, en esta interpretación, la realidad plena (analogado principal) y la IA sería una realidad a la cual se le atribuye el término “inteligencia” (analogado secundario) en tanto que cumpla dos condiciones: potenciar la cognición personal humana y estar subordinada normativamente a ella en su estado natural. Un ejemplo de esta condición está en el análisis de la relación entre la IA y la toma de decisiones bélicas por presuntos “agentes morales artificiales” realizado por León XIV en MH (nn. 197-200).
AN traza una breve historia de la IA en orden a lograr su adecuada descripción. Distingue una IA débil que identifica la inteligencia con el razonamiento deductivo y lo amplia tanto en su capacidad material como en su capacidad de procesamiento y una IA general que sería “un único sistema, el cual, operando en todos los ámbitos cognitivos, sería capaz de realizar cualquier tarea al alcance de la mente humana” (AN, n. 9). De ese modo, la razón de semejanza de la IA con la inteligencia humana sería, en su versión débil, la capacidad de razonar y, en su versión general y aspiracional, toda capacidad cognitiva.
El problema subsiste en qué debemos entender por “toda capacidad cognitiva”. AN recoge la multisecular reflexión de la Iglesia en torno a la inteligencia. Se trata de un deseo natural humano universal (Aristóteles) que se resuelve en la penetración espiritual de la realidad de las cosas y en el proceso de adquisición y obtención de conocimiento, como enseña Tomás de Aquino: “el término ‘intelecto’ se deduce de la íntima penetración de la verdad; mientras ‘razón’ deriva de la investigación y del proceso discursivo” (S. Th., II-II, q. 49, a. 5, ad 3; AN, n. 14).
Ahora bien, la inteligencia humana no es sólo racionalidad, implica también la encarnación, es decir, la esencia corpóreo-espiritual de la persona (AN, nn. 16-17), carácter relacional (nn. 18-20) y relación con la Verdad (nn. 21-23). Tal inteligencia está situada espaciotemporalmente en un cuerpo y alcanza su plenitud cognitiva en él y no fuera de él, existe en la intersubjetividad y está abierta constitutivamente a Dios como fundamento y sentido último de su ser. De esta magnífica racionalidad surge su capacidad de amar y, por tanto, de custodiar éticamente a sí mismo, al prójimo y al mundo (nn. 24-25). MH va a tomar esta responsabilidad ética de custodia como explicación de su propósito y como expresión de la magnificencia de lo humano precisamente respecto de lo tecnológico.
AN avanza, desde esta comprensión integral de la inteligencia humana (nn. 26-29) a los límites de la IA: su falta de cuerpo físico le impide la inmediatez con lo real y el plexo de relaciones sensibles (cognitivas y apetitivas) que sustentan materialmente la inteligencia personal humana; su limitación relacional le impide la experiencia del amor y de la sabiduría. De este modo, “establecer una equivalencia demasiado fuerte entre la inteligencia humana y la IA conlleva el riesgo de sucumbir a una visión funcionalista, según la cual las personas son evaluadas en función de las tareas que pueden realizar” (n. 34).
Desde esta concepción analógica y subordinada, AN considera el papel de la ética en la guía y el desarrollo de la IA (nn. 36-48). Precisamente, en el momento en que pretende ser, de algún modo, “inteligencia”, debe medirse por lo personal humano y estar a su servicio. Su servicio es de carácter técnico y adjetivo: la sabiduría de su conducción y el sujeto de su acción es la persona y la comunidad humanas en su vocación de cooperación libre al designio de Dios sobre la creación que es, principalmente, como especificará QVH, la afirmación, la salvación y la elevación sobrenatural de la persona humana en su dignidad infinita por su imagen y semejanza divina y por su vocación a la participación por la gracia de adopción, de la naturaleza divina.
En este marco, la IA se presenta como lo que es: un instrumento de la comunidad humana para el bien y como lo que nunca debe ser: un arma impersonal auto referida para el mal. La IA, en cuanto producto humano, posee naturaleza moral y su uso requiere evaluación ética, reflexión filosófica, política, teológica y espiritual. Es una res nova, como señala León XIV, pero es siempre humana y personal, por tanto, res nostra agitur: la IA nos compete a todos. Es la magnífica humanidad quien debe orientar con la ayuda de la razón normativa (la ley) y de la gracia la relación de la IA con la sociedad (nn. 50-55), las relaciones humanas (nn. 56-63), la economía y el trabajo (nn. 64-70), la sanidad (nn. 71-76), la educación (nn. 77-84), la relación con la información y la verdad (desinformación, deepfake y abusos, nn. 85-89), la privacidad y el control de su alcance (nn. 90-94), la protección de la creación (nn. 95-97), la guerra (nn. 98-103) –cuestión que, como ya señalamos, León profundiza en MH–, y la relación con Dios (nn. 104-107).
De este modo, la reflexión de la Iglesia sobre la IA desafía a la humanidad a buscar la verdadera sabiduría que no se limita a la vastedad del conocimiento ni a la rapidez de los procesos de obtención, adquisición y manejo de datos, sino que orienta todas las cosas a Dios, en el cual la persona humana adquiere y recobra su dignidad. Esta sabiduría comprende el progreso tecnológico “como parte del plan de Dios para la creación: una actividad que la humanidad está llamada a ordenar hacia el Misterio Pascual de Jesucristo, en la constante búsqueda de la Verdad y del Bien” (n. 117).
En el sexagésimo aniversario de la Constitución Apostólica Gaudium et spes, la Comisión Teológica ofreció una reflexión sobre la antropología cristiana en perspectiva de futuro en Quo vadis, humanitas? Esta ocasión da pie la consideración de estos escenarios de futuro en una reflexión articulada en tres categorías: desarrollo, vocación integral, identidad y condición dramática (QVH, nn. 8-12). En medio de una revolución tecnológica –una de cuyas expresiones es la IA– aparece la paradoja de la grandeza de la humanidad que se expresa en estos logros y de la debilidad que se ha manifestado como global en la crisis sanitaria causada por el Covid 19.
En este contexto, y mirando GS, el documento intenta reflexionar sobre la persona humana en las claves antes mencionadas en una confrontación con los desafíos del transhumanismo y el posthumanismo que plantean, con diferencia de grado, la superación de lo humano, ya por medio de la ampliación tecnológica y tecnocrática de sus posibilidades, ya por medio de la superación de la humanidad tal y como la conocemos inaugurando una nueva etapa evolutiva (nn. 13-16). El dramatismo y la radicalidad de estas posiciones hacen necesario un permanente discernimiento antropológico y teológico. No sólo se trata de salvaguardar la dignidad humana personal sino de incluirla, sanarla y elevarla por medio de la gracia de Cristo que nos aporta la Revelación y, por tanto, expresa la dimensión kerigmática de teología (nn. 17-20).
La mirada teológica, a la luz de la orientación de GS, se dirige hacia la categoría de “desarrollo”. Tal como ocurrió hace 60 años, entonces, en el contexto del diálogo crítico con la teoría de la evolución, el progreso como signo del positivismo social y la superación propio de la dialéctica marxista, conviene ahora recuperar el desarrollo integral de la persona y de la comunidad humana como integrante de un designio divino que tiene a la base la identidad del Dios Creador con el Dios Redentor y Santificador. En el contexto actual, la tecnología ya no es más un instrumento sino un “verdadero entorno de vida, con su propio modo de estructurar las actividades y las relaciones humanas” (n. 33) lo que determina la relación de la persona con el entorno natural, con los demás en el mundo digital: este es el lugar propio de la IA en el documento (nn. 37-45).
Como ya hizo AN, se distingue la IA de la IAG. La primera representa un incremento cuantitativo en información y velocidad de procesamiento (QVH, n. 37), la segunda “indica una tecnología futura, omnipresente, capaz de sustituir todos los aspectos computacionales y operativos de la inteligencia humana gracias a una altísima velocidad de cálculo, que será posible mediante el desarrollo futuro de procesadores cuánticos. En la medida en que los aspectos más propios de la inteligencia humana fueran debilitados o abandonados conscientemente, la IAG podría tener consecuencias profundas que corren el riesgo de escapar al control de la razón humana. Algunos plantean que se le pudiera pedir a la IA gestionar los problemas generados por ella misma, según una dinámica que llegaría a ser irreversible. Y presentan este círculo vicioso como un proceso casi necesario, similar a los procesos naturales, como un destino que llevaría a su extrema consecuencia lo que el propio ser humano habría causado en el origen” (n. 38).
La cuestión fundamental es la identificación de la persona humana, que es Homo sapiens en el sentido filosófico y teológico más profundo, con el Homo faber y su superación en el Homo technologicus (n. 39). El estudio desciende a cuestiones aplicadas tanto respecto de la IA (cambio en el modo de toma de decisiones y transformación radical de ámbito laboral) como respecto de la IAG, especialmente, la necesaria vinculación de la inteligencia con el cuerpo y los peligros antropológicos y éticos que supondría una escisión trans o posthumanista radical, por ejemplo en el ámbito de la comunicación interpersonal –especialmente en la niñez y la juventud–, la comunicación y la tecnología militar (nn. 40-45).
Luego del estudio de la comprensión del otro en este específico ambiente denominado “infosfera”, el documento aborda la comprensión de sí mismo y la relación con Dios. Respecto a la primera, el texto pone de relieve dos cuestiones de importancia capital: la virtualización de la conciencia personal y la desconexión del yo personal con el cuerpo que lo realiza en el espacio y el tiempo. La superación del saber crítico y la reflexión ética así como la suplantación del cuerpo real por una imagen virtual pueden atentar gravemente contra la realidad de la experiencia personal que entraña límite, fatiga y envejecimiento (nn. 46-47).
La relación con Dios también puede sufrir una transformación sustantiva. El ámbito virtual es ahora un lugar significativo donde encontrar espiritualidad, conocimiento religioso e incluso propuestas vocacionales. El problema, una vez más, subsiste en la ausencia de realidad, de vínculos humanos y comunitarios. Esto puede llegar incluso a la inversión de la acción originaria y fundamental del ser humano: ser creado a imagen y semejanza de Dios. Ahora, con las infinitas potencialidades de la red y su capacidad de ofrecer lo que cada uno busca de modo cada vez más adaptado las necesidades y deseos más íntimos e inconscientes manifestados en las búsquedas realizadas, es posible que estemos creando un Dios “a nuestra imagen y semejanza” (n. 49), sustituyendo el Dios vivo por un “Dios virtual”.
Frente a estas realidades radicales, el texto propone un discernimiento crítico respecto del juicio negativo de la real condición humana que proviene de las ideas transhumanistas (n. 57), respecto de un ideal o sueño de perfeccionamiento individualista y elitista (n. 58), respecto de la transformación y la eventual pérdida del horizonte social y comunitario de lo personal humano (n. 59) y, finalmente, respecto de una visión negativa de la experiencia religiosa (n. 60) precisamente, porque en su versión teísta, Dios aparece como Otro, como un límite al propio yo que de modo tecnológico y virtual aspira a reemplazarlo.
Me he extendido en la descripción de este primer capítulo del texto pues sirve de contexto inmediato a los relevantes párrafos de MH sobre la IA y las nuevas tecnologías. Los capítulos siguientes de QVH son el desarrollo positivo y dialogal de la antropología cristiana en este contexto y que requerirían un desarrollo especial. No dejemos este contexto sin mencionar la médula de ambos capítulos.
El capítulo segundo titulado “La vida como vocación: la persona humana como actor de la historia” (QVH, nn. 63-105) tiene como fundamento la afirmación del carácter abierto del ser personal humano en forma de vocación. Ser persona es ser llamado al ser, a la vida, a la comunidad, al encuentro con Dios desde una realidad espacio-temporal concreta condicionada por un cuerpo. El artículo de Ramos-Zaga en el presente volumen desarrolla la irreductibilidad de la estructura hilemórfica personal humana. De allí la caracterización de “actor de la historia”. Ahora bien, esta llamada se realiza en el contexto de la libertad y, por eso la persona humana coopera, colabora, responde en libertad y en amor al designio de Dios sobre él que se realiza, ordinariamente, en el entramado de su existencia cotidiana y de su situación social y comunitaria. La situación espacio-temporal le pertenece intrínsecamente, por ello, interpreta su vida en el contexto de una historia que, bajo la mirada de Dios, es historia de salvación. De ahí que no resulte extraño que para el neognosticismo de la era técnica esta situación histórica deba ser superada por el sueño utópico de una vida sin término. El espacio también juega un rol fundamental. La corporalidad nos sitúa y, al tiempo que nos limita, nos posibilita el ingreso al mundo de la libertad, la creatividad y el amor. Por ello, la situación espacio-temporal es un antídoto contra el individualismo trans o posthumano. Ser personas corpóreo-espirituales nos inserta en el horizonte de la intersubjetividad: la familia, el pueblo y, por tanto, son la condición de posibilidad de una recta comprensión de la Iglesia como familia de Dios y Pueblo suyo. Finalmente, este capítulo expresa la vocación integral de la persona al amor, es decir, a alcanzar la felicidad y la perfección no en sí mismo sino en el otro. Nuestra vocación es el amor, como expresa santa Teresita del Niño Jesús. Esta vocación es súplica por el otro, como enseña san Agustín. Ante la cultura tecnológica y tecnocrática estamos llamados, siempre y una vez más a proponer y anunciar la cultura de la vocación y del amor que se expresa de modo especialmente significativo en la actitud interior de María (n. 104). De esta cuestión se ocupa Zarkadakis cuando reflexiona sobre la creatividad humana que está a la base de la IA y que desarticula como un mito funcionalista la personificación de la IA.
El capítulo tercero aborda, desde la mirada antropológica del segundo, las cuestiones éticas fundamentales en torno a la vida: “El don de la vida y de la comunión ante diferentes escenarios sobre el futuro de lo humano” (nn. 106-127). En el contexto de la era de la técnica, la persona como vocación se ve desafiada por el problema de la identidad personal. El desgarro de lo real y de lo virtual, de lo que soy y de lo que quiero ser en una cultura donde, gracias a los impresionantes desarrollos tecnológicos, es posible simular múltiples identidades, aparece el grave riesgo de la escisión entre la identidad personal real y la identidad virtual. Ya el camino del descubrimiento de la propia identidad es complejo. Si se le añade el desafío de las múltiples interacciones y solicitaciones tecnológicas que no son ni ingenuas económicamente ni neutrales ideológicamente, el camino de la formación de la identidad es un desafío primero para la educación. El neognosticismo transhumanista y posthumanista plantea una identidad liberada de la corporalidad y con ello, extirpa la posibilidad de la persona de ser un don para los otros, suprimiendo el amor. En este sentido la fe en un Dios trascendente abre un horizonte infinito que sitúa al ser humano personal en el cosmos con capacidad de amor redentor y cooperador, volviendo a ocupar su lugar vicario de Dios en la creación lo que ordena la relación con los demás seres vivientes y los recursos naturales.
Finalmente, el capítulo cuarto “La humanidad afirmada, salvada y elevada” (nn. 128-158) nos lleva a la antropología teológica que se sustenta y que lleva a su perfección última la antropología filosófica y la ética desarrolladas en los capítulos anteriores. La vocación humana y su realización poseen un carácter dramático porque pone en juego polaridades en tensión que sólo pueden resolverse en la íntima y compleja relación entre la libertad y la gracia. Con todo, el drama humano no es dialéctico: no se resuelve por superación sino por elevación en Cristo. Todo este capítulo parece estar influido por la teología de Balthasar: la tensión polar del drama no se resuelve por el “o” que separa los polos sino por el “y” que los incluye. La tensión entre lo material y lo espiritual, entre el varón y la mujer, entre el individuo y la comunidad, entre lo finito y lo infinito sobrepasan las capacidad de diseño de la IAG más avanzada posible y pensable porque incluyen una dimensión que es inconmensurable para ella: la dimensión del espíritu que se debate en el drama del pecado y de la gracia.
Todas las tensiones anteriores, que parecen insolubles para la sola razón natural, una de cuyas dimensiones, la discursiva, ha sido hiperdesarrollada por la IA y la IAG, alcanza su solución en el ingreso de Dios personal en la historia humana por Cristo, de este modo, esta irrupción que es encarnación, es decir, apropiación de todos los límites y polaridades ontológicas, antropológicas y éticas de cada ser humano, eleva lo humano en su integralidad generando la nueva humanidad en el Espíritu de Jesucristo, el Hijo de Dios.
El documento concluye con una afirmación fundamental: el don de la divinización es lo que constituye la verdadera humanidad (nn. 159-164). Dios quiere la perfección del género humano en Cristo por la fuerza del Espíritu Santo. La quiere como vocación que cada persona debe recibir como don y aceptar, la quiere siempre y para cada uno en el contexto de polaridades propio de su situación histórica y cultural concreta, en esta época, en la era de la técnica llevada a su máxima expresión en las tecnologías de la IA y de la IAG transidas de la ideología del neognosticismo que se expresa en el transhumanismo y el posthumanismo. El texto finaliza volviendo a proponer a Cristo como la respuesta a las interrogantes más radicales de la persona y de la comunidad humanas y, siguiendo su orientación concreta y real, mostrando a María como Madre plenamente humana y el desafío de los pobres como instancias concretas donde se ha realizado y se debe realizar el amor más grande, aquel que afirma, salva y eleva a la humanidad por la acción de un Dios personal Uno y Trino que ama al hombre y que lo quiere divinizar no contra él, sino con él. Por ello, no nos debe resultar extraño que la encíclica de León XIV se titule Magnifica humanitas, pues no se trata de la exaltación de una humanidad opuesta a Dios, sino de aquella humanidad asumida por Cristo que afirma sus más altas posibilidades y ofrece criterios para discernir y orientar hacia el bien común sus realizaciones, especialmente las tecnológicas, sin abandonar la vocación al amor recibida por creación que, como María, nos invita a decir “hágase” al Creador y nos pone en la disposición de creaturas, es decir, de “pobres” ante el Dador de todo don perfecto.
Magnifica Humanitas: una reflexión social en el contexto de las cosas nuevas de nuestro tiempo
Me parece que no ha sido inútil detenernos en AN y QVH antes de ofrecer la descripción y algunas claves de lectura de MH. En efecto, AN es un documento específicamente dedicado al análisis de la IA que es, según el papa León, el contexto en el que se desarrolla el nuevo desafío de la Doctrina Social de la Iglesia tal como se expresa en el propósito de la encíclica: “Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial”. El tema principal de la encíclica ha sido tratado por la Comisión Teológica Internacional en QVH recién reseñada. Desde este punto de vista, ambos documentos pueden ser considerados el suelo nutricio desde donde se desarrolla la reflexión del Pontífice.
Conviene advertir, desde el comienzo, que no se trata de una reflexión centrada en la IA. Se trata de una encíclica social, es decir, que se inscribe en el corpus doctrinal denominado Doctrina Social de la Iglesia que recoge los documentos magisteriales sobre teología moral social desde la señera Rerum novarum. Tal como León XIII abordó los problemas y desafíos de la revolución industrial de fines del siglo XIX, así, su predecesor, León XIV, quiere iluminar con la luz del Evangelio y de la Tradición los problemas sociales emergentes en el primer cuarto del siglo XXI cuyo contexto puede ser definido como “el tiempo de la IA”.
Dicho lo anterior, y dado que esta invitación a la lectura se sitúa en un texto dedicado a la IA, me concentraré en dar una visión panorámica de la encíclica para luego detenerme en el capítulo tercero: “Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA”. Una vez realizado este análisis, estaremos en condiciones de concluir este ensayo señalando algunas consideraciones finales que orienten la lectura de los textos y nos permitan reflexionar con fruto sobre los desafíos de la humanidad y de la Iglesia en estos tiempos vertiginosos que nos toca vivir.
La arquitectura de MH es de matriz agustiniana: está basada específicamente en la teología de la historia que san Agustín propone en De civitate Dei. Ante las cosas nuevas de nuestro tiempo, especialmente los avances tecnológicos (digitalización, IA, robótica, energía nuclear, biotecnología, etc.), la persona humana nuevamente se enfrenta a la posibilidad de construir dos ciudades: la ciudad que se opone a Dios –cuya imagen bíblica es Babel– o la ciudad de Dios –cuya imagen bíblica es la reconstrucción del Templo de Jerusalén por parte de Nehemías que involucra a todo el pueblo en un trabajo de comunión– (n. 8).
Pero la matriz agustiniana no se detiene ahí. La encíclica no es una exaltación de la humanidad por su capacidad de creación sino una exaltación del Dios Uno y Trino que la ha creado a Su imagen y semejanza y que la ha asumido en el Verbo eterno. Se trata de la custodia de la persona humana en la cual Dios puede habitar por la gracia estando más íntimo a él que él mismo. La encíclica se basa en una sólida antropología teológica, de ahí la importancia de considerar QVH como un antecedente directo para su lectura.
La encíclica posee una introducción, cinco capítulos y una conclusión. La introducción manifiesta su propósito: celebrar los 135 años de Rerum novarum reflexionando sobre las cosas nuevas de nuestro tiempo. Estas cosas son, en resumen, todos los problemas antropológicos, éticos y sociales que surgen de la nueva revolución tecnológica donde se diluye la responsabilidad individual, social y estatal en una privatización y complejidad tecnológica inédita: “En el pasado, eran principalmente los Estados los que impulsaban y orientaban la innovación. Hoy, en cambio, los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos. El poder tecnológico adquiere así un rostro inédito, predominantemente ‘privado’, y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común” (n. 5). La cuestión de la naturaleza, del sentido, del discernimiento y de la gobernanza de estas nuevas capacidades se hace irrenunciable dado que, por su carácter global y su poder de transformación en las grandes polaridades que expuso QVH referidas a la naturaleza e identidad de la humano, amenazan con desvirtuar el núcleo personal de la historia humana (MH, nn. 1-6). Aquí aparece la imagen de las dos ciudades y de los dos pasajes bíblicos correspondiente: Babel y su construcción colectivista anónima y la reconstrucción del Templo por parte de Nehemías y el pueblo, acción comunitaria y nominativa, es decir, personal que surge de una vocación divina (nn. 7-10). Estas imágenes son un llamado a “edificar en el bien” permaneciendo humanos. La encíclica es una invitación: “Como Nehemías, oremos, proyectemos con sabiduría, trabajemos con perseverancia, poniendo a Dios en el horizonte de nuestro actuar y al ser humano en el centro de nuestras decisiones” (n. 16).
Los capítulos primero: “Un pensamiento dinámico fiel al Evangelio” (nn. 17-45) y segundo: “Fundamentos y principios de la Doctrina Social de la Iglesia” (nn. 46-89), son un excelente compendio de esta doctrina. El primer capítulo la presenta de modo diacrónico a través de los documentos magisteriales más relevantes y se constituye de este modo como un resumen histórico indispensable para comprender este corpus doctrinal, su naturaleza y su finalidad. El segundo capítulo vuelve sobre los fundamentos de la Doctrina Social: el ser humano creado a imagen de Dios trinitario, la igual dignidad de todos los seres humanos, el valor de los derechos humanos y sobre sus principios: el Bien Común, el destino universal de los bienes, el principio de subsidiariedad, el principio de solidaridad y la justicia social que se resuelven en el desarrollo humano integral que es la finalidad de esta doctrina.
En este punto, conviene hacer una breve reflexión sobre dos cuestiones debatidas respecto de los principios de la Doctrina Social de la Iglesia: el bien común y la justicia social.
Respecto del primero, el debate se establece entre una visión teleológica basada en la estructura causal aristotélico-tomista: el bien común es el fin y la perfección de la comunidad y una visión más instrumental: el bien común es el conjunto de condiciones que hacen posible la consecución de tal fin y perfección. Una consideración pacífica de ambas posiciones comprende que ambas dimensiones son necesarias dado que el bien es el término de una acción voluntaria y, en este caso, en la convergencia de muchas acciones voluntarias en orden a la perfección común. En tal concurso y convergencia hay lugar tanto para la consideración del fin como de los medios. MG afirma, respecto a la toma de posición de GS, n. 26 que sostiene que el bien común consiste en “el conjunto de condiciones de la vida social que hacen posible a las asociaciones y a cada uno de sus miembros el logro más pleno y más fácil de la propia perfección”, que esta posición “ofrece una primera orientación valiosa” (MH, n. 60) para el desarrollo del concepto. Se trata de una primera pero no última orientación: es cierto que en el ámbito personal humano el todo es mayor que la suma de las partes, sin embargo, no es menos cierto que cada parte es una realidad en sí que posee su propia finalidad y perfección. Sostiene el Pontífice: “en este sentido, cada persona contribuye a construir su propio pueblo con un trabajo lento y arduo que exige querer integrarse y aprender a hacerlo hasta desarrollar una cultura del encuentro en una pluriforme armonía” (n. 62). El bien común no es una condición de posibilidad trascendental y abstracta sino una suma de perfecciones ordenada a una perfección común mayor, todas ellas reales, aunque siempre en desarrollo y cuyo último bien es la dignidad natural y sobrenatural de la persona humana,
Respecto de la justicia social, la cuestión se plantea en dos niveles, filosófico y teológico. En el nivel filosófico (y sociológico) está la cuestión de si la desigualdad social tiene su origen en la responsabilidad individual o en la estructura social y, por tanto, si la solución a tal desigualdad proviene de una justicia puramente conmutativa (el mercado) o de una justicia puramente distributiva (el Estado). En el nivel teológico, la cuestión se plantea respecto del origen de la desigualdad social solamente en el pecado personal de injusticia o en la existencia de estructuras de pecado que no sólo van más allá de las decisiones individuales, sino que operan con independencia de ellas en “estructuras de pecado”. La filosofía cristiana y la moral social sostienen que a la base de toda injusticia está el pecado y que el pecado es una acción voluntariamente mala realizada por una persona, y que esta acción tiene efectos sociales que pueden ir más allá de la responsabilidad de esa persona individual. Por ello, es injusto identificar el principio de justicia social con una expresión del colectivismo antes descrito que propone un rol único del Estado en la redistribución de los bienes como si ésta fuera la única solución posible ante la desigualdad social. La encíclica afirma: “La idea de ‘justicia social’ ayuda a reconocer que las injusticias no nacen sólo de decisiones equivocadas de los individuos, sino también de estructuras, mecanismos, sistemas económicos y culturales que producen desigualdad casi automáticamente. San Juan Pablo II habló en este sentido de estructuras de pecado que se oponen a la voluntad de Dios y requieren un esfuerzo de conversión personal y social” (n. 79). Nuevamente, lo católico, como se expresión en QVH es el “et, et”, el “y”: conversión personal y conversión social. No hay posibilidad de tal conversión sin la conversión del corazón de cada persona a Dios. Nuevamente, la encíclica apela a un patrimonio fundamental de la Revelación cristiana en la era de la tecnología de la IA: la noción de persona humana llamada a vivir en comunidad política.
La realidad de la persona humana es el centro de la encíclica. Realidad de la cual debe brotar cualquier virtualidad en el sentido de poder, especialmente el tecnológico: custodiar la persona humana es, por tanto, custodiar su poder que es el tema de este y de los capítulos cuarto y quinto.
El título del capítulo tercero es elocuente: “Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA”. Sobre él discurriremos un poco más adelante. Retengamos por ahora el término “dominio” que expresa el señorío real que posee el ser humano respecto de sí mismo y de la creación según el designio de Dios. Ser humano es ser señor, es decir, dueño de sí mismo y, de modo participado y cooperante, de la creación. Este dominio, ahora extendido en su virtualidad por las posibilidades inmensas que otorga la IA, se proyecta sobre las dimensiones fundamentales de lo humano: la verdad, el trabajo y la libertad (capítulo cuarto) y sobre la resolución de la orientación de tal dominio en la cultura del poder o en la civilización del amor (capítulo quinto).
La extensión del domino a partir de la técnica identificada con el desarrollo de la IA afecta elementos fundamentales de la experiencia humana. El capítulo cuarto nos muestra tres realidades que han sufrido de modo más radical esta afectación: la verdad, el trabajo y la libertad.
Como vimos en AN, la inteligencia humana tiene como objeto propio lo verdadero, es decir la realidad en cuanto se ofrece a la persona y a la sociedad. La adecuación del intelecto con la realidad es la verdad. Si la realidad se desdibuja en la virtualidad, entonces la verdad pierde su raíz y aparece como constructo subjetivo, social o incluso, tecnológico. Cuando la verdad es así manipulada, la vivencia personal y social de lo verdadero pueden volverse contra el mismo hombre. El Papa advierte el peligro del desarraigo de la verdad especialmente en la vida política con la debilitación de la forma de gobierno democrática cuando ésta queda en manos ya no de la voluntad soberana de los pueblos sino de estructuras de decisión y poder opacas y transnacionales: “La búsqueda de la verdad es un elemento esencial para la democracia, que es en sí misma un instrumento de participación en el bien común. Cuando la pregunta sobre lo que es verdadero pierde interés y se impone un pragmatismo que se conforma con lo que parece útil o eficaz, la vida democrática se debilita. Esta, en efecto, no se sustenta únicamente en normas y procedimientos, sino, ante todo, en una relación leal con los hechos y en una orientación real hacia el bien de las personas y del conjunto de la sociedad” (n. 134). Pastorino desarrolla en este número la transformación del ciudadano en Homo algorithmicus, desvinculado de la deliberación democrática y aislado en el nihilismo tecnológico.
Este riesgo, que se expresa, por ejemplo, en las fake news cada vez más técnicamente mejoradas e intencionadas, requiere de una educación cada vez más profunda del ser humano en su dignidad personal. El cuidado de la verdad necesita de una alianza educativa para la era digital donde la escuela y la familia ocupan un lugar central porque son lugares de realidad y, por tanto, de experiencia con la verdad (nn. 139-147).
La formación en la verdad se expresa naturalmente en el trabajo ahora solicitado por la transición digital. El valor del trabajo, el problema del desempleo y la importancia del mercado han estado siempre en el horizonte de la Doctrina Social de la Iglesia. Ahora, nuevamente, se impone la pregunta sobre la naturaleza y valor del trabajo humano, de su relación con la dignidad de la persona, de los efectos del desempleo, especialmente los que se deben a las macroestructuras económicas y a los que ya se dan y se prevén por las transformaciones tecnológicas en las cuales la máquina reemplaza más eficientemente a la persona. Una reflexión especialmente significativa se realiza respecto de la influencia de la IA en el ámbito financiero: “Más aún, en la era de la IA y de la robótica, ya no es posible confiar únicamente en la ‘mano invisible’ del mercado: la política tiene la tarea de orientar las dinámicas económico-tecnológicas hacia el bien común, promoviendo el trabajo digno, la inclusión social y una distribución equitativa de los beneficios de la innovación. Dado que muchas decisiones económicas traspasan las fronteras de los Estados, también es necesaria una cooperación internacional capaz de definir estrategias comunes, sobre todo en favor de los países y los grupos más vulnerables, para promover el desarrollo y superar el asistencialismo” (n. 163). La virtualidad, la globalización y la complejidad de los mercados financieros ya no son transparentes a la persona humana. Esto puede llegar a ser un lugar de abuso de esta vulnerabilidad. Por ello, la encíclica propone “custodiar la libertad frente a la dependencia y la mercantilización” (nn. 170-180). El artículo de Varón-Rojas realiza un ejercicio de campo ilustrativo relativo al derecho a la intimidad respecto de la epistemología extractiva de metadatos sólo posible por la IA, y que amenaza una de las dimensiones fundamentales del ser personal: su última individualidad y soledad ontológica entendida como expresión de su incomunicabilidad metafísica.
En efecto, es necesario que el uso de las tecnologías refuerce la libertad interior y no la destruya. Para ello es necesario, en la alianza educativa antes propuesta, promover la sobriedad digital, la protección de los menores, especialmente ante la adicción que provoca el mero uso acrítico e inmaduro de estas tecnologías y la lucha contra las estructuras delictivas que aprovechan la desproporción entre el individuo y la máquina. A esto hay que añadir el control social, económico y político: “Esta visión distorsionada del ser humano se traduce hoy en diversas formas de sometimiento vinculadas directamente a la economía digital. En el mundo de la IA nada es inmaterial o mágico. Cada respuesta que parece inmediata y perfecta proviene de una larga cadena de mediaciones, de una extensa red de recursos naturales, de infraestructuras energéticas y, sobre todo, de personas. Una parte significativa del funcionamiento de la economía digital se sustenta en el trabajo silencioso de millones de seres humanos, empleados en actividades poco visibles pero esenciales: etiquetado de datos, moderación de contenidos –a menudo pésimos– y entrenamiento de modelos” (n. 173).
En efecto, en toda su complejidad, la estructura económico-política basada en las nuevas tecnologías tiene como base, para bien o para mal, al ser humano. Si es considerado en la soledad e indefensión de su individualidad, su participación en esta estructura correrá el riesgo de la pérdida de la libertad siendo esclavo de un sistema omnipresente, impersonal y anónimo. Por el contrario, si el ser humano es considerado en su enraizamiento comunitario y real, cuerpo, familia, sociedad, es decir, en su personalidad plena, entonces él será el señor de la tecnología y no su siervo, acrecentando con ella sus posibilidades personales y su libertad. De este modo, la persona humana y la sociedad quedan nuevamente ante la disyuntiva propuesta al comienzo de la encíclica: la cultura del poder (Babel) o la civilización del amor (la reconstrucción del Templo).
El capítulo quinto “La cultura del poder y la civilización del amor” representa una aplicación urgente de la Doctrina Social de la Iglesia a los problemas contemporáneos en los cuales la nueva revolución tecnológica puede causar mayor daño no solo a la dignidad de la persona humana sino a su existencia misma.
La expresión más radical de la cultura del poder es la normalización de la guerra mediante el uso ilimitado de la fuerza, potenciada por la IA en medio de una crisis del multilateralismo que intenta, mediante evitar el conflicto armado por medio del diálogo, crisis que se basa en un supuesto realismo político (nn. 189-209).
La normalización de la guerra no es ingenua: el mercado de las armas es uno de los más redituables y dinámicos de la economía mundial. La polarización y radicalización de las posturas por causa de la inseguridad global, el olvido de las últimas guerras y la distancia virtual con la horrorosa realidad de la guerra que ha creado la inserción de las nuevas tecnologías en su desarrollo han hecho que la guerra aparezca cada vez más justificada. En este contexto deben ser leída la afirmación: “Hoy más que nunca es importante reiterar la superación de la teoría de la ‘guerra justa’, invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa, entendida en el sentido más estricto” (n. 192). Sin entrar en una cuestión especialmente debatida dentro de la moral social, a saber, si se puede superar la doctrina de la guerra justa tal como la expusieron san Agustín, santo Tomás y la Escuela de Salamanca, especialmente Francisco de Vitoria, me parece que las claves para entender esta afirmación son dos: la primera, es que el examen de las causas de la guerra es cada vez menos transparente y la causa clásica de grave injuria debe ser examinada con especial detención. La segunda es que la “guerra justa” es una doctrina que se deriva del derecho natural, no un principio primero suyo. La legítima defensa y el principio de doble efecto permanecen inalterados y son aquellos que fundan tanto la legítima defensa como la guerra justa o defensiva con efecto de gravísimo e irreversible daño. Esta doctrina queda inalterada por la encíclica que, me parece, da un paso más para esclarecer la doctrina del Papa Francisco sobre el particular, especialmente en Fratelli tutti.
Un desarrollo especialmente relevante para nuestro propósito es aquel que se ocupa de la relación entre las armas y la IA (nn. 197-200). El desarrollo de la tecnología ha puesto cada vez más distancia entre el sujeto moral de la acción bélica como causa y su efecto. Esta distancia ha llegado a una expresión inédita en los llamados “agentes morales artificiales”. Se trata de decisiones mecánicas basadas en múltiples y complejas variables que determinan el uso de la fuerza, su grado destructivo y otras circunstancias, incluidas los llamados ataques preventivos basados en cálculos estadísticos. Sin embargo, como enseña la encíclica: “el juicio moral no se puede reducir a un cálculo: implica conciencia, responsabilidad personal y reconocimiento del otro como persona. Por eso no es lícito confiar a sistemas artificiales decisiones letales o, en cualquier caso, irreversibles. No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable. La IA no libera al conflicto de su intrínseca inhumanidad: sólo puede hacerlo más rápido e impersonal, bajando el umbral del recurso a la violencia y transformando la defensa en previsión operativa, con las víctimas reducidas a datos” (n. 198).
Nuevamente, estamos frente al olvido de lo personal humano, su sentido moral, su conciencia y su capacidad de diálogo. Esto último se expresa en el declive, desprestigio e inutilidad progresiva del multilateralismo y de las estructuras supranacionales, especialmente por la sospecha no infunda de estar al servicio de solo algunos pocos y no del bien común universal.
Frente a esta cultura del poder, el Papa vuelve a proponer la civilización del amor (nn. 210-228). En efecto, “la construcción de un mundo en estado de beligerancia permanente es un mal, y hay que llamarlo por su nombre” (n. 210). Este llamado al realismo moral implica una consideración del realismo teológico. El origen del mal es el pecado que solo puede ser redimido por Cristo pero que requiere de nuestra colaboración para su efectiva realización. El Papa, al citar un pasaje de la conocida obra de J.R.R. Tolkien, El Señor de los Anillos, expresa bellamente esa responsabilidad personal e intransferible que reside en cada uno y que no importa por la grandeza de su alcance sino por la profundidad de su amor: “No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza”.
Es verdad que la globalización de la guerra y del pecado, la omnipresencia de la tecnología y el aparente dominio de la cultura del poder nos pueden llevar a un grave desaliento o a un refugio en el aislamiento de formas individualistas de vivir la fe. Sin embargo, todos podemos y debemos contribuir a la cultura de la paz y a la civilización del amor desarmando las palabras, es decir, volviéndoles a dar un sentido de transmisión de la verdad, obrando justamente, considerando el sufrimiento de las víctimas, cultivando un sano realismo que dé lugar a un auténtico diálogo como encuentro de personas, es decir, de seres racionales, desde las estructuras más fundamentales de la sociedad como la familia y la escuela hasta las más grandes estructuras multilaterales entre los Estados. Finalmente, orando y esperando: “Para nosotros, en efecto, la paz, ante todo, ‘proviene de Dios, Dios que nos ama a todos incondicionalmente’. Es un don entregado por Jesús a sus discípulos el día de Pascua: ‘¡La paz esté con ustedes! Esta es la paz de Cristo resucitado, una paz desarmada y una paz desarmante, humilde y perseverante’” (n. 228).
Una vez mostrado a grandes rasgos el desarrollo de la encíclica y antes de exponer brevemente su conclusión, volvamos sobre el capítulo tercero: “Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA” (nn. 90-130).
La pregunta que inaugura esta parte es fundamental y se vincula explícitamente con la disyuntiva de las dos ciudades que encontramos en la introducción y que luego se desarrollan como la cultura del poder y la civilización del amor: “Estamos llamados a interrogarnos sobre el gran proyecto de nuestra época: ¿qué estamos construyendo? Mientras el desarrollo tecnológico cambia rápidamente lenguajes, relaciones, instituciones y formas de poder, nosotros, los creyentes, debemos y podemos elegir en qué proyecto trabajar y con qué estilo, para custodiar y valorar la magnífica humanidad que nos ha sido brindada como don” (n. 90).
Cada persona humana y cada generación deben realizarse una y otra vez esta pregunta. En nuestro caso, en el contexto del paradigma tecnocrático y del poder digital (nn. 92-96). La citada advertencia de Romano Guardini: “El hombre moderno no está preparado para utilizar el poder con acierto” (n. 93) guía toda la reflexión. La mirada de León XIV sobre las nuevas tecnologías no es pesimista ni idealista: es realista. Para discernir a la luz del Evangelio este proyecto epocal –imposible no oír detrás de estas palabras la “disposición” (Gestell) técnica que Heidegger le atribuye a la actual dispensación de la historia del ser, tal como señala Sanguinetti en su exposición de la genealogía heideggeriana de la técnica moderna– es necesario captar la tendencia a la concentración de poder que lleva consigo el desarrollo tecnológico de modo que sea posible “verificar si el poder de las infraestructuras digitales y de los algoritmos favorece realmente la participación y la responsabilidad, protege a los más vulnerables, asegura un acceso equitativo a las oportunidades y se ordena al bien de todos” (n. 96).
El siguiente apartado: “La inteligencia artificial” (nn. 97-111) concentra el desarrollo que realiza la encíclica sobre el tema que nos ocupa. Luego de sostener que no es intención de la encíclica ofrecer un tratado sobre el tema, establece dos criterios de interpretación relevantes: la contingencia de cualquier afirmación sobre la IA dada la velocidad de su avance y la ignorancia universal respecto de su funcionamiento efectivo: sabemos muy poco y lo que sabemos puede quedar obsoleto hoy mismo. Esto exige un doble compromiso: científico y moral-espiritual. Es necesario llegar a un lugar donde la persona pueda ser señora de la IA tanto desde el punto de vista técnico como moral.
No hay duda de que la IA es una ayuda valiosa; tampoco que requiere una profunda atención (nn. 100-101). La simulación de la “inteligencia humana” ya advertida en AN trae consigo riesgos muy tangibles: la facilidad en la obtención de resultados desvinculando la relación real entre esfuerzo y producto que se da en la estructura natural del trabajo humano; la impresión de objetividad (y de verdad) de sus resultados y, el quizás más grave de todos: la simulación de la comunicación. Los resultados de un mal uso de estos resultados pueden ser nefastos para la salud mental y espiritual de la persona humana: “La imitación artificial de la relación de cuidado o de acompañamiento puede ser peligrosa cuando se introduce en un contexto pobre de relaciones y de afectos reales; entonces el riesgo no es tanto que una persona crea que está hablando con otra persona, sino que pierda el deseo mismo de buscar realmente al otro” (n. 100).
Lo que ocurre a nivel personal individual puede ocurrir a nivel personal comunitario respecto de la comunicación, la gestión y el control. La IA puede ayudar a mejorar la sostenibilidad de procesos complejos, sin embargo, ella misma requiere de recursos naturales para su subsistencia. Nuevamente, el desarrollo técnico debe ir acompañado de una “voz moral” (n. 101).
Todo esto nos lleva a la cuestión de la responsabilidad: ¿quién responde por la IA y la IAG? En el proyecto neo-gnóstico transhumanista y posthumanista se diluye la responsabilidad porque se diluye el sujeto humano. La encíclica, por el contrario, hace la pregunta por la responsabilidad, la trasparencia y la gobernanza de la IA (nn. 102-111): “El uso de la IA nunca es un hecho puramente técnico: cuando entra en procesos que inciden en la vida de las personas, afecta a sus derechos, oportunidades, reputación y libertad” (n. 102).
El desarrollo tecnológico de la IA ha tenido y tiene un sujeto humano que lo impulsa, uno que lo realiza y uno que lo recibe, de donde se sigue que se trata de un hecho moral, no meramente técnico: “de esto se deriva una consecuencia sencilla pero apremiante: no podemos considerar a la IA como moralmente neutra” (n. 104). Por ello está sujeto a un discernimiento moral complejo que va más allá del vago imperativo de que debe usarse “correctamente” (n. 104) y de una invocación genérica a la ética (n. 106). “Por eso, el discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían” (n. 104). Y esto debe quedar establecido en una estricta responsabilidad (accountability) determinada por marcos jurídicos adecuados, vigilancia independiente, educación y política responsables (n. 106).
Dado que la IA es un avance tecnológico que está destinado a aumentar el poder de quienes gozan de tal avance, y puesto que se trata de un avance de carácter global, el poder que se adquiere goza de la misma extensión. Por ello, es legítima la preocupación de que un poder tan grande quede en manos de muy pocos: “En un mundo donde pocos sujetos concentran datos, capital informático y capacidad normativa, hablar de bien común significa desenmascarar esta nueva asimetría epistémica, económica y política, nombrando los nuevos monopolios de la IA” (n. 109). Esta asimetría es juzgada por el principio del destino universal de los bienes que propone la Doctrina Social de la Iglesia y requiere del esfuerzo anteriormente dicho del discernimiento moral al mismo tiempo que la efectiva participación de la mayor cantidad de personas tanto en los bienes que se generan como en el conocimiento y trazabilidad del modo en el cual se obtienen (nn. 109 y 110).
El último párrafo del título dedicado a la IA adelanta la cuestión de la guerra que tratamos a propósito de la cultura del poder en el capítulo quinto de la encíclica. León llama a “desarmar la IA”, es decir a “sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva” (n. 110). Pero no solo eso, también “sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida” (n. 110). El llamado fundamental, como vemos es a humanizar y personalizar esta nueva tecnología de modo que exprese un proyecto verdadero, bueno y bello de humanidad que es, precisamente, lo que se puede perder si no se realiza el discernimiento moral al cual convoca el Pontífice.
Lo que no se puede perder es la custodia de lo humano: “El riesgo no es sólo que algunas tecnologías se usen mal, sino que el paradigma tecnocrático en el que estamos inmersos, potenciado por la revolución digital y la IA, haga parecer justa y normal una visión antihumana, según la cual la plenitud de la vida consistiría en tener más, reducir la fragilidad, eliminar lo imprevisto y controlarlo todo” (n. 112). El fundamento de este riesgo está, como señaló AN, en las ideologías transhumanistas y posthumanistas que intentan con mayor o menor radicalidad erradicar lo humano del hombre persiguiendo el sueño prometeico de llegar a ser más que hombres e incurriendo en el desafío luciferino de una salvación “puramente técnica” (MH, n. 117).
El capítulo alcanza su culmine en el motivo agustiniano del corazón donde radica la grandeza del ser humano. Desde él se supera la visión del límite (incapacidad, enfermedad, ancianidad, sufrimiento y vulnerabilidad) como defecto y aparece la dimensión creatural de la persona humana que requiere de la salvación de Dios. El Papa da ejemplos concretos de personas que en la historia han seguido esta lógica del corazón y con ella, han hecho lo que ninguna máquina puede hacer: amar. “Por eso la humanidad –magnífica y herida– no debe ser sustituida ni superada; puede acoger los progresos de la técnica para aliviar los sufrimientos y abrir posibilidades nuevas, siempre que no reniegue de aquello que la hace ser ella misma, es decir, la capacidad de relación y de amor” (n. 126).
Sin embargo, la capacidad natural de amar no es suficiente para saciar la sed de la persona humana. Es verdad que hay un llamado más allá de lo humano pero que no lo remplaza o destruye, como en los relatos del gnosticismo técnico. Se trata del llamado de la gracia que, como enseña santo Tomás de Aquino, a quien cita el Pontífice, no destruye la naturaleza, sino que la sana y la eleva (n. 127).
He aquí la solución al problema de las dos ciudades y de los dos amores como enseña san Agustín: “Dos amores han dado origen a dos ciudades: el amor de sí mismo hasta el desprecio de Dios, la terrena; y el amor de Dios hasta el desprecio de sí, la celestial”. Como en toda la historia humana, también hoy estos dos amores luchan en nuestro corazón por el predominio. El tiempo de la IA no escapa a esta regla: la construcción de Babel o la de Jerusalén comienza en cada uno de nosotros” (n. 130).
La conclusión de la encíclica corona todo su desarrollo de modo cristológico: el fundamento de la construcción de la civilización del amor debe ser Cristo. El cuidado de la persona humana en el tiempo de la IA “es un camino que nace de la contemplación del designio de Dios, vive la unidad eclesial nutriéndose de la Palabra y de la Eucaristía, construye el bien en el mundo y ora junto con la Virgen María” (n. 229). Esta afirmación resume de modo excelente el final de la encíclica.
La custodia de la persona humana no es un evento técnico, ni puramente moral. Se trata de la iluminación de ambas dimensiones desde una perspectiva y, sobre todo, desde una luz y fuerza teológicas. La magnífica humanidad encuentra su fundamento en el Magnificat de María Virgen: la persona humana dignificada es un canto de alabanza al Creador, al Redentor y al Santificador.
De este modo, la encarnación del Verbo es el criterio último de este proceso de custodia cuyo sujeto primero es Dios mismo. En Cristo, Dios y hombre verdaderos, se cumple la raíz de bien que contienen las ideologías posthumanas. Y esta raíz de bien es el deseo de Dios, de divinización y de eternidad incoados en el corazón de la persona (nn. 230-233).
La cristología da origen a la eclesiología. Nuestro modo de participar en el misterio de Cristo donde la humano es elevado siendo asumido y jamás superado es la Iglesia, especialmente en la Eucaristía. Nuevamente aparecen motivos agustinianos en la encíclica del Papa agustino: al comer la Eucaristía nosotros nos transformamos en Ella y al ser bautizados somos parte del Cuerpo de Cristo que comulgamos. Por ello, el deseo último de relación y de amor, de ser uno con el otro es real en su existencia y en su realización: en el único Cristo, todos somos uno: in Illo uno, unum (n. 235).
La obra de nuestro tiempo, aquel de la IA, requiere de arquitectos sabios que reconozcan a Cristo como la piedra angular de todas las cosas. La fidelidad a la verdad, la inversión en la educación, el cuidado de las relaciones, el amor a la justicia y a la paz nos permite mirar con esperanza el futuro construyendo la civilización del amor, la ciudad de Dios simbolizada en la reconstrucción del Templo por parte de Nehemías y el resto de Israel (nn. 236-242). En este sentido, en el artículo de cierre de este número, Banchero y Franco proponen el modelo integrador del poliedro en el cual aparece una IA arraigada en la persona humana y en su trascendencia; no desarraigada y tarada en la inmanencia que permite su uso responsable especialmente en la defensa de la dignidad humana.
El programa de vida cristiana que se nos propone “después de la fe que contempla el designio de amor del Padre, la caridad que nos une en un único cuerpo eclesial y la esperanza que sostiene nuestra acción en el mundo” continúa con la oración (n. 243). La Virgen María es invocada, finalmente, como aquella que se adhiere al proyecto de Dios: un proyecto personal que involucra la debilidad, que permite ver la obra invisible de Dios y que nos invita a participar activamente con nuestro fiat en él. De este modo, este tiempo, nuestro tiempo, el tiempo de la IA “puede ser un paso en el que el Espíritu haga madurar la civilización del amor en nuestras vidas; el Señor sigue haciendo nuevas todas las cosas y mantiene abierta para cada época la posibilidad de convertirse en historia de salvación a la luz de la Encarnación”.
Consideraciones finales
1. Fiel a su vocación, a su identidad y a su misión, la Iglesia ha hecho suya la preocupación mundial respecto del fenómeno técnico de la IA en sus raíces antropológicas más profundas que representan, ahora en el neognosticismo del transhumanismo y el posthumanismo, el deseo perenne, fruto de la caída original, de ser como dioses superando la humanidad. El tiempo de la IA es una especie de disposición epocal en el cual la técnica pretende superar lo personal humano. Por ello, la reflexión de la Iglesia en sus distintos niveles, el Dicasterio para la Doctrina de la Fe (Antiqua et nova), la Comisión Teológica Internacional (Quo vadis, humanitas?) y el Papa León (Magnifica humanitas), se dirige a la custodia de la persona humana ante la amenaza de su superación. La magnificencia de la humanidad tiene aquí un doble sentido que debe ser rectamente ordenado. Por una parte, está la capacidad de la humanidad de hacer grandes cosas (magna facere) y, por otra, el fundamento de tal capacidad que se encuentra, naturalmente, en su ser imagen y semejanza de Dios y, sobrenaturalmente, en su sanación, elevación y perfección por la gracia de Cristo en el Espíritu Santo. Cuando la encíclica habla de una humanidad magnífica, habla de aquella que es primero custodiada por el Dios uno y trino que habita en ella más íntimo a ella que ella misma y que, por tanto, la hace capaz de custodiar lo personal, es decir, la capacidad de amor en sí misma, ordenando sus realizaciones, especialmente la IA hacia la construcción de la civilización del amor, es decir, de la ciudad de Dios. Esta construcción, a diferencia de aquella de la cultura del poder que es anónima y soberbia, es personal y humilde, surge de la llamada de Dios del destierro a un grupo pequeño que asume su responsabilidad en el tiempo y el espacio que le tocó vivir. De este modo, la custodia de la persona como edificación de la civilización del amor es una responsabilidad de todos al tiempo que una obra de la gracia que nunca falla.
2. La Doctrina Social de la Iglesia, como cuerpo doctrinal de la enseñanza magisterial respecto a las cuestiones sociales, es indisociable de una metafísica y una antropología realistas y de una teología católica en el sentido de atenta al completo e íntegro depósito de la Revelación tal como es transmitido por el magisterio de la Iglesia. El realismo metafísico, gnoseológico y moral es una condición fundamental para la realización del cuidado de la persona humana especialmente en un ámbito donde lo virtual corre el riesgo de remplazar su capacidad de diálogo y, en último término, de humanidad. Esta doctrina no es, pues, una injerencia impropia de la Iglesia en política o en cuestiones tecnológicas que eventualmente desconoce sino del imperativo de su misión de colaborar en la salvación sobrenatural de la persona humana, cooperación que comienza con la custodia de la persona. Tanto la historia de la Doctrina Social de la Iglesia como sus fundamentos y principios surgen de la lógica de la encarnación: la Palabra de Dios aplicada a las cuestiones sociales introduce a Dios en el centro mismo de las preocupaciones de la sociedad e ilumina sus inquietudes con las verdades perennes y salvíficas. A 135 años de la publicación de Rerum novarum la Doctrina Social de la Iglesia es más relevante que nunca.
3. El binomio “técnica y dominio” que presenta el capítulo tercero donde se sitúa la reflexión sobre la IA requiere de una especial reflexión. El lema del positivismo moderno “prever para proveer” implicó un crecimiento radical de la tecnología basado en el dominio de la naturaleza entendida como una realidad puramente material y desvinculada de cualquier causalidad espiritual. Esta hermenéutica de lo natural como puramente técnico, que estuvo a la base de la primera revolución industrial, sigue acompañando esta nueva revolución tecnológica. Han sido muchas las voces desde la ciencia, la filosofía, la literatura y la teología las que han llamado la atención respecto del peligro de deshumanización que implica la identificación inhumana de técnica y dominio. En esta hermenéutica, la técnica es la disposición epocal en la cual el dominio del hombre ha hecho disponible todas las cosas transformándolas en algo útil, despojándolas de su misterio y de su carácter sacramental e indicador del “mundo invisible” como enseña san John Henry Newman. Por el contrario, la hermenéutica de la ciudad de Dios, del amor y del cuidado pone como centro a la persona humana porque en el centro de ella habita Dios. Este es el verdadero fundamento y el límite de su dominio y por tanto de su capacidad técnica. Custodiar la persona humana es, entonces, custodiar lo indispensable, lo único, lo irrepetible, lo misterioso y poético que nos constituye en último término y que nos refiere a Dios. Aquí se hace especialmente relevante la afirmación de san Ireneo de Lyon: “la gloria de Dios es el hombre de pie”, es decir, Dios ha creado a la persona humana y la ha dotado de dominio y de capacidad técnica. Dios no es enemigo del hombre, siendo ésta la permanente tentación demoníaca. Dios es amigo del hombre y, por tanto, amigo de su dominio y de su técnica toda vez que ésta está orientada a la construcción del Reino con el auxilio eficaz de Su Gracia. La IA no escapa del designio providente de Dios que conduce todas las cosas suave y firmemente a su fin.
5. La cultura del poder y la civilización del amor son el marco actual del contexto perenne en el que se desarrolla el drama de la salvación del género humano. Sólo a modo ilustrativo y para aprovechar de rendir un homenaje a los 500 años de la fundación de la Escuela de Salamanca (que se cuentan desde la toma de posesión de la cátedra de prima del doctor dominico Francisco de Vitoria), los tópicos de la encíclica no pueden ser otros que los tópicos de la enseñanza social, ética y jurídica de la Iglesia en todos los tiempos. También entonces la Escuela de Salamanca reflexionó sobre la potestad de la Iglesia y su mandato de enseñar, cuestión que hoy realiza León XIV con su magisterio ordinario en MH. Se trata de una potestad espiritual cuyo fin es la salvación del género humano por medio de la predicación del Evangelio y la administración de los sacramentos, es decir, con la representación real y actual de la obra del mismo Cristo que, con palabras y obras intrínsecamente conexas reveló el amor del Padre y Su designio de salvación en el Espíritu llamando a todos los hombres a su elevación sobrenatural (DV, n. 2). Esta reflexión se extendió a la potestad civil y, especialmente, al origen del poder y del dominio. En ese entonces se trataba del dominio del soberano y del equívoco de la monarquía absoluta; hoy se trata del dominio de la técnica que se atribuye un poder cuasi divino que no viene del pueblo sino que de sí misma. Nuevamente, es necesario reflexionar sobre el origen de tal poder y de su recta ordenación. Vitoria y la Escuela de Salamanca, a propósito de los justos títulos de conquista, reflexionaron sobre la dignidad de la persona humana, especialmente de los pueblos originarios de las Indias occidentales. No dudaron en atribuirle los mismos derechos que los conquistadores por el reconocimiento en ellos de la racionalidad plena de la politicidad natural de la cual estaban investidos por el solo hecho de ser hombres. Por eso, y aquí un nuevo paralelo con la encíclica que invitamos a leer, reflexionaron sobre la guerra solamente justificada por la defensa y la reparación ante una injuria gravísima que rompía el orden relacional basado en la amistad humana y racional que está a la base del orden social. Sirva este pequeño paralelo para comprender que MH se inscribe en la plurisecular tradición magisterial y teológica de la Iglesia de cumplir su misión salvífica a través de la enseñanza del Evangelio que es, en su centro, la salvación de la persona humana por medio de su custodia en la amistad divina.
6. Culmino estas reflexiones siguiendo el orden argumentativo del Pontífice. La plenitud del deseo del hombre de ser como Dios, es decir, de ser persona en el amor a semejanza de las Personas divinas sólo es posible porque “la fe conoce un ‘más allá’ que nace del don de Dios. Esta transformación es obra del Espíritu Santo. Como enseñaba santo Tomás de Aquino, este proceso de elevación y transformación ‘sobrepasa la capacidad de la naturaleza humana’, porque hay una distancia infinita entre nuestra naturaleza y la vida de Dios. Sin embargo, es posible ser introducidos en el seno de esa vida inextinguible, incluso mientras caminamos entre los límites de este mundo. Y quien hace posible este camino sólo puede ser el Infinito que se da: es Dios mismo quien supera la desproporción ‘infinita’” (n. 127). Esta superación se ha realizado en la Encarnación, la Pasión, la Muerte y la Resurrección del Verbo eterno de Dios. Y se ha comunicado a la humanidad a través de la gracia bautismal que nos introduce en Su Cuerpo Místico que es la Iglesia. Esta participación se hace real en la Eucaristía y ejemplar en María Virgen. Este es el modo en el que Dios ha querido custodiar la persona humana y este es el modo en el cual la Iglesia lo hace “en el tiempo de la IA”. La encíclica no ofrece sólo una sólida comprensión de la situación, de la disyuntiva y de la tarea fundamental de nuestra época, tampoco se limita a una convocación moral profundamente fundamentada en el diálogo con las ciencias humanas. Su última convicción y palabra no puede ser otra que sobrenatural: cumple su misión en la medida que anuncia a Jesucristo, único salvador del mundo, principio y fin de la historia, también de esta época en la que esta misión se identifica con la custodia de la magnífica persona humana en el tiempo de la IA.
Julio Söchting Herrera O.P.
Director Revista Studium. Filosofía y Teología
Universidad del Norte Santo Tomás de Aquino, Tucumán, Argentina
jsochting@unsta.edu.ar
ORCID: 0000-0002-5520-994X
Publicado bajo una Licencia Creative Commons Atribución-NoComercial 4.0 Internacional