Filópolis en Cristo. Nº 2 (2024), 23-34
La enseñanza del Magisterio de la Iglesia
Presentamos la exposición de Francisco en la reunión del G7 (Gru-
po de los Siete), en la que reexiona en torno al desarrollo de la tec-
nología y, particularmente, de la IA (Inteligencia Articial). Situando
la cuestión en el marco del Proyecto de Dios sobre la Creación y del
mandato recibido por el hombre de “cuidar y cultivar” la Casa Co-
mún, muestra las luces y sombras del proceso y concluye instando
a rehabilitar la política, que rectamente entendida y ejercitada tiene
una importante palabra que decir.
Discurso del Santo Padre Francisco
A los participantes en la Sesión del G7 sobre Inteli-
gencia Articial
Borgo Egnazia (Apulia-Italia)
Viernes, 14 de junio de 2024
Un instrumento fascinante y tremendo
Estimadas señoras, distinguidos señores:
Me dirijo hoy a ustedes, líderes del Foro Intergubernamental del
G7, con una reexión sobre los efectos de la inteligencia articial en
el futuro de la humanidad.
“La Sagrada Escritura atestigua que Dios ha dado a los hombres su
Espíritu para que tengan ‘habilidad, talento y experiencia en la ejecu-
24 Filópolis en Cristo. Nº 2 (2024),23-34
La enseñanza del Magisterio de la Iglesia
ción de toda clase de trabajos’ (Ex 35:31)”1. La ciencia y la tecnología
son, por lo tanto, producto extraordinario del potencial creativo que
poseemos los seres humanos2.
Ahora bien, la inteligencia articial se origina precisamente a par-
tir del uso de este potencial creativo que Dios nos ha dado.
Dicha inteligencia articial, como sabemos, es un instrumento
extremadamente poderoso, que se emplea en numerosas áreas de la
actividad humana: de la medicina al mundo laboral, de la cultura al
ámbito de la comunicación, de la educación a la política. Y es lícito
suponer, entonces, que su uso inuirá cada vez más en nuestro modo
de vivir, en nuestras relaciones sociales y en el futuro, incluso en la
manera en que concebimos nuestra identidad como seres humanos3.
El tema de la inteligencia articial, sin embargo, a menudo es per-
cibido de modo ambivalente: por una parte, entusiasma por las posibi-
lidades que ofrece; por otra, provoca temor ante las consecuencias que
podrían llegar a producirse. A este respecto podríamos decir que todos
nosotros, aunque en diferente medida, estamos atravesados por dos
emociones: somos entusiastas cuando imaginamos los progresos que
se pueden derivar de la inteligencia articial, pero, al mismo tiempo,
nos da miedo cuando constatamos los peligros inherentes a su uso4.
No podemos dudar, ciertamente, de que la llegada de la inteligen-
cia articial representa una auténtica revolución cognitiva-industrial,
que contribuirá a la creación de un nuevo sistema social caracterizado
por complejas transformaciones de época. Por ejemplo, la inteligen-
cia articial podría permitir una democratización del acceso al saber,
el progreso exponencial de la investigación cientíca, la posibilidad
de delegar a las máquinas los trabajos desgastantes; pero, al mismo
tiempo, podría traer consigo una mayor inequidad entre naciones
avanzadas y naciones en vías de desarrollo, entre clases sociales do-
minantes y clases sociales oprimidas, poniendo así en peligro la po-
1 Francisco, Mensaje para la 57 Jornada Mundial de la Paz (1 enero 2024), 1.
2
Cf. ibíd.
3
Cf. ibíd., 2.
4
Esta ambivalencia ya había sido advertida por el Papa san Pablo VI en su Discurso
al personal del “Centro de Automación de Análisis Lingüísticos” del Aloisiano de Ga-
llarate (19 junio 1964).
25
Filópolis en Cristo. Nº 2 (2024), 23-34
La enseñanza del Magisterio de la Iglesia
sibilidad de una “cultura del encuentro” y favoreciendo una “cultura
del descarte”.
La magnitud de estas complejas transformaciones está vinculada
obviamente al rápido desarrollo tecnológico de la misma inteligencia
articial.
Es precisamente este poderoso avance tecnológico el que hace de
la inteligencia articial un instrumento fascinante y tremendo al mis-
mo tiempo, y exige una reexión a la altura de la situación.
En esa dirección tal vez se podría partir de la constatación de que
la inteligencia articial es sobre todo un instrumento. Y resulta es-
pontáneo armar que los benecios o los daños que esta conlleve de-
penderán de su uso.
Esto es cierto, porque ha sido así con cada herramienta construida
por el ser humano desde el principio de los tiempos.
Nuestra capacidad de construir herramientas, en una cantidad y com-
plejidad que no tiene igual entre los seres vivos, nos habla de una condi-
ción tecno-humana. El ser humano siempre ha mantenido una relación
con el ambiente mediada por los instrumentos que iba produciendo. No
es posible separar la historia del hombre y de la civilización de la historia
de esos instrumentos. Algunos han querido leer en todo eso una especie
de privación, un décit del ser humano, como si, a causa de esa carencia,
estuviera obligado a dar vida a la tecnología (Gehlen, 1983, p. 43). Una
mirada atenta y objetiva en realidad nos muestra lo contrario. Vivimos
una condición de ulterioridad respecto a nuestro ser biológico; somos
seres inclinados hacia el fuera-de-nosotros, es más, radicalmente abier-
tos al más allá. De aquí se origina nuestra apertura a los otros y a Dios;
de aquí nace el potencial creativo de nuestra inteligencia en términos de
cultura y de belleza; de aquí, por último, se origina nuestra capacidad
técnica. La tecnología es así una huella de nuestra ulterioridad.
Sin embargo, el uso de nuestras herramientas no siempre está diri-
gido unívocamente al bien. Aun cuando el ser humano siente dentro de
sí una vocación al más allá y al conocimiento vivido como instrumento
de bien al servicio de los hermanos y hermanas, y de la casa común (cf.
Gaudium et spes, 16), esto no siempre sucede. Es más, no pocas veces,
precisamente gracias a su libertad radical, la humanidad ha pervertido
los nes de su propio ser, transformándose en enemiga de sí misma y
26 Filópolis en Cristo. Nº 2 (2024),23-34
La enseñanza del Magisterio de la Iglesia
del planeta (Laudato si, nn. 102-114). La misma suerte pueden correr
los instrumentos tecnológicos. Solamente si se garantiza su vocación
al servicio de lo humano, los instrumentos tecnológicos revelarán no
sólo la grandeza y la dignidad única del ser humano, sino también el
mandato que este último ha recibido de “cultivar y cuidar” el planeta y
todos sus habitantes (Gn 2:15). Hablar de tecnología es hablar de lo que
signica ser humanos y, por tanto, de nuestra condición única entre
libertad y responsabilidad, es decir, signica hablar de ética.
De hecho, cuando nuestros antepasados alaron piedras de sílex
para hacer cuchillos, los usaron tanto para cortar pieles para vestir-
se como para eliminarse entre sí. Lo mismo podría decirse de otras
tecnologías mucho más avanzadas, como la energía producida por la
fusión de los átomos, como ocurre en el Sol, que podría utilizarse para
producir energía limpia y renovable, pero también para reducir nues-
tro planeta a cenizas.
Pero la inteligencia articial es una herramienta aún más compleja.
Yo diría que es una herramienta sui generis. Así, mientras que el uso de
una herramienta simple -como un cuchillo- está bajo el control del ser
humano que lo utiliza y su buen uso depende sólo de él, la inteligencia
articial, en cambio, puede adaptarse de forma autónoma a la tarea
que se le asigne y, si se diseña de esa manera, podría tomar decisiones
independientemente del ser humano para alcanzar el objetivo jado5.
Conviene recordar siempre que la máquina puede, en algunas for-
mas y con estos nuevos medios, elegir por medio de algoritmos. Lo que
hace la máquina es una elección técnica entre varias posibilidades y
se basa en criterios bien denidos o en inferencias estadísticas. El ser
humano, en cambio, no sólo elige, sino que en su corazón es capaz de
decidir. La decisión es un elemento que podríamos denir el más estra-
tégico de una elección y requiere una evaluación práctica. A veces, fre-
cuentemente en la difícil tarea de gobernar, también estamos llamados
a decidir con consecuencias para muchas personas. Desde siempre la
reexión humana habla a este propósito de sabiduría, la phrónesis de
la losofía griega y, al menos en parte, la sabiduría de la Sagrada Escri-
tura. Frente a los prodigios de las máquinas, que parecen saber elegir
5
Cf. Francisco, Mensaje para la 57 Jornada Mundial de la Paz (1 enero 2024), 3.
27
Filópolis en Cristo. Nº 2 (2024), 23-34
La enseñanza del Magisterio de la Iglesia
de manera independiente, debemos tener bien claro que al ser humano
le corresponde siempre la decisión, incluso con los tonos dramáticos
y urgentes con que a veces ésta se presenta en nuestra vida. Condena-
ríamos a la humanidad a un futuro sin esperanza si quitáramos a las
personas la capacidad de decidir por sí mismas y por sus vidas, conde-
nándolas a depender de las elecciones de las máquinas. Necesitamos
garantizar y proteger un espacio de control signicativo del ser huma-
no sobre el proceso de elección utilizado por los programas de inteli-
gencia articial. Está en juego la misma dignidad humana.
Precisamente sobre este tema, permítanme insistir en que, en un
drama como el de los conictos armados, es urgente replantearse el
desarrollo y la utilización de dispositivos como las llamadas “armas
autónomas letales” para prohibir su uso, empezando desde ya por un
compromiso efectivo y concreto para introducir un control humano
cada vez mayor y signicativo. Ninguna máquina debería elegir jamás
poner n a la vida de un ser humano.
Hay que añadir, además, que el buen uso, al menos de las formas
avanzadas de inteligencia articial, no estará plenamente bajo el con-
trol ni de los usuarios ni de los programadores que denieron sus
objetivos iniciales en el momento de elaborarlos. Y esto es tanto más
cierto cuanto que es muy probable que, en un futuro no lejano, los
programas de inteligencias articiales puedan comunicarse directa-
mente entre sí, para mejorar su rendimiento. Y, si en el pasado, los
seres humanos que utilizaron herramientas simples vieron su exis-
tencia modelada por estos últimos -el cuchillo les permitió sobrevivir
al frío pero también desarrollar el arte de la guerra-, ahora que los
seres humanos han modelado un instrumento complejo, verán que
este modelará aún más su existencia6.
El mecanismo básico de la inteligencia articial
Permítanme ahora detenerme brevemente sobre la complejidad
de la inteligencia articial. Básicamente, la inteligencia articial es
6
Las ideas de Marshall McLuhan y John M. Culkin son particularmente relevantes
para comprender las consecuencias del uso de la inteligencia articial.
28 Filópolis en Cristo. Nº 2 (2024),23-34
La enseñanza del Magisterio de la Iglesia
una herramienta diseñada para resolver un problema y funciona me-
diante un encadenamiento lógico de operaciones algebraicas, reali-
zado en base a categorías de datos, que se comparan para descubrir
correlaciones y mejorar su valor estadístico mediante un proceso de
autoaprendizaje basado en la búsqueda de datos adicionales y la au-
tomodicación de sus procedimientos de cálculo.
La inteligencia articial está diseñada de este modo para resolver
problemas especícos, pero para quienes la utilizan la tentación de ob-
tener, a partir de las soluciones puntuales que propone, deducciones
generales, incluso de orden antropológico, es a menudo irresistible.
Un buen ejemplo es el uso de programas diseñados para ayudar a
los magistrados en las decisiones relativas a la concesión de prisión
domiciliaria a presos que están cumpliendo una condena en una ins-
titución penitenciaria. En este caso, se pide a la inteligencia articial
que prevea la probabilidad de reincidencia del delito cometido por un
condenado a partir de categorías prejadas (tipo de delito, comporta-
miento en prisión, evaluación psicológica y otros) lo que permite a la
inteligencia articial tener acceso a categorías de datos relacionados
con la vida privada de la persona detenida (origen étnico, nivel edu-
cativo, línea de crédito, etc.). El uso de tal metodología -que a veces
corre el riesgo de delegar de facto en una máquina la última palabra
sobre el destino de una persona- puede llevar implícitamente la refe-
rencia a los prejuicios inherentes a las categorías de datos utilizados
por la inteligencia articial.
El ser clasicado en un cierto grupo étnico o, más prosaicamente,
el haber cometido hace años una pequeña infracción -el no haber pa-
gado, por ejemplo, una multa por aparcar en zona prohibida-, inui-
rá, de hecho, en la decisión acerca de la concesión de la prisión domi-
ciliaria. Por el contrario, el ser humano está siempre en evolución y es
capaz de sorprender con sus acciones, algo que la máquina no puede
tener en cuenta.
Hay que evidenciar también que aplicaciones análogas a ésta de
la que estamos hablando se multiplicarán gracias al hecho de que
los programas de inteligencia articial estarán cada vez más dotados
de la capacidad de interactuar directamente con los seres humanos
(chatbots), sosteniendo conversaciones y estableciendo relaciones de
29
Filópolis en Cristo. Nº 2 (2024), 23-34
La enseñanza del Magisterio de la Iglesia
cercanía con ellos, con frecuencia muy agradables y tranquilizadoras,
en cuanto tales programas de inteligencia articial están diseñados
para aprender a responder, de forma personalizada, a las necesidades
físicas y psicológicas de los seres humanos.
Olvidar que la inteligencia articial no es otro ser humano y que
no puede proponer principios generales, es a veces un gran error que
parte de la profunda necesidad de los seres humanos de encontrar
una forma estable de compañía, o bien de un presupuesto subcons-
ciente, es decir, de la creencia de que las observaciones obtenidas me-
diante un mecanismo de cálculo estén dotadas de las cualidades de
certeza indiscutible y de universalidad indudable.
Esta suposición es, sin embargo, descabellada, como demuestra
el examen de los límites intrínsecos del cálculo mismo. La inteligen-
cia articial usa operaciones algebraicas que se realizan según una
secuencia lógica (por ejemplo, si el valor de X es superior al de Y,
multiplica X por Y; si no divide X por Y). Este método de cálculo -de-
nominado algoritmo- no está dotado ni de objetividad ni de neutra-
lidad7. Al estar basado en el álgebra puede examinar sólo realidades
formalizadas en términos numéricos8.
No hay que olvidar, además, que los algoritmos diseñados para
resolver problemas muy complejos son sosticados de tal manera
que hacen muy difícil a los propios programadores la comprensión
exacta de cómo estos sean capaces de alcanzar sus resultados. Esta
tendencia a la sosticación corre el riesgo de acelerarse notablemente
con la introducción de los ordenadores cuánticos que no operan con
circuitos binarios (semiconductores o microchips), sino según las le-
yes, bastante articuladas, de la física cuántica. Por otra parte, la conti-
nua introducción de microchips cada vez más ecaces es la causa del
predominio del uso de la inteligencia articial por parte de las pocas
naciones que disponen de ella.
7
Cf. Francisco, Discurso a los participantes en la Plenaria de la Ponticia Academia
para la Vida (28 febrero 2020).
8
Cf. Francisco, Mensaje para la 57 Jornada Mundial de la Paz (1 enero 2024), 4.
30 Filópolis en Cristo. Nº 2 (2024),23-34
La enseñanza del Magisterio de la Iglesia
La calidad de las respuestas que los programas de inteligencia ar-
ticial pueden dar, sean más o menos sosticadas, depende en última
instancia de los datos que manejan y de cómo estos los estructuran.
Finalmente, me gustaría señalar un último ámbito en el que emer-
ge claramente la complejidad del mecanismo de la llamada inteligen-
cia articial generativa (Generative Articial Intelligence). Nadie
duda de que hoy en día están a disposición magnícos instrumentos
de acceso al conocimiento que permiten incluso el autoaprendizaje
(self-learning) y la autotutoría (self-tutoring) en una gran cantidad
de campos. Muchos de nosotros nos hemos quedado sorprendidos
por las aplicaciones fácilmente accesibles en línea para componer un
texto o producir una imagen sobre cualquier tema o materia. Esto
atrae de forma especial a los estudiantes que, cuando deben preparar
los trabajos, hacen un uso desmedido.
Estos alumnos, que a menudo están mucho más preparados y
acostumbrados al uso de la inteligencia articial que sus profesores,
olvidan, sin embargo, que la denominada inteligencia articial gene-
rativa, en sentido estricto, no es propiamente “generativa”. En reali-
dad, lo que ésta hace es buscar información en los macrodatos (big
data) y confeccionarla en el estilo que se le ha pedido. No desarrolla
conceptos o análisis nuevos. Repite lo que encuentra, dándole una
forma atractiva. Y cuanto más repetida encuentra una noción o una
hipótesis, más la considera legítima y válida. Más que “generativa”,
se la podría llamar “reforzadora”, en el sentido de que reordena los
contenidos existentes, contribuyendo a consolidarlos, muchas veces
sin controlar si tienen errores o prejuicios.
De este modo, no sólo se corre el riesgo de legitimar la difusión de
noticias falsas y robustecer la ventaja de una cultura dominante, sino
de minar también el proceso educativo en ciernes (in nuce). La educa-
ción, que debería dar a los estudiantes la posibilidad de una reexión
auténtica, corre el riesgo de reducirse a una repetición de nociones,
que se considerarán cada vez más incontestables, simplemente a cau-
sa de ser continuamente presentadas9.
9
Cf. ibíd., 3 y 7.
31
Filópolis en Cristo. Nº 2 (2024), 23-34
La enseñanza del Magisterio de la Iglesia
Poner de nuevo al centro la dignidad de la persona
en vista de una propuesta ética compartida
A lo que ya hemos dicho se añade una observación más general. La
época de innovación tecnológica que estamos atravesando, en efecto,
se acompaña de una particular e inédita coyuntura social, en la que
cada vez es más difícil encontrar puntos de encuentro sobre los gran-
des temas de la vida social. Incluso en comunidades caracterizadas
por una cierta continuidad cultural, se crean con frecuencia encendi-
dos debates y choques que hacen difícil llegar a acuerdos y soluciones
políticas compartidas, orientadas a la búsqueda de lo que es bueno y
justo. Además de la complejidad de las legítimas visiones que caracte-
rizan a la familia humana, emerge un factor que parece acomunar es-
tas distintas instancias. Se registra una pérdida o al menos un oscure-
cimiento del sentido de lo humano y una aparente insignicancia del
concepto de dignidad humana10. Pareciera que se está perdiendo el
valor y el profundo signicado de una de las categorías fundamenta-
les de Occidente: la categoría de persona humana. Y es así que en esta
época en la que los programas de inteligencia articial cuestionan al
ser humano y su actuar, precisamente la debilidad del ethos vincu-
lada a la percepción del valor y de la dignidad de la persona humana
corre el riesgo de ser el mayor daño (vulnus) en la implementación
y el desarrollo de estos sistemas. No debemos olvidar que ninguna
innovación es neutral. La tecnología nace con un propósito y, en su
impacto en la sociedad humana, representa siempre una forma de or-
den en las relaciones sociales y una disposición de poder, que habilita
a alguien a realizar determinadas acciones impidiéndoselo a otros.
Esta dimensión de poder que es constitutiva de la tecnología incluye
siempre, de una manera más o menos explícita, la visión del mundo
de quien la ha realizado o desarrollado.
Esto vale también para los programas de inteligencia articial.
Con el n de que estos instrumentos sean para la construcción del
10
Cf. Dicasterio para la Doctrina de la Fe, Declaración Dignitas innita, sobre la
dignidad humana (2 abril 2024).
32 Filópolis en Cristo. Nº 2 (2024),23-34
La enseñanza del Magisterio de la Iglesia
bien y de un futuro mejor, deben estar siempre ordenados al bien de
todo ser humano. Deben contener una inspiración ética.
La decisión ética, de hecho, es aquella que tiene en cuenta no sólo
los resultados de una acción, sino también los valores en juego y los
deberes que se derivan de esos valores. Por esto he acogido con satis-
facción la rma en Roma, en 2020, de la Rome Call for AI Ethics11 y
su apoyo a esa forma de moderación ética de los algoritmos y de los
programas de inteligencia articial que he llamado “algorética”12. En
un contexto plural y global, en el que también se muestran las dis-
tintas sensibilidades y plurales jerarquías en las escalas de valores,
parecería difícil encontrar una única jerarquía de valores. Pero en el
análisis ético podemos recurrir además a otros tipos de instrumentos.
Si nos cuesta denir un solo conjunto de valores globales, podemos
encontrar principios compartidos con los cuales afrontar y disminuir
eventuales dilemas y conictos de la vida.
Por esta razón ha nacido la Rome Call. En el término “algorética”
se condensa una serie de principios que se revelan como una plata-
forma global y plural capaz de encontrar el apoyo de las culturas, las
religiones, las organizaciones internacionales y las grandes empresas
protagonistas de este desarrollo.
La política que se necesita
No podemos, por tanto, ocultar el riesgo concreto, porque es in-
herente a su mecanismo fundamental, de que la inteligencia articial
limite la visión del mundo a realidades que pueden expresarse en nú-
meros y encerradas en categorías preestablecidas, eliminando la apor-
tación de otras formas de verdad e imponiendo modelos antropológi-
cos, socioeconómicos y culturales uniformes. El paradigma tecnológico
encarnado por la inteligencia articial corre el riesgo de dar paso a un
paradigma mucho más peligroso, que ya he identicado con el nombre
11
Cf. Francisco, Discurso a los participantes en la Plenaria de la Ponticia Acade-
mia para la Vida (28 febrero 2020).
12 Cf. Francisco, Discurso a los participantes en el Congreso “Promoting Digital
Child Dignity-From Concept to Action” (14 noviembre 2019); Discurso a los parti-
cipantes en la Plenaria de la Ponticia Academia para la Vida (28 febrero 2020).
33
Filópolis en Cristo. Nº 2 (2024), 23-34
La enseñanza del Magisterio de la Iglesia
de “paradigma tecnocrático”13. No podemos permitir que una herra-
mienta tan poderosa e indispensable como la inteligencia articial re-
fuerce tal paradigma, sino que más bien debemos hacer de la inteligen-
cia articial un baluarte precisamente contra su expansión.
Y es precisamente aquí donde urge la acción política, como recuer-
da la encíclica Fratelli tutti. Ciertamente “para muchos la política hoy
es una mala palabra, y no se puede ignorar que detrás de este hecho
están a menudo los errores, la corrupción, la ineciencia de algunos
políticos. A esto se añaden las estrategias que buscan debilitarla, re-
emplazarla por la economía o dominarla con alguna ideología. Pero,
¿puede funcionar el mundo sin política? ¿Puede haber un camino e-
caz hacia la fraternidad universal y la paz social sin una buena políti-
ca?” (Fratelli tutti, 176).
Nuestra respuesta a estas últimas preguntas es: ¡no! ¡La política sir-
ve! Quiero reiterar en esta ocasión que “ante tantas formas mezquinas
e inmediatistas de política (...), la grandeza política se muestra cuando,
en momentos difíciles, se obra por grandes principios y pensando en el
bien común a largo plazo. Al poder político le cuesta mucho asumir este
deber en un proyecto de nación y más aún en un proyecto común para
la humanidad presente y futura” (Fratelli tutti, 178).
Estimadas señoras, distinguidos señores:
Mi reexión sobre los efectos de la inteligencia articial en el futu-
ro de la humanidad nos lleva así a la consideración de la importancia
de la “sana política” para mirar con esperanza y conanza nuestro
futuro. Como he dicho en otra ocasión, “la sociedad mundial tiene se-
rias fallas estructurales que no se resuelven con parches o soluciones
rápidas meramente ocasionales. Hay cosas que deben ser cambiadas
con replanteos de fondo y transformaciones importantes. Sólo una
sana política podría liderarlo, convocando a los más diversos sectores
y a los saberes más variados. De esa manera, una economía integra-
da en un proyecto político, social, cultural y popular que busque el
13
Para una exposición más amplia, remito a mi Carta encíclica Laudato si’, sobre el
cuidado de la casa común (24 mayo 2015).
34 Filópolis en Cristo. Nº 2 (2024),23-34
La enseñanza del Magisterio de la Iglesia
bien común puede ‘abrir camino a oportunidades diferentes, que no
implican detener la creatividad humana y su sueño de progreso, sino
orientar esa energía con cauces nuevos’ (Laudato si’, 191)” 14.
Este es precisamente el caso de la inteligencia articial. Corres-
ponde a cada uno hacer un buen uso de ella, y corresponde a la políti-
ca crear las condiciones para que ese buen uso sea posible y fructífero.
Gracias.
14
Cf. Fratelli tutti, 179.
