Con motivo del 135.º aniversario de la «Rerum novarum», el Pontífice reflexiona en su primera encíclica, «Magnifica humanitas», sobre la doctrina social de la Iglesia en la era de la inteligencia artificial. El llamamiento a custodiar «una magnífica humanidad habitada por Dios», promoviendo la verdad, la dignidad del trabajo, la justicia social y la paz. En la era digital, es necesario desarmar la IA y superar la teoría de la «guerra justa», relanzando el diálogo y el multilateralismo.
Resumen de la Encíclica elaborado por Isabella Piro, de Vaticannews.
La encíclica de León XIV: la IA sirva a la humanidad, no al poder de pocos
«La magnífica humanidad que Dios ha creado se encuentra hoy ante una elección decisiva: levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos». El incipit de la primera encíclica de León XIV —Magnifica humanitas, «sobre la custodia de la persona humana en la era de la inteligencia artificial»— resume sus razones fundamentales y su propósito. Publicada hoy, lunes 25 de mayo, fue firmada por el Pontífice el pasado 15 de mayo, en el 135.º aniversario de la promulgación de la Rerum novarum de León XIII. Y de su predecesor, el papa Prevost, ha recogido el legado, escribiendo una encíclica social que aborda uno de los principales retos de la época contemporánea: la inteligencia artificial.
Dividida en cinco capítulos, más una introducción y una conclusión, Magnifica humanitas parte de una premisa: la tecnología no es una «fuerza antagónica respecto a la persona» (4), ni «un mal en sí misma» (9). Sin embargo, «no es neutra, porque asume el rostro de quien la concibe, la financia, la regula y la utiliza». De ahí el llamamiento del Pontífice a «construir en el bien» y a «permanecer humanos», siguiendo la lógica de la corresponsabilidad valiente, de la subsidiariedad, de la comunión, para que «el mundo pueda reconocer… en el corazón del ser humano el lugar donde Dios desea habitar» (16).
TEXTO COMPLETO DE LA ENCÍCLICA «MAGNIFICA HUMANITAS»
La Doctrina Social de la Iglesia es teología de la comunión
El primer capítulo —Un pensamiento dinámico fiel al Evangelio— repasa la Doctrina Social de la Iglesia (DSI) en el magisterio reciente y en el Concilio Vaticano II, poniendo de relieve «su carácter dinámico» (17). Lejos de ser «un manual de principios y normas que aplicar», la DSI es más bien «un camino de discernimiento comunitario», una «teología de la comunión en la historia» (27) que orienta la lectura de los acontecimientos a la luz del Evangelio. León XIV recuerda el pensamiento de sus predecesores: desde Pío XII —el primero en emplear la expresión «Doctrina social de la Iglesia» en la exhortación apostólica Menti nostrae de 1950— hasta el Papa Francisco, pasando naturalmente por la Rerum novarum de 1891, definida como «hito en la evolución del magisterio social» (30). En sus respectivas épocas, cada sucesor de Pedro «ha puesto de relieve diferentes aspectos de un único patrimonio: la dignidad de la persona, el valor del trabajo, la destinación universal de los bienes, la solidaridad y la subsidiariedad, el cuidado de la creación, la centralidad de la paz y la fraternidad» (45).
Proteger la dignidad humana: la persona no es un recurso que se pueda explotar
En el segundo capítulo, León XIV enumera los Fundamentos y principios de la Doctrina social de la Iglesia: entre los primeros, incluye la dignidad de la persona, creada a imagen y semejanza de Dios. Es necesario recordarlo, ya que «la presión de nuevas ideologías y de determinados intereses muy poderosos» puede reducir a la persona a «un recurso que se usa y se explota» o a «lo que realiza o produce» (51). Por el contrario, «la dignidad fundamental de cada persona no se adquiere ni se merece, ni necesita ser demostrada» (53). Un segundo fundamento de la Doctrina Social de la Iglesia es la inviolabilidad de los derechos humanos, entre los cuales el primero es el derecho a la vida «desde la concepción hasta su final natural»: a este respecto, León XIV define el aborto provocado, el asesinato de inocentes y la eutanasia como «decisiones gravemente ilícitas» (55). El tercer fundamento es el reconocimiento de los derechos de las minorías, con especial atención a las mujeres: en su favor, el Pontífice pide «decisiones concretas» en las leyes, en el trabajo, en la educación, en las responsabilidades sociales y políticas, para que sean verdaderamente escuchadas y valoradas (57).
Es inmoral e inaceptable eliminar o someter a una nación
En cuanto a los principios de la DSI, León XIV señala cinco: el primero es el bien común, «forma social de la dignidad reconocida a cada uno» (59). En un punto el Papa es particularmente firme: «La promoción del bien común no puede separarse nunca del respeto al derecho de los pueblos a existir, a custodiar su propia identidad y a contribuir con su originalidad a la familia de las naciones». En consecuencia, «cualquier intento o proyecto de eliminar o someter a una nación es gravemente inmoral y, por tanto, inaceptable» (64).
La tecnología no debe concentrarse en manos de unos pocos
El segundo principio se refiere a la destinación universal de los bienes: aquí y en otros puntos de la encíclica, León XIV insiste en la necesidad de que los conocimientos y las tecnologías no se concentren en manos de unos pocos, alimentando la brecha entre los incluidos y los excluidos de la revolución digital (67). De ello se derivan el tercer y el cuarto principio, a saber, la subsidiariedad (68) —que exige superar el paternalismo y el asistencialismo en favor de la corresponsabilidad— y la solidaridad (73), «principio y virtud» que se opone a la indiferencia y tiene en cuenta a los pueblos y a las generaciones futuras.
La justicia social y la prueba de fuego de los migrantes
El quinto principio de la DSI señalado por el Papa es la justicia social: en la era digital, debe garantizar a todos un acceso equitativo a las oportunidades, proteger a los más frágiles, combatir el odio y la desinformación, someter a control público el uso de los datos y las tecnologías, «de modo que el criterio no sea solo el lucro, sino la dignidad de cada persona y el bien de los pueblos» (80). León XIV señala en los migrantes, los refugiados y los desplazados un «examen decisivo» en este ámbito: la forma en que la sociedad los trata demuestra «si la idea de justicia está guiada por el miedo o por la fraternidad». De ahí el llamamiento tanto a custodiar «el derecho a la esperanza» de quienes se ven obligados a partir, garantizándoles vías seguras y legales, una acogida digna y la integración; como a promover «el derecho a quedarse» de cada uno en su propia tierra en paz y seguridad, abordando «las causas profundas» de las migraciones (81).
Los abusos y el examen de conciencia para la Iglesia
El Pontífice entiende que los cinco principios mencionados están dirigidos no solo a la sociedad, sino también a la Iglesia, llamada a «un examen de conciencia»: el Papa exhorta a «depurar las relaciones y las estructuras eclesiales de aquellas distorsiones que producen desigualdades, opacidad y prevaricaciones». La invitación es a escuchar a las «víctimas de abusos espirituales, económicos, institucionales, sexuales, de poder y de conciencia», ya que ello «forma parte integrante de un camino de justicia, que comprende el reconocimiento del daño, la reparación justa y la prevención» (89).
Se necesita un código ético compartido sobre la IA
El tercer capítulo —Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA— entra en el meollo del tema de la inteligencia artificial. León XIV advierte contra el «paradigma tecnocrático» ya denunciado por Francisco y por el cual toda elección viene dictada exclusivamente por parámetros de eficiencia y beneficio (92). Por el contrario, la tecnología más potente no es necesariamente la mejor: la IA puede imitar y simular al hombre, pero no posee conciencia moral, empatía, capacidad afectiva, relacional ni espiritual. Por lo tanto, es necesario abordar la IA con sobriedad y vigilancia, manteniendo la claridad sobre las responsabilidades de todas sus etapas (accountability) y apostando por políticas y marcos jurídicos adecuados, una supervisión independiente y la educación de los usuarios. Sobre todo, se necesita un código ético sometido a criterios de justicia social compartida, porque «no sirve una IA más moral si esa moral la deciden unos pocos» (107). Sin dejar de lado el impacto ambiental de las nuevas tecnologías, que requieren grandes cantidades de energía y agua, afectando a las emisiones de dióxido de carbono y dañando la Creación (101).
Desarmar la IA y sustraerla de la lógica competitiva
Hay que «desarmar la IA» —insiste León XIV— para sustraerla de la lógica de la competencia militar, económica y cognitiva; para romper la equivalencia entre poder técnico y derecho a gobernar; para sustraerla de los monopolios e impedir que domine al ser humano. Esta tarea es ética, técnica y ecológica porque la IA «ya es el entorno en el que estamos inmersos y el poder con el que debemos contar» (110). Se dedica un amplio espacio a la crítica del transhumanismo y del poshumanismo, que interpretan el progreso como la superación de los límites de lo humano. En cambio, el límite no es un defecto que haya que eliminar, sino una dimensión constitutiva de la persona, porque «el ser humano no florece a pesar del límite, sino a menudo a través del límite» (118), reconociendo en la fragilidad y en la finitud lugares en los que maduran la relación, el cuidado y la apertura a Dios y al otro.
Que el progreso de la técnica no haga retroceder el corazón
Hay mucho en juego: hacer crecer la técnica eliminando los límites de lo humano significa, de hecho, hacer retroceder el corazón. Magnífica y, sin embargo, herida, la humanidad «no debe ser sustituida ni superada». La tecnología puede aliviar sus sufrimientos y abrirle nuevas posibilidades, pero no debe negarla en lo que le es propio: «la capacidad de relación y de amor» (126). Ante la IA, la verdadera alternativa no está entre el entusiasmo y el miedo, sino entre dos formas de construir el progreso: al servicio de la persona y de los pueblos o de las lógicas de poder (129). Una elección que nos concierne a todos: «la construcción de Babel o la de Jerusalén», las dos «ciudades» del hombre y de Dios señaladas también por san Agustín (130), comienza por cada uno.
Ecología de la comunicación y centralidad de la escuela
En el cuarto capítulo – Custodiar lo humano en la transformación. Verdad, trabajo, libertad — la encíclica considera la verdad como un bien común y un elemento esencial de la democracia. En el entorno digital, la verdad debe plasmarse en una «ecología de la comunicación» para que la cultura generada por la web no se convierta en un instrumento de «homologación y dominio», sino en un espacio de maduración para la «libertad interior y el pensamiento crítico» (136-137). El Papa señala algunos instrumentos: transparencia en los criterios de selección de contenidos, protección de los datos personales, un periodismo serio basado en la argumentación y la verificación, una nueva conciencia en el uso «correcto y crítico» de la IA, la integración de los conocimientos. También se exige a la Iglesia una comunicación transparente y leal, sobre todo en los casos de injusticias y abusos. Es fundamental, en la encíclica, el llamamiento a una alianza educativa renovada para que en los jóvenes no se apague «el deseo de hacer preguntas» a causa de máquinas perfectas que hacen parecer inútil el pensamiento humano. «Debemos educarnos en el ayuno de la IA» (140), subraya León XIV, eliminando las desigualdades en el acceso a la educación y apostando por la escuela como lugar donde se aprende a «buscar y amar la verdad» (143) y se enseña lo que lo digital no puede dar: «tiempo compartido para aprender y relaciones fiables» (147).
El trabajo debe centrarse en la persona, no en el beneficio
En la «cuarta revolución industrial» que representa la transición digital, el Pontífice destaca la importancia de proteger la dignidad y el valor del trabajo: «Las nuevas formas de trabajar no son necesariamente mejores», explica, ya que la tecnología puede descalificar a los trabajadores, relegarlos a funciones marginales y someterlos a una vigilancia automatizada (150). Por el contrario, es necesario diseñar sistemas centrados en la persona y no solo en el rendimiento, porque la tecnología puede sin duda liberar al hombre de tareas pesadas o repetitivas, pero no debe conducir en absoluto al desempleo en nombre de la reducción de costes y el aumento de los beneficios. En un escenario en el que se perfilan mayores niveles de pobreza y desigualdad, provocados por sistemas automatizados que han sustituido al hombre, el Pontífice aboga también por una renovación de las organizaciones sindicales (155).
El desarrollo no se mide solo en términos de PIB
La transformación digital debe gestionarse de antemano mediante criterios sociales estables, formación accesible y continua para los trabajadores y responsabilidad empresarial. El Pontífice señala, además, la necesidad de superar el PIB como parámetro del grado de desarrollo de un país, apostando en su lugar por la dignidad del trabajo, la prosperidad compartida, la reducción de las desigualdades y la protección del medio ambiente. La financiación por la financiación es, de hecho, diferente de la financiación para el desarrollo (159-160). Y, siguiendo la estela de San Pablo VI, se subraya la interdependencia entre paz y desarrollo, abogando por una cooperación internacional capaz de definir estrategias comunes «sobre todo en favor de los países y los grupos más vulnerables», porque la prosperidad contribuye a la paz «solo si es generalizada, inclusiva y sostenible» (163).
La familia, bien social primario
En la encíclica destaca, además, la referencia a la familia, fundada en la unión estable entre un hombre y una mujer: es «bien social primario», «célula fundamental e insustituible de toda organización comunitaria» (165) que debe apoyarse también mediante políticas laborales que favorezcan la estabilidad y ritmos humanos, de modo que se garantice el justo equilibrio de vida y se proteja esa «capacidad de construir el futuro» que hace generativa a la sociedad.
La «arquitectura de la visibilidad» y los riesgos para la libertad
Por último, el tema de la libertad humana, que hay que proteger contra la dependencia y la mercantilización: en una época en la que las plataformas digitales están diseñadas para acaparar el tiempo de los usuarios y explotar sus fragilidades, es urgente reforzar la libertad interior de cada uno y hacer frente al riesgo del control social derivado de la recopilación masiva de datos y del uso de sistemas algorítmicos. Perfilar, predecir y orientar los comportamientos es, de hecho, «un poder nuevo» (171) que corre el riesgo de discriminar a los más débiles. El Papa deplora, en particular, la «arquitectura de la visibilidad» que premia y amplifica solo lo que es visible, moldeando opiniones y generando conformismo.
Nuevas formas de esclavitud y nuevo colonialismo
La IA genera nuevas formas de esclavitud, como la de los «cuerpos marcados, mutilados, consumidos» (173) de quienes trabajan en la extracción de las «tierras raras» necesarias para la tecnología. Por ello, la lucha contra las nuevas formas de esclavitud es otra «prueba decisiva para el discernimiento ético» de la transformación digital. A este respecto, León XIV subraya que «la Iglesia renueva su firme condena contra toda forma de esclavitud, trata y mercantilización de las personas» y reitera que no reaccionar o tolerar estas «graves violaciones de la dignidad humana» significa, de hecho, «hacerse cómplice» (174). Al mismo tiempo, el Papa pide «sinceramente perdón» por el retraso con el que la Iglesia, en el pasado, condenó «el flagelo de la esclavitud». La encíclica se refiere también a las «nuevas tierras raras del poder», es decir, la información vital —por ejemplo, sobre salud y demografía— utilizada para orientar las estrategias económicas. Se trata, explica el Pontífice, de una faceta inédita del colonialismo que se apropia de los datos y transforma las vidas personales en información explotable, convirtiendo el entorno digital en un «espacio de depredación» (178-179).
Superar la teoría de la «guerra justa»
En el quinto y último capítulo —La cultura del poder y la civilización del amor—, León XIV dirige su mirada hacia la guerra: «La revolución digital está modificando la gramática de los conflictos» y, sin un enfoque ético, las decisiones sobre la vida y la muerte de las personas serán cada vez más impersonales, considerándose el recurso a la fuerza como una «opción inmediata y viable» (182-183) . En la base de todo hay una «cultura del poder» que normaliza la guerra y la rehabilita como «instrumento de política internacional», favoreciendo el rearme. Sobre la opinión pública, que en el pasado veía la beligerancia solo como extrema ratio, hoy pesan también las narrativas mediáticas polarizantes, así como «una preocupante pérdida de memoria histórica» que nos priva de una visión a largo plazo (191). En consecuencia, hoy la paz ya no se entiende como una tarea que hay que asumir, sino como un intervalo precario entre conflictos. Por ello, León XIV reitera que —sin perjuicio del derecho a la legítima defensa en su sentido más estricto— es necesario superar la teoría de la «guerra justa», promoviendo más bien el diálogo, la diplomacia y el perdón (192).
Ningún algoritmo hace que la guerra sea moralmente aceptable
El Papa Prevost no deja de lamentar el crecimiento de la industria bélica, la carrera armamentística nuclear y la aparición de nuevos actores armados —entre ellos los yihadistas— que pretenden perpetuar los conflictos como fuente de poder y de ingresos. Es contundente, además, la advertencia contra el uso de armas relacionadas con la IA, ya que «no existe ningún algoritmo que pueda hacer que la guerra sea moralmente aceptable»; es más: la tecnología «no libera al conflicto de su intrínseca inhumanidad, solo puede hacerlo más rápido e impersonal, rebajando el umbral del recurso a la violencia y transformando la defensa en previsión operativa, con las víctimas reducidas a datos. Así, nos acostumbra a la idea de que la violencia es inevitable y solo hay que optimizarla» (198). Por lo tanto, se necesitan restricciones éticas rigurosas, compartidas a nivel internacional, basadas en la responsabilidad personal y en la protección de los civiles, porque «toda tecnología que facilite atacar sin ver el rostro del otro rebaja el umbral moral del conflicto» (199).
La crisis del multilateralismo
La cultura del poder surge también de la crisis del multilateralismo y del surgimiento de un «multipolarismo desordenado y conflictivo» en el que prevalece la desconfianza hacia el otro (201). La fuerza del derecho se sustituye por el derecho del más fuerte; las lógicas del poder prevalecen sobre la construcción de la paz, relegada a un segundo plano, y las instituciones creadas para custodiar el destino común de los pueblos se encuentran ahora debilitadas, sin que se reconozca su autoridad moral. A este respecto, el Papa auspicia para la ONU y para el sistema político internacional «reformas profundas» que superen la actual crisis de valores en favor del verdadero bien común (226).
Una Realpolitik irresponsable
Hoy, prosigue la encíclica, se libran guerras «híbridas» que abarcan los ámbitos económico, financiero e informático, aprovechando la desinformación y el miedo para influir en la opinión pública y presentar el aumento del gasto militar como la «única respuesta» a un futuro incierto. Pero todo esto no es más que un «falso realismo», una irresponsable Realpolitik que siembra en las conciencias y en las culturas la resignación ante una guerra ineludible y califica la paz de utopía (204-205). Sin excluir que, para algunos, el conflicto armado podría ser un instrumento de «gestión cínica» de las dificultades, así como una forma de desviar la atención de los problemas internos (208).
La civilización del amor
El cristiano está llamado a responder a esta cultura del poder construyendo «la civilización del amor»: la gracia, de hecho, no elimina el conflicto como por arte de magia, sino que genera «una resistencia activa al mal y una sorprendente creatividad en el bien» (211). Cada uno, en su ámbito de acción, está llamado a elegir entre alimentar la lógica de la fuerza o custodiar la paz, frenando la deshumanización con pequeños actos de fidelidad y tenacidad. El Papa señala cinco «vías de responsabilidad»: desarmar las palabras diciendo la verdad; construir la paz en la justicia; asumir la mirada de las víctimas tomando posición, porque hay conflictos en los que «no es justo permanecer neutrales». Los ataques contra civiles, hospitales e infraestructuras hieren a la propia humanidad y no pueden quedar relegados al ámbito del análisis abstracto. Por el contrario, hay que dar voz a las víctimas para «tomar verdadera conciencia del abismo de maldad que encierra» la guerra y toda violencia (217). Y aún más: el Papa exhorta a cultivar «un sano realismo» que busque vías de paz viables con hechos, no solo con palabras.
No utilizar el nombre de Dios para legitimar la guerra
Por último, relanzar el diálogo pasando de una cultura del poder a una cultura de la negociación. También es decisivo «el diálogo entre las religiones», portador de un mensaje de paz. «Quien utiliza el nombre de Dios para legitimar el terrorismo, la violencia o la guerra, traiciona su rostro —advierte León XIV—: luchar en nombre de la religión significa, en realidad, golpear a la propia religión» (223). Por su parte, la diplomacia de la Santa Sede utiliza «el principio evangélico de la misericordia» como criterio concreto de la acción política. De ahí deriva la exhortación a la oración, porque la paz proviene ante todo de Dios (227-228).
La magnífica humanidad
Al concluir la carta, el Pontífice invita a los fieles a vivir las nuevas tecnologías a la luz del Evangelio, siguiendo «un itinerario de vida cristiana sobrio y exigente», para que, incluso en la era de la IA, todos puedan dar testimonio de «la belleza de una magnífica humanidad habitada por Dios».
Vaticano
Vaticano
