‘Custodiar voces y rostros humanos’ es el título del mensaje del papa León XIV para la Jornada Mundial de las Comunicaciones Sociales de este año. Un texto en el que aborda los riesgos que plantea la inteligencia artificial (IA) en nuestra percepción de la realidad, señalando aspectos técnicos y estructurales que definen este fenómeno. El Papa habla del ciberacoso, los influencers virtuales, los chatbots o los deepfakes, poniendo especial énfasis en una “alfabetización digital” adecuada a los retos de la comunicación en nuestra era.
El papa León XIV apunta al rostro y la voz de la persona, como elementos “sagrados”, constitutivos de todo encuentro y rasgos distintivos de cada uno. Partiendo de ahí, afirma que todos tenemos “una vocación insustituible e inimitable que surge de la vida y que se manifiesta precisamente en la comunicación con los demás”. León XIV se detiene en la tecnología digital, y advierte que corremos el riesgo de modificar radicalmente algunos de los pilares fundamentales de la civilización humana, si fallamos en su cuidado. En este punto, cita la simulación de voces y rostros humanos a través de la inteligencia artificial, y advierte que de esta manera “se invade el nivel más profundo de la comunicación, el de la relación entre las personas”. Esto nos conduciría a un desafío antropológico, en la medida que la protección de voces y rostros supone cuidarnos a nosotros mismos.
El Santo Padre expone una serie de riesgos que se derivan del uso de la IA. El primero de ellos es la tentación de renunciar al pensamiento propio. Aquí recuerda que los algoritmos de las redes sociales debilitan la capacidad de escucha y aumentan la polarización social. Esto, sumado a la “confianza ingenuamente acrítica” en la inteligencia artificial como “amiga” omnisciente, dispensadora de toda información, archivo de toda memoria, “oráculo” de todo consejo, nos lleva a un desgaste de la capacidad de pensar de modo analítico y creativo, de comprender los significados, de distinguir entre sintaxis y semántica.
León XIV reitera su llamada de atención en este campo, recordando el riesgo de desmantelar gran parte de la industria creativa humana, sustituyéndola por la etiqueta “Powered by AI”. Esto, finalmente, convierte a las personas en “meros consumidores pasivos de pensamientos no pensados, de productos anónimos, sin autoría, sin amor”.
‘Ser o fingir’
El segundo riesgo que plantea es la simulación de las relaciones y de la realidad, porque “a veces tenemos la duda razonable sobre la identidad de los perfiles con los que interactuamos”. El Papa cita los bots o influencers virtuales, así como la persuasión oculta que producen los chatbots. Al respecto, advierte que estos últimos, “excesivamente afectuosos”, además de estar siempre presentes y disponibles pueden convertirse en “arquitectos ocultos de nuestros estados emocionales y, de este modo, invadir y ocupar la esfera de la intimidad de las personas”. “De este modo -añade el Papa- nos privamos de la posibilidad de encontrar al otro, que siempre es diferente a nosotros y con el que podemos y debemos aprender a relacionarnos. Sin la aceptación de la alteridad no puede haber ni relación ni amistad”.
La percepción alterada de la realidad que puede desprenderse del uso de la IA es otro desafío que plantea el Papa. León XIV habla de la parcialidad, y advierte del gran riesgo de la “multidimensionalidad”, en la medida que la inteligencia artificial puede engañarnos con “la fabricación de realidades paralelas, apropiándose de nuestros rostros y nuestras voces”. En definitiva, cada vez es más difícil distinguir la realidad de la ficción.
A esto se suma el problema de la falta de precisión. El Pontífice subraya que “la falta de verificación de las fuentes, junto con la crisis del periodismo de campo (…), puede favorecer un terreno aún más fértil para la desinformación, provocando una creciente sensación de desconfianza, desconcierto e inseguridad”.
¿Quién hay detrás de este sistema, esta “enorme fuerza invisible”? El Papa señala a “un puñado de empresas”, al frente de las cuales están los arquitectos de la IA. Y esto plantea una preocupación por el control del oligopolio de los sistemas algorítmicos y de inteligencia artificial, ya que estos son “capaces de orientar sutilmente los comportamientos e incluso reescribir la historia de la humanidad, incluida la historia de la Iglesia”, sin que nos demos cuenta.
Responsabilidad, cooperación y educación
El Santo Padre no plantea detener la innovación digital, sino guiarla. Aquí entraría una “alianza” que tendría que estar fundamentada en tres pilares: “responsabilidad, cooperación y educación”.
En cuanto a la responsabilidad, el Papa sostiene que nadie puede eludir su cuota. Y aquí implica a quienes están en las cúspides de las plataformas, a los técnicos de la IA, los legisladores nacionales, las entidades supranacionales, las agencias de noticias y los medios de comunicación. “Los contenidos generados o manipulados por la IA deben señalarse y distinguirse claramente de los contenidos creados por personas”, ya que “debe protegerse la autoría y la propiedad soberana del trabajo de los periodistas y otros creadores de contenidos. La información -afirma el Papa- es un bien público”.
La cooperación también atañe a todos, y es necesario crear mecanismos de protección para “hacer efectiva una ciudadanía digital consciente y responsable”. Y, en tercer lugar, la educación. En su mensaje anual con motivo de la Jornada de las Comunicaciones Sociales, aboga por “aumentar nuestras capacidades personales de reflexión crítica”, e introducir en los sistemas educativos de cada nivel la “alfabetización en los medios de comunicación, en los medios de información y en la IA”. Y aquí señala nuestra contribución como católicos para que, especialmente los jóvenes – sin olvidar a las personas mayores y a los miembros marginados de la sociedad-, adquieran la “capacidad de pensar críticamente y crezcan en la libertad del espíritu”.
Un objetivo sería tratar estos sistemas como herramientas, procurando la validación externa de las fuentes, la protección de la privacidad, etc. En este sentido, apunta la necesidad de cuidar la propia imagen para que no pueda ser usada en la creación de contenidos, evitando así las estafas digitales, el ciberacoso y los deepfakes “que violan la privacidad y la intimidad de las personas”. En definitiva, todo pasa por una “alfabetización digital”. León XIV concluye su mensaje reiterando la necesidad de que “el rostro y la voz vuelvan a expresar a la persona”.
The post León XIV ante la inteligencia artificial: “La información es un bien público” first appeared on Archidiócesis de Sevilla.
Ver este artículo en la web de la diócesis
