El papa advierte contra la "desinformación" en su mensaje para la Jornada de las Comunicaciones Sociales Francisco alerta al mundo por las "deepfakes": "También yo he sido objeto"

En un mensaje en el que recordó con tono crítico la manipulaciones de su imagen hechas el año pasado en pleno auge de la popularización de la Inteligencia Artificial, el papa Francisco alertó hoy por las deepfakes, pidió una "regulación ética" para la Inteligencia Artificial y otros "riesgos y patologías" asociados, al tiempo que destacó que la herramienta solo ayudará a la comunicación "si no anula el papel del periodismo sobre el terreno".

"Baste pensar en el problema de la desinformación al que nos enfrentamos desde hace años en forma de fake news y que hoy se sirve de deepfakes, es decir, de la creación y difusión de imágenes que parecen perfectamente verosímiles pero que son falsas (también yo he sido objeto de ello), o de mensajes de audio que utilizan la voz de una persona para decir cosas que nunca ha dicho", alertó el pontífice en el mensaje publicado hoy para las Jornada Mundial de las Comunicaciones Sociales.

Así, hizo referencia a la divulgación de fotos en las que se lo veía con una campera blanca de una marca internacional o de otras situaciones en las que se falseó su imagen.

"La simulación, que está a la base de estos programas, puede ser útil en algunos campos específicos, pero se vuelve perversa cuando distorsiona la relación con los demás y la realidad", planteó el pontífice en el escrito que lleva por título "Inteligencia artificial y sabiduría del corazón: para una comunicación plenamente humana".

Según el Papa, "ya desde la primera ola de la inteligencia artificial, la de los medios sociales, hemos comprendido su ambivalencia, dándonos cuenta tanto de sus potencialidades como de sus riesgos y patologías".

Deep Fake. That is crazy art. You could do everything. I just puted Trump into the robe of the pope. Wow. Do you find errors? #deepfake#Trump#Pope#ai#modernartpic.twitter.com/H6JCcWsqnl

— Daniel Michel (@horazius) April 8, 2023

Una regulación ética

Para Francisco, "es necesario actuar preventivamente, proponiendo modelos de regulación ética para frenar las implicaciones nocivas y discriminatorias, socialmente injustas, de los sistemas de inteligencia artificial y contrarrestar su uso en la reducción del pluralismo, la polarización de la opinión pública o la construcción de un pensamiento único".

En ese marco, en su mensaje para la jornada que se celebra en mayo y que fue difundido por la oficina de Prensa de la Santa Sede, Francisco aseguró que "el uso de la inteligencia artificial podrá contribuir positivamente en el campo de la comunicación si no anula el papel del periodismo sobre el terreno, sino que, por el contrario, lo respalda" o "si aumenta la profesionalidad de la comunicación, responsabilizando a cada comunicador; si devuelve a cada ser humano el papel de sujeto, con capacidad crítica, respecto de la misma comunicación".

Do you know Midjourney created some highly deep fake images of Trump, Pope etc recently.

Because of that it has shut off free trial versions of it. pic.twitter.com/eZq4KHicKM

— Basharath (@wahVinci) April 1, 2023

Inteligencia artificial y sabiduría del corazón: para una comunicación plenamente humana 

Queridos hermanos y hermanas: 

La evolución de los sistemas de la así llamada "inteligencia artificial", sobre la que ya  reflexioné en mi reciente Mensaje para la Jornada Mundial de la Paz, también está modificando  radicalmente la información y la comunicación y, a través de ellas, algunos de los fundamentos de la  convivencia civil. Es un cambio que afecta a todos, no sólo a los profesionales. La difusión acelerada  de sorprendentes inventos, cuyo funcionamiento y potencial son indescifrables para la mayoría de  nosotros, suscita un asombro que oscila entre el entusiasmo y la desorientación y nos coloca  inevitablemente frente a preguntas fundamentales: ¿qué es pues el hombre? ¿cuál es su especificidad  y cuál será el futuro de esta especie nuestra llamada homo sapiens, en la era de las inteligencias  artificiales? ¿Cómo podemos seguir siendo plenamente humanos y orientar hacia el bien el cambio  cultural en curso? 

Comenzando desde el corazón 

Ante todo, conviene despejar el terreno de lecturas catastrofistas y de sus efectos paralizantes.  Hace un siglo, Romano Guardini, reflexionando sobre la tecnología y el hombre, instaba a no ponerse  rígidos ante lo “nuevo” intentando «conservar un mundo de infinita belleza que está a punto de  desaparecer». Sin embargo, al mismo tiempo de manera encarecida advertía proféticamente: «Nuestro  puesto está en el porvenir. Todos han de buscar posiciones allí donde corresponde a cada uno […],  podremos realizar este objetivo si cooperamos noblemente en esta empresa; y a la vez,  permaneciendo, en el fondo de nuestro corazón incorruptible, sensibles al dolor que produce la  destrucción y el proceder inhumano que se contiene en este mundo nuevo». Y concluía: «Es cierto  que se trata, de problemas técnicos, científicos y políticos; pero es preciso resolverlos planteándolos  desde el punto de vista humano. Es preciso que brote una nueva humanidad de profunda  espiritualidad, de una libertad y una vida interior nuevas».[1] 

En esta época que corre el riesgo de ser rica en tecnología y pobre en humanidad, nuestra  reflexión sólo puede partir del corazón humano.[2] Sólo dotándonos de una mirada espiritual, sólo  recuperando una sabiduría del corazón, podremos leer e interpretar la novedad de nuestro tiempo y  redescubrir el camino de una comunicación plenamente humana. El corazón, bíblicamente entendido  como la sede de la libertad y de las decisiones más importantes de la vida, es símbolo de integridad,  de unidad, a la vez que evoca afectos, deseos, sueños, y es sobre todo el lugar interior del encuentro  con Dios. La sabiduría del corazón es, pues, esa virtud que nos permite entrelazar el todo y las partes,  las decisiones y sus consecuencias, las capacidades y las fragilidades, el pasado y el futuro, el yo y el  nosotros. 

Esta sabiduría del corazón se deja encontrar por quien la busca y se deja ver por quien la ama;  se anticipa a quien la desea y va en busca de quien es digno de ella (cf. Sab 6,12-16). Está con los que  se dejan aconsejar (cf. Prov 13,10), con los que tienen el corazón dócil y escuchan (cf. 1 Re 3,9). Es  un don del Espíritu Santo, que permite ver las cosas con los ojos de Dios, comprender los vínculos,  las situaciones, los acontecimientos y descubrir su sentido. Sin esta sabiduría, la existencia se vuelve  insípida, porque es precisamente la sabiduría —cuya raíz latina sapere se relaciona con el sabor— la  que da gusto a la vida. 

Oportunidad y peligro 

No podemos esperar esta sabiduría de las máquinas. Aunque el término inteligencia artificial ha suplantado al más correcto utilizado en la literatura científica, machine learning, el uso mismo de  la palabra “inteligencia” es engañoso. Sin duda, las máquinas poseen una capacidad  inconmensurablemente mayor que los humanos para almacenar datos y correlacionarlos entre sí, pero  corresponde al hombre, y sólo a él, descifrar su significado. No se trata, pues, de exigir que las  máquinas parezcan humanas; sino más bien de despertar al hombre de la hipnosis en la que ha caído  debido a su delirio de omnipotencia, creyéndose un sujeto totalmente autónomo y autorreferencial,  separado de todo vínculo social y ajeno a su creaturalidad. 

En efecto, el hombre siempre ha experimentado que no puede bastarse a sí mismo e intenta  superar su vulnerabilidad utilizando cualquier medio. Empezando por los primeros artefactos  prehistóricos, utilizados como prolongación de los brazos, pasando por los medios de comunicación  empleados como prolongación de la palabra, hemos llegado hoy a las máquinas más sofisticadas que  actúan como ayuda del pensamiento. Sin embargo, cada una de estas realidades puede estar  contaminada por la tentación original de llegar a ser como Dios sin Dios (cf. Gn 3), es decir, de querer  conquistar por las propias fuerzas lo que, en cambio, debería acogerse como un don de Dios y vivirse  en la relación con los demás.

Según la orientación del corazón, todo lo que está en manos del hombre se convierte en una  oportunidad o en un peligro. Su propio cuerpo, creado para ser un lugar de comunicación y comunión,  puede convertirse en un medio de agresión. Del mismo modo, toda extensión técnica del hombre  puede ser un instrumento de servicio amoroso o de dominación hostil. Los sistemas de inteligencia  artificial pueden contribuir al proceso de liberación de la ignorancia y facilitar el intercambio de  información entre pueblos y generaciones diferentes. Pueden, por ejemplo, hacer accesible y  comprensible una enorme riqueza de conocimientos escritos en épocas pasadas o hacer que las  personas se comuniquen en lenguas que no conocen.

Pero al mismo tiempo pueden ser instrumentos  de “contaminación cognitiva”, de alteración de la realidad a través de narrativas parcial o totalmente  falsas que se creen —y se comparten— como si fueran verdaderas. Baste pensar en el problema de la  desinformación al que nos enfrentamos desde hace años en forma de fake news[3] y que hoy se sirve  de deepfakes, es decir, de la creación y difusión de imágenes que parecen perfectamente verosímiles  pero que son falsas (también yo he sido objeto de ello), o de mensajes de audio que utilizan la voz de  una persona para decir cosas que nunca ha dicho. La simulación, que está a la base de estos programas,  puede ser útil en algunos campos específicos, pero se vuelve perversa cuando distorsiona la relación  con los demás y la realidad. 

Ya desde la primera ola de la inteligencia artificial, la de los medios sociales, hemos  comprendido su ambivalencia, dándonos cuenta tanto de sus potencialidades como de sus riesgos y  patologías. El segundo nivel de inteligencia artificial generativa marca un salto cualitativo  indiscutible. Por lo tanto, es importante tener la capacidad de entender, comprender y regular  herramientas que en manos equivocadas podrían abrir escenarios adversos. Como todo lo que ha  salido de la mente y de las manos del hombre, los algoritmos.

Por ello, es necesario actuar  preventivamente, proponiendo modelos de regulación ética para frenar las implicaciones nocivas y  discriminatorias, socialmente injustas, de los sistemas de inteligencia artificial y contrarrestar su uso  en la reducción del pluralismo, la polarización de la opinión pública o la construcción de un  pensamiento único. Así pues, renuevo mi llamamiento exhortando a «la comunidad de las naciones a  trabajar unida para adoptar un tratado internacional vinculante, que regule el desarrollo y el uso de la  inteligencia artificial en sus múltiples formas».[4] Sin embargo, como en cualquier ámbito humano, la  sola reglamentación no es suficiente. 

Crecer en humanidad 

Estamos llamados a crecer juntos, en humanidad y como humanidad. El reto que tenemos ante  nosotros es dar un salto cualitativo para estar a la altura de una sociedad compleja, multiétnica,  pluralista, multirreligiosa y multicultural. Nos corresponde cuestionarnos sobre el desarrollo teórico  y el uso práctico de estos nuevos instrumentos de comunicación y conocimiento. Grandes  posibilidades de bien acompañan al riesgo de que todo se transforme en un cálculo abstracto, que  reduzca las personas a meros datos, el pensamiento a un esquema, la experiencia a un caso, el bien a  un beneficio, y sobre todo que acabemos negando la unicidad de cada persona y de su historia,  disolviendo la concreción de la realidad en una serie de estadísticas. 

La revolución digital puede hacernos más libres, pero no ciertamente si nos dejamos atrapar  por los fenómenos mediáticos hoy conocidos como cámara de eco. En tales casos, en lugar de  aumentar el pluralismo de la información, corremos el riesgo de perdernos en un pantano  desconocido, al servicio de los intereses del mercado o del poder. Es inaceptable que el uso de la  inteligencia artificial conduzca a un pensamiento anónimo, a un ensamblaje de datos no certificados,  a una negligencia colectiva de responsabilidad editorial. La representación de la realidad en  macrodatos, por muy funcional que sea para la gestión de las máquinas, implica de hecho una pérdida  sustancial de la verdad de las cosas, que dificulta la comunicación interpersonal y amenaza con dañar  nuestra propia humanidad. La información no puede separarse de la relación existencial: implica el  cuerpo, el estar en la realidad; exige poner en relación no sólo datos, sino también las experiencias;  exige el rostro, la mirada y la compasión más

Pienso en los reportajes de las guerras y en la “guerra paralela” que se hace mediante campañas  de desinformación. Y pienso en cuántos reporteros resultan heridos o mueren sobre el terreno para  permitirnos ver lo que han visto sus ojos. Porque sólo tocando el sufrimiento de niños, mujeres y  hombres podemos comprender lo absurdo de las guerras. 

El uso de la inteligencia artificial podrá contribuir positivamente en el campo de la  comunicación si no anula el papel del periodismo sobre el terreno, sino que, por el contrario, lo  respalda; si aumenta la profesionalidad de la comunicación, responsabilizando a cada comunicador;  si devuelve a cada ser humano el papel de sujeto, con capacidad crítica, respecto de la misma  comunicación. 

Interrogantes para el hoy y para el mañana 

Así pues, surgen espontáneamente algunas preguntas: ¿cómo proteger la profesionalidad y la  dignidad de los trabajadores del ámbito de la comunicación y la información, junto con la de los  usuarios de todo el mundo? ¿Cómo garantizar la interoperabilidad de las plataformas? ¿Cómo  garantizar que las empresas que desarrollan plataformas digitales asuman la responsabilidad de lo que  difunden y de lo cual obtienen beneficios, del mismo modo que los editores de los medios de  comunicación tradicionales? ¿Cómo hacer más transparentes los criterios en los que se basan los  algoritmos de indexación y desindexación y los motores de búsqueda, capaces de exaltar o cancelar  personas y opiniones, historias y culturas?

¿Cómo garantizar la transparencia de los procesos de  información? ¿Cómo hacer evidente la autoría de los escritos y rastreables las fuentes, evitando el  manto del anonimato? ¿Cómo poner de manifiesto si una imagen o un vídeo retratan un  acontecimiento o lo simulan? ¿Cómo evitar que las fuentes se reduzcan a un pensamiento único,  elaborado algorítmicamente? ¿Y cómo fomentar, en cambio, un entorno que preserve el pluralismo y  represente la complejidad de la realidad? ¿Cómo hacer sostenible esta herramienta potente, costosa y  de alto consumo energético? ¿Cómo hacerla accesible también a los países en desarrollo? 

A partir de las respuestas a estas y otras preguntas, comprenderemos si la inteligencia artificial  acabará construyendo nuevas castas basadas en el dominio de la información, generando nuevas  formas de explotación y desigualdad; o si, por el contrario, traerá más igualdad, promoviendo una  información correcta y una mayor conciencia del cambio de época que estamos viviendo,  favoreciendo la escucha de las múltiples necesidades de las personas y de los pueblos, en un sistema  de información articulado y pluralista. Por una parte, se cierne el espectro de una nueva esclavitud,  por la otra, una conquista de la libertad; por un lado, la posibilidad de que unos pocos condicionen el  pensamiento de todos, por otro, la posibilidad de que todos participen en la elaboración del  pensamiento. 

La respuesta no está escrita, depende de nosotros. Corresponde al hombre decidir si se  convierte en alimento de algoritmos o en cambio sí alimenta su corazón con la libertad, ese corazón  sin el cual no creceríamos en sabiduría. Esta sabiduría madura sacando provecho del tiempo y  comprendiendo las debilidades. Crece en la alianza entre generaciones, entre quienes tienen memoria  del pasado y quienes tienen visión de futuro. Sólo juntos crece la capacidad de discernir, de vigilar,  de ver las cosas a partir de su cumplimiento. Para no perder nuestra humanidad, busquemos la  Sabiduría que es anterior a todas las cosas (cf. Si 1,4), la que pasando por los corazones puros hace  amigos de Dios profetas (cf. Sab 7,27). Ella nos ayudará también a orientar los sistemas de  inteligencia artificial a una comunicación plenamente humana. 

Roma, en San Juan de Letrán, 24 de enero de 2024 

FRANCISCO 

_______________________ 

[1] Cartas del Lago de Como, Pamplona 2013, 101-104.

BOLLETTINO N. 0078 - 24.01.2024 18 

[2] En continuidad con los Mensajes de las anteriores Jornadas Mundiales de las Comunicaciones Sociales, dedicadas a  encontrar a las personas donde están y como son (2021), escuchar con los oídos del corazón (2022) y hablar con el  corazón (2023). 

[3] “La verdad os hará libres” (Jn 8, 32). Fake news y periodismo de paz. Mensaje de la 52 Jornada Mundial de las  Comunicaciones Sociales, 2018. 

[4] Mensaje para la Celebración de la 57 Jornada Mundial de la Paz (1 enero 2024), 8.