En líneas generales, la nota aborda las cuestiones antropológicas y éticas que plantea la IA Con aval del Papa, el Vaticano advierte de los riesgos de la IA y pide “no divinizarla”

En una declaración aprobada explícitamente por el papa Francisco, y que constituye uno de los más completos documentos vaticanos publicados hasta el momento sobre el tema, los Dicasterios de Doctrina de la Fe y de Cultura y Educación publicaron hoy “Antigua y Nueva”, un texto en el que advierten sobre los riesgos de la IA, plantean que no debe ser considerada como una persona ni debe ser divinizada o sustituir las relaciones humanas, sino que debe utilizarse sólo como una herramienta complementaria a la inteligencia humana. 

A lo largo de 117 párrafos, “Antiqua et nova”, con la firma de dos purpurados fidelísimos del Papa como Víctor Fernández y José Tolentino, destaca los desafíos y oportunidades del desarrollo de la Inteligencia Artificial (IA) en los campos de la educación, la economía, el trabajo, la salud, las relaciones internacionales y las relaciones interpersonales. En especial, profundizando un ya amplio magisterio sobre el punto, hay una advertencia fuerte al potencial bélico de las nuevas tecnologías, que podrían acelerar "una carrera armamentista desestabilizadora con consecuencias devastadoras para los derechos humanos”, como especifica.

Con una vasta lista de citas pontificias y de teólogos y pensadores, Antiqua et Nova (en referencia a la "sabiduría", antigua y nueva), se presenta de hecho como un documento dirigido a padres, profesores, sacerdotes, obispos y a quienes están llamados a educar y transmitir la fe, pero también a quienes comparten la necesidad de un desarrollo científico y tecnológico al servicio de la persona y del bien común. 

El texto, en suma, incluso finaliza con una sugerencia a los creyentes y les dice que “podrán actuar como agentes responsables capaces de utilizar esta tecnología para promover una visión auténtica de la persona humana y de la sociedad, a partir de una comprensión del progreso tecnológico como parte del plan de Dios para la creación”.  

La perspectiva, recuerda el texto antes de invitar a los creyentes a la precaución como palabra-guía, es la de considerar “el don de la inteligencia como un aspecto esencial de la creación del ser humano a imagen de Dios” y resalta la importancia de “una visión integral de la persona”.

“La Iglesia fomenta el progreso en la ciencia, la tecnología, las artes y todas las demás empresas humanas, considerándolas parte de la colaboración del hombre y de la mujer con Dios para llevar a la perfección la creación visible”, especifica en esa línea.

En líneas generales, la nota aborda las cuestiones antropológicas y éticas que plantea la IA, cuestiones que son particularmente relevantes ya que uno de los propósitos de esta tecnología es imitar la inteligencia humana que la diseñó y por eso el primer punto sobre el que carga la atención es el de “distinguir” el concepto de "inteligencia" en referencia a la IA y los seres humanos. 

“Es, pues, "engañoso" utilizar la propia palabra "inteligencia" en referencia a la IA: no es "una forma artificial de inteligencia", sino "uno de sus productos”, firman los cardenales tras el aval papal. 

Así, y si bien explicitan que la IA también puede orientarse hacia "fines positivos o negativos", plantean que la Inteligencia Artificial puede introducir "innovaciones importantes" en diversos campos pero también corre el riesgo de empeorar situaciones de marginación, discriminación, pobreza, "brecha digital" y desigualdades sociales.

En particular, con un párrafo de alarmante actualidad, advierten que suscita "preocupaciones éticas" el hecho de que "la mayor parte del poder sobre las principales aplicaciones de la IA se concentra en manos de unas pocas empresas poderosas, de modo que esta tecnología acaba siendo manipulada con fines "personales o corporativos” o para “orientar la opinión pública hacia los intereses de un sector”. 

En cuanto a las relaciones humanas, el documento observa que la IA puede, sí, "fomentar las conexiones" pero, al mismo tiempo, conducir a un "aislamiento perjudicial”. La regulación del acceso de niños y menores aparece como uno de los desafíos del documento.

En el marco de las comunicaciones, una vez más las Deep fakes y fake news llaman la atención vaticana. Así, el documento recuerda el grave riesgo de que la IA "genere contenidos manipulados e información falsa” para alimentar una "alucinación" de la IA, con contenidos falsos que parecen reales. Aún más preocupante es cuando dicho contenido ficticio se utiliza intencionalmente con fines manipuladores. Por ejemplo, cuando se difunden intencionalmente imágenes, vídeos y audio deepfake para “engañar o dañar”. El mundo, se ha visto, ya ha sufrido casos de manipulaciones electorales con estas herramientas.

También la privacidad y control de los datos asumen un papel protagonista. Los datos ahora se adquieren con una cantidad mínima de información y el peligro es que todo se convierta en "una especie de espectáculo que puede ser espiado, monitorizado”, se lee en el documento, que sostiene también que “la vigilancia digital puede utilizarse para ejercer control sobre la vida de los creyentes y la expresión de su fe”.

Tras el desarrollo de las luces y sombras en todos los planos, incluidos sanitario, ambiental y bélico entre otros, los purpurados avalados por Francisco plantean que “es crucial saber evaluar críticamente las aplicaciones individuales en contextos particulares, para determinar si promueven o no la dignidad y la vocación humanas y el bien común”. 

“Como ocurre con muchas tecnologías, es posible que los efectos de las diferentes aplicaciones de IA no siempre sean predecibles desde su inicio. En la medida en que tales aplicaciones y su impacto social se vuelvan más claros, debería comenzar a proporcionarse una retroalimentación adecuada en todos los niveles de la sociedad, de acuerdo con el principio de subsidiariedad”, agregan en esa línea. 

Así, Fernández y Tolentino resumen la importancia de una profundización en la mirada que requiere que “los usuarios individuales, las familias, la sociedad civil, las empresas, las instituciones, los gobiernos y las organizaciones internacionales, cada uno en su propio nivel de competencia, se comprometan a garantizar que el uso de la IA sea adecuado para el bien de todos”.