El teólogo y filósofo franciscano, sobre los aspectos éticos y tecnológicos de la IA Benanti: Poner la IA al servicio del bien común es la perspectiva que la Iglesia aporta a este debate por su experiencia

-A estas alturas, todo el mundo habla de Inteligencia Artificial. En el habla común, casi se ha convertido en un mantra: "La Inteligencia Artificial se encargará de todo". Pero, ¿estamos realmente ante una realidad que, como dicen algunos, tendrá un mayor impacto en la humanidad que la Revolución Industrial?

-De hecho, hay una cierta inflación del término "revolución". Nos gusta pensar que muchas cosas son revolucionarias, en el sentido de que lo cambian todo. Desde este punto de vista, yo diría que más que tener una verdadera revolución, tenemos una evolución de la Revolución Industrial. La Revolución Industrial se caracterizó como un sistema para sustituir ciertas tareas realizadas por el hombre por máquinas. Al principio de la Revolución Industrial se sustituía la fuerza muscular; hoy, nos gustaría sustituir parte de la capacidad cognitiva del hombre. La máquina imita todo esto muy bien; es muy capaz de tener un propósito y, sin embargo, esta máquina sigue siendo una imitación y no tiene su propia conciencia, su propia voluntad. Así que revolución es un término demasiado fuerte. Es una evolución de esta automatización.

"Al principio de la Revolución Industrial se sustituía la fuerza muscular; hoy, nos gustaría sustituir parte de la capacidad cognitiva del hombre"

Sin embargo, lo que debe quedar claro es que los efectos que puede tener en términos de impacto social pueden ser "revolucionarios". Si la primera Revolución Industrial impactó en los trabajadores de cuello azul haciéndolos menos necesarios en el proceso productivo, la Inteligencia Artificial puede tener y tendrá un impacto enorme en los trabajadores de cuello blanco, es decir, en aquellos empleos que conforman la clase media y, si no lo gestionamos con criterios que son también criterios de justicia social, los efectos pueden ser realmente devastadores o, al menos, muy fuertes en la capacidad de cohesión de los estados democráticos.

-Un gran científico, el astrofísico Stephen Hawking, dijo hace unos años que el éxito de la Inteligencia Artificial podría ser el mayor acontecimiento de la historia de la humanidad, pero si no evitamos los riesgos, también podría acabar con la propia humanidad. ¿Cuáles deberían ser los pasos adecuados para un desarrollo que no tenga consecuencias destructivas?

-Yo diría, basándome también en una reflexión propia de la Doctrina Social de la Iglesia, distinguir bien entre innovación y desarrollo para responder a esta pregunta. La innovación o el progreso tecnológico es la capacidad de hacer algo de manera cada vez más eficaz y cada vez más fuerte. Pensemos en un campo negativo, pero desgraciadamente cotidiano como es la guerra. Un fusil, una ametralladora, una bomba, una bomba atómica, son algunos puntos de una innovación bélica. Sin embargo, nadie piensa que la bomba atómica sea mejor o más adecuada que el fusil. En cambio, el desarrollo es lo que toma la innovación tecnológica y la transforma en algo que también mira al bien social, al bien común.

"No es lo mismo 'innovación' que 'desarrollo. El desarrollo es lo que toma la innovación tecnológica y la transforma en algo que también mira al bien social, al bien común"

-Todas las innovaciones tecnológicas traen consigo cuestiones éticas. Con la Inteligencia Artificial, estas cuestiones parecen mucho más complejas que en el pasado. ¿Por qué?

-Los ingleses, cuando hablan de estas máquinas, utilizan un término difícil de traducir al italiano porque está lleno, quizá, de otros significados. Estas máquinas tienen una especie de agency, donde podríamos traducir agency con una serie de palabras: la capacidad de adaptarse a los contextos para perseguir fines. Pero, como siempre, ¡el fin no justifica los medios! Así pues, la máquina que hasta cierto punto puede determinar qué medios son los más apropiados para perseguir su fin, es una máquina que por su propia naturaleza necesita unas "barreras éticas" muy amplias, porque precisamente el fin no justifica los medios.

"La máquina que hasta cierto punto puede determinar qué medios son los más apropiados para perseguir su fin, es una máquina que por su propia naturaleza necesita unas 'barreras éticas' muy amplias, porque precisamente el fin no justifica los medios"

-¿Podría la Inteligencia Artificial plantearse preguntas éticas y encontrar respuestas, o esta dimensión moral seguirá siendo siempre patrimonio del hombre?

-No. A pesar de lo que puedan hacernos pensar algunas películas de ciencia ficción, la conciencia no es algo que pertenezca a la máquina. Por tanto, no hay una subjetividad que se cuestione a sí misma o que cuestione el mundo. Es una máquina que realiza tareas. Recibe fines del hombre, como el pequeño robot que puede limpiar la casa, así que le digo: "limpia la casa", y entonces adapta los medios utilizando la aspiradora, va y vuelve, lo que ocurre cuando tal vez encuentra las escaleras, todas las cosas relacionadas con ese fin. Así que esta parte, el "nuevo asidero" de la Inteligencia Artificial, es decir, la elección de los fines adecuados, sólo debe y puede estar en manos humanas. Esto no quita que dar fines a la máquina sin pensarlo mucho, sin hacer las preguntas adecuadas, puede llevar a resultados catastróficos, incluso sin la presencia de una máquina consciente.

"Dar fines a la máquina sin pensarlo mucho, sin hacer las preguntas adecuadas, puede llevar a resultados catastróficos, incluso sin la presencia de una máquina consciente"

-ChatGpt, la herramienta de inteligencia artificial más "popular", cumplió un año estos días. Para algunos es poco más que un juguete, para otros ya nos da una idea de los cambios que puede traer a nuestras vidas. ¿Cuál es su valoración? 

-Es impresionante el éxito que ha tenido ChatGpt. Ha sido la app más descargada de la historia. Ha sido la app que ha invadido nuestro día a día digital. Si bien esto nos dice hasta qué punto nos fascina la inteligencia artificial, también nos abre al riesgo de malentendidos, porque ChatGpt no nació como un producto industrial destinado a ser utilizado para algo, sino como una especie de gran demo (versión de demostración de un programa ed) que esta empresa, OpenAI, abrió al público para mostrar la potencia de lo que estaba desarrollando. ChatGpt no es más que una expansión de otros productos llamados Gpt, sin "Chat" delante, que son grandes modelos lingüísticos, es decir, son máquinas que han trabajado con enormes cantidades de texto - convenientemente troceado en pequeñas partes llamadas "parámetros" - y a partir de ahí han determinado, hasta cierto punto estadísticamente, lo bien que encajan unas palabras con otras.

Así pues, ChatGpt es un sistema que, dada una frase de entrada, produce un texto de salida. Pero este texto se refina a través de la interacción de muchos humanos que - desgraciadamente, mal pagados en partes muy pobres del mundo - empezaron a responder a esta máquina y a "decirle" a la máquina cuáles eran las mejores y cuáles las peores de las respuestas que proporcionaba. Desgraciadamente, la mayoría de la gente, cuando apareció ChatGpt, no lo entendió así, es decir, como una demostración de alguien que responde a cualquier pregunta que se le haga, sino como un verdadero motor de búsqueda, que pide información al sistema o se fía de lo que éste dice. 

-Entonces, ¿qué problemas puede generar esta incomprensión de la herramienta ChatGpt?

-Conduce a grandes errores, porque la máquina está hecha de tal manera que el texto tiene que salir de mi consulta de entrada, pero ese texto no está comprobado en absoluto. Si ChatGpt produce un texto tan bonito, no necesariamente produce un contenido que sea objetivo. Ahí radica todo el potencial y el riesgo de la máquina. El potencial es tener por fin una herramienta que maneja el lenguaje de forma muy potente. La limitación es que no entendemos que esto es una especie de gran demo y no una herramienta definitiva y confiamos en una máquina para cosas que no tienen valor. ¡No le pregunte nunca a esta máquina cómo curar una enfermedad!

"El potencial de ChatGpt es tener por fin una herramienta que maneja el lenguaje de forma muy potente. La limitación es que no entendemos que esto es una especie de gran demo y no una herramienta definitiva"

-Durante años se ha hablado de una brecha digital que separa a las naciones más avanzadas tecnológicamente de las que están en vías de desarrollo. Con la inteligencia artificial, ¿no se corre el riesgo de que esta brecha se ensanche, dejando aún más atrás a las naciones que ya luchan por imponerse en un mundo y una economía cada vez más globalizados?

-Absolutamente sí. La Inteligencia Artificial puede funcionar como un multiplicador. Donde encuentra riqueza y un tejido con muchos recursos, puede multiplicarlos. Donde encuentra, de hecho, no un signo más, sino un signo menos, puede marcar este signo menos, entre otras cosas porque estos sistemas -por globales que sean- son prerrogativa y propiedad de muy pocas empresas globales. Ahora mismo, las grandes innovaciones en inteligencia artificial las realizan nueve empresas mundiales, todas ellas con una capitalización superior al billón de dólares. Para ponerlo en perspectiva, todo el PIB de Gran Bretaña es de 3,3 billones, así que estamos hablando de cifras asombrosas.

En resumen, no es un producto generalizado, no es algo a lo que todo el mundo pueda acceder. Existe un riesgo creciente de que se produzca una forma de dependencia de muy pocos monopolistas. Otro elemento a poner en esta balanza es el "coste oculto" de estas tecnologías que se realizan con ordenadores basados en tierras raras y otros materiales que tienen un coste medioambiental muy elevado y consumen mucha energía. Así que, aunque está bien preguntarse y plantearse qué significan las maravillas de estas máquinas, tampoco hay que olvidar que tienen un lado mucho menos visible, pero mucho más costoso en términos de igualdad, costes medioambientales y energéticos, que hay que tener en cuenta para que no se conviertan en un gasto que paguen las naciones más pobres del mundo.

"Está bien preguntarse y plantearse qué significan las maravillas de estas máquinas, tampoco hay que olvidar que tienen un lado mucho menos visible, pero mucho más costoso en términos de igualdad, costes medioambientales y energéticos, que hay que tener en cuenta para que no se conviertan en un gasto que paguen las naciones más pobres del mundo"

-Los gobiernos están adoptando normativas sobre Inteligencia Artificial, mientras que las Naciones Unidas también se ocupan del tema. Usted ha sido designado por el Secretario General de la ONU para formar parte de un comité de 39 expertos que se ocupan de la Inteligencia Artificial. ¿Cuáles son las tareas de este órgano?

-Como dice el título de este órgano, es un comité para asesorar al Secretario General de la ONU. Lo que se nos pide es, en primer lugar, que hagamos un retrato de lo que está ocurriendo con esta forma de innovación y que lo hagamos de una manera muy equilibrada.

Se nos pide, en primer lugar, que tomemos una instantánea de cuáles pueden ser los grandes beneficios de estas tecnologías para la humanidad. Pensamos en el aumento de la capacidad de curación, en las oportunidades de creación de nuevas formas de riqueza. Pero también se nos pide que evaluemos los riesgos, no sólo por las desigualdades que pueden aumentar, sino porque especialmente en las últimas formas de Inteligencia Artificial, como la que acabamos de mencionar - ChatGpt - tenemos una máquina que es capaz de "narrar", capaz de contar historias, y las historias pueden ayudar a formar la opinión pública. Por lo tanto, esta máquina puede utilizarse para fines que no son precisamente positivos, como aumentar el odio social o crear enemigos donde no los hay.

Está claro que una máquina que puede influir tanto en la opinión pública es una máquina que hay que vigilar muy de cerca, sobre todo por parte de aquellos organismos que tienen el deseo de colaborar en la paz mundial o en el desarrollo equitativo. La tarea del comité de la ONU es entonces también ofrecer un marco posible en el que se puedan buscar acuerdos internacionales basados en plataformas de valores que puedan ayudar a que sea una forma de desarrollo y no simplemente una forma de beneficio para unos pocos.

-La Iglesia no rehúye el debate sobre la Inteligencia Artificial. Así lo demuestra también su compromiso personal. La Santa Sede también está trabajando en esta frontera en varios ámbitos. Los próximos Mensajes del Papa para la Jornada Mundial de la Paz y la Jornada de las Comunicaciones Sociales tendrán como tema la Inteligencia Artificial. ¿Cuál es la aportación más importante que puede hacer la Iglesia?

-La Iglesia se entiende a sí misma como "experta en humanidad". Es una institución que, como tal, está presente en todas partes. Recoger y ofrecer lo que es la vida del hombre de hoy en todas sus grandes aspiraciones, sus sueños, pero también en lo que son sus fragilidades y sus miedos, es el primer terreno fértil sobre el que la Iglesia ofrece una reflexión al mundo entero.

Desde 2020, el tema ha habitado y tocado de muchas maneras las reflexiones de la Santa Sede. Está claro que, como todos los grandes temas, también necesita madurar en este encuentro de esta riqueza de humanidad que viene de abajo, de la presencia pastoral y de esta capacidad de reflexión ligada también al Evangelio y a la reflexión teológica. Esta gran atención llega en un momento en el que el Santo Padre ha querido dar una gran importancia a algunos temas globales, como el cuidado de la Casa Común y la fraternidad.

"El cuidado de la Casa Común y la fraternidad podrían ser dos de las grandes perspectivas en las que la Iglesia aporta su contribución única, original y positiva a este debate"

El cuidado de la Casa Común y la fraternidad podrían ser dos de las grandes perspectivas en las que la Iglesia aporta su contribución única, original y positiva a este debate. No es sólo la contribución política la que se necesita, no es sólo la contribución industrial. Esta aportación de humanidad, de una humanidad que se encuentra viviendo en un entorno, en una casa, que es nuestro planeta, y que se encuentra viviendo como hermanos es una aportación de "humanización" de la Inteligencia Artificial, es decir, de transformación del progreso en auténtico desarrollo humano, que tanta falta hace hoy.