“No podemos prever el futuro, pero podemos prepararlo”. Ilya Prigogine, Nobel de Química 1977.

IX.- Papel de la ética para guiar el desarrollo y uso de la IA (Continuación)

Friedo Ricken, autor de la voz Ética/filosofía moral, en el Diccionario de Filosofía (Herder, 2014), escribe al comenzar: “La Ética se usa para designar una disciplina filosófica. Una moral se vive. La tarea de la ética está en reflexionar sobre la moral, es decir, en preguntar sobre su fundamentación”. Y termina: “Son campos importantes de la ética aplicada: la bioética, la ética de los medios, la ética política, la ética de la economía y la ética de la técnica”. Y a la inteligencia artificial, al “Papel de la ética para guiar el desarrollo y uso de la Inteligencia artificial”, se dedica la segunda parte de la “Nota” del Vaticano. 

La Ética cristiana presupone una concepción del hombre, central y tradicional, de dignidad y libertad, en cuanto imago Dei. Ese planteamiento antropocéntrico ya empezó la pretensión para su superación. James Bridle en Modos de existir (Galaxia Gutenberg, 2024) analiza las nuevas relaciones con inteligencias no humanas, maquinales o de inteligencia algorítmica, de ciencia y práctica de los ordenadores, la comunicación digital y la computación, y también de animales, los Humanimales. 

Víctor Gómez Pin en El Ser que cuenta. La disputa sobre la singularidad humana (Acantilado, 2025), parte de la tradicional convicción de la singularidad del ser humano que hoy, por la genética y la IA, parece estar cuestionada (“a la par que se instaura la idea de humanización de las máquinas, parece apuntarse a la maquinación de los humanos”). Y en relación a los animales, el capítulo cuarto de su libro lleva por título “Junto al reto maquinal, la causa animalista”. Se ha escrito que los postulados del humanismo ilustrado, ese que puso al hombre y su razón como la medida de todas las cosas, se refuta cada vez más. 

Y también están los que ya empiezan a cansarse de tanta ciencia y de tanta tecnología, de tanta confusión con máquinas y animales. El genetista italiano Giuseppe Sermonti acaba de escribir (2024) varias páginas bajo el título La tirannia dello scientismo, que comienza así: “La Ciencia como fe absoluta, la técnica como reina del mundo, la vacuna como bautismo de la nueva religión. Por otro lado, la cancelación de toda referencia religiosa, humanística, política y civil. Esta es la época de lo científico. La ciencia se hace ideología, superstición, y la técnica modifica el mundo, la naturaleza, la humanidad”. 

X.- Gran experto en el fenómeno de la Técnica

Me interesó Jacques Ellul, jurista francés, historiador y teólogo protestante en la línea del teólogo suizo Karl Barth; poco conocido aquél en España, y cuya Historia de las Instituciones en dos volúmenes, publicada en los años sesenta del siglo XX por PUF, continúa sin estar traducida al español. Si ahora interesa Jacques Ellul, es por haber sido el primero en haber comprendido el fenómeno de la técnica, en cuanto fenómeno esencial para entender nuestra modernidad.

En el capítulo XIV del libro de entrevistas realizadas entre los años 1981 y 1994, publicado en 1994 (La Table Ronde), habla Ellul del hombre y de su sueño como el de Prometeo: “Pensaba el hombre moderno servirse de la Técnica, ocurriendo a la inversa, que ella se sirvió de él, y resultando inquietante, no la nocividad de la Técnica en sí, sino la actitud ante ella del hombre; de ahí la ambivalencia del progreso técnico”. Antes, en 1966, había escrito que el hombre es a la máquina como lo que el alma es al cuerpo.  

Una persona tan inteligente, Jacques Ellul, amante de la Ciencia y de la Técnica, mantuvo una posición ortodoxa desde su cristianismo y no catolicismo, habiendo tantos que ya, en el siglo XXI, piensan lo contrario, no siendo ni cristianos ni católicos: “La idea de máquinas autónomas -dijo-respecto al hombre, esos robots capaces de conciencia, no es más que ciencia-ficción, sin posibilidad de realizarse, pues se sabe que la máquina no puede pensar” ¿Cómo -se preguntó- la máquina podría orientarse ella sola hacia el bien o el mal, decisora sobre el bien y el mal, siendo un simple útil del que se sirve el hombre? Para el bien o el mal -afirmó- el hombre es el único que decide, pues la máquina es moralmente neutra. 

XI.- La Ética en el siglo XX, tan dramático

Tal vez Aristóteles, Hume y Kant sean las figuras dominantes de todo el debate ético en la historia de la Filosofía moral, y a los que se debería añadir Spinoza, que en el siglo XVII escribió el calificado magnum opus sobre Etica. Fue un judío marrano, así llamado el judío de origen español que no quería fingir una aparente conversión al cristianismo según el decreto de expulsión de Isabel la Católica, en 1492. Al parecer, ahora, la extrema- derecha española, a esa Reina, trata de que la Iglesia la lleve a los altares.   

El médico Jean Claude Ameisen, después de afirmar que el hombre es una mezcla de ácidos nucleicos, de sueños, de proteínas y de recuerdos, mantuvo que “la ética biomedical moderna nació hace 60 años por un sentimiento de horror y de revuelta ante la negación absoluta de la dignidad humana a costa del imperante darwinismo social y por el nazismo, que justificaron, por ejemplo, el eugenismo y la esterilización forzada de miles de personas”. 

Es natural la gran importancia que para los filósofos analíticos del siglo XX tuvo la Ética a consecuencia de las masacres de las dos Guerras mundiales, la extensión de los totalitarismos y la amenaza de extinción por las guerras nucleares. Y una filosofía moral con grandes aportaciones desde la Filosofía contemporánea del siglo XX. Ese fue el caso de Stevenson, Hare, Mackie y otros, con importantes “adelantos” sobre el conductismo y funcionalismo, la mente y el cuerpo, la bioética y hasta la ética empresarial. Ejemplo de esta última es el trabajo de Domingo García Marza La ética empresarial como ética aplicada, con una introducción interesante de Ética general, incluido en el libro Retos pendientes en ética y política (Editorial Trotta 2002). 

XII.- La ética general y la IA según el Vaticano 

En la “Nota” del Vaticano sobre la IA hay una parte de Ética general, constituida por un idealismo sobre los fundamentos de la moralidad, y otra de Ética especial, deontológica o doctrina de los deberes, que señala los resultantes para el ser humano en los diversos aspectos y relaciones de su vida. A la Ética general, la “Nota” dedica los números 36 a 48, ambos incluidos, y a la Ética práctica o deontológica los números 49 a 107, ambos incluidos bajo la rúbrica de “Cuestiones específicas” siguientes: La IA y la sociedad; la IA y las relaciones humanas; IA, economía y trabajo; la IA y la sanidad; IA y educación; IA, desinformación, deepfake y abusos; IA, privacidad y control; la IA y la guerra; y la IA y la relación con la humanidad con Dios.  

Después de recoger en la “Nota” textos conciliares y números del Catecismo de la Iglesia Católica sobre las relaciones entre Dios, el hombre, la ciencia y tecnología, diciéndose estar la Iglesia preocupada por las implicaciones éticas, se llama la atención en el número 39 sobre la importancia de la responsabilidad moral en cuestiones relativas a la IA. Y se dice: “Entre una máquina y un ser humano, sólo este último es verdaderamente un agente moral, es decir, un sujeto moralmente responsable que ejerce su libertad en sus decisiones y acepta las consecuencias de las mismas”.

En el número 40 se señala la ambivalencia de la inteligencia artificial que se puede orientar a los fines positivos o negativos, susceptibles de causar grandes beneficios y catástrofes, siendo también éticamente significativos los medios empleados, teniendo en cuenta el Magisterio del papa Francisco. 

Y una responsabilidad moral, imputable únicamente a los seres humanos, dotados de inteligencia y voluntad, a agentes personales e inteligentes, nunca a agentes artificiales. De ello se deduce la necesidad de determinar quién es el responsable de los procesos de IA, incluso los más difíciles y complicados. Se añade en el número 44: “Por lo tanto, es importante que quienes tomen decisiones basándose en la IA se hagan responsables de ellas y sea posible dar cuenta del uso de la IA en cada fase del proceso de toma de decisiones”.   

La “Nota” en primer lugar responsabiliza a los que desarrollan, producen, gestionan y supervisan los procesos de IA y también a los usuarios. Y en el número 46, la “Nota” rebasa la responsabilidad de ámbito moral y entra en la jurídica, que es competencia civil o del Estado, pidiendo que dentro de los responsables se incluyan también a las llamadas personas jurídicas, que es lo sucedido con las normas penales que extendieron la responsabilidad penal a las susodichas personas jurídicas en este siglo XXI, con los límites derivados de la naturaleza de los delitos, y exigidos por el Derecho penal y las leyes penales (léanse los vigentes artículos 31 bis, 31 ter, 31 quater y 31 quinquies, del Código Penal español).

Y para concluir con lo de la ética general y la IA, el número 48 de la “Nota” termina con las siguientes palabras del papa Francisco pronunciadas en un Discurso: “A la luz de esto, el uso de la IA debe venir acompañado de una ética basada en una visión del bien común, una ética de libertad, responsabilidad y fraternidad, capaz de favorecer el pleno desarrollo de las personas den relación con los demás y con la creación”. 

XIII.- La ética especial o doctrina de los deberes en relación a la IA

Ya señalamos en el número XII las cuestiones específicas a las que se refiere el documento, de lectura recomendable, y que no podemos abordar ahora.  Los destinatarios de la “Nota” son aquellos indicados en el número 5, especialmente los fieles católicos, planteándose su extensión a otros; y en ello vuelvo al protestante Jacques Ellul, pues extender a otros que no son fieles católicos lo que la Iglesia predica como moral, también la moral sobre la IA, hace -según dice Ellul- que no sea apreciada ni considerada por las tomas de posiciones políticas y compromisos de todo tipo, que no la hacen digna de confianza. Esto está escrito en décadas pasadas, me hace preguntar: ¿Seguimos igual o ha cambiado en estos tiempos novedosos del Papado de Francisco? 

Acaso el texto más completo sobre ética e inteligencia artificial sea el escrito por el italiano Luciano Floridi Ética de la inteligencia artificial (Herder, 2024), incluyendo un capítulo sobre la ética de los algoritmos (Capítulo 7) y detallando veinte recomendaciones para una buena praxis de IA (Capítulo 10, número 6). 

Y titulares recientes sobre la IA dan fe, con sorpresa, sobre aplicaciones últimas de la inteligencia artificial. Leí hace poco: “Los riesgos de usar ChatGPT se cuelan en los despachos de abogados”; “Los centinelas algorítmicos que blindan los hogares”; “La industria española abraza la inteligencia artificial”; “La IA reafirma los estereotipos contra la mujer”; La IA, una ayuda para escribir novelas de premio”; “La IA reinventa la preparación de oposiciones”; “La biofísica Natalia Trayanova” (El País, 25 de marzo de 2025, página 32)  diseña con IA réplicas de corazones para mejorar los diagnósticos y el tratamiento de los mortales paros cardíacos”.

No puedo olvidar Los demonios de la inteligencia artificial de Juan Manuel de Prada (ABC, 27 de abril 2024), que sobre la IA escribió: “Este furioso impulso de aplastar la singularidad humana y crear una humanidad en serie es el motor secreto de la inteligencia artificial “. Y más adelante, a manera de amonestación dirá: “La resistencia a este tsunami tecnológico se presenta como algo insensato y suicida, un puro negacionismo insolidario que conduce al infierno analógico”. 

Lo último, que es dantesco, rebasa al Dante mismo y a Virgilio, que paseó a Eneas, el troyano, hijo de Anquises, sate sanguine diuum, por el Infierno o Auerno, en el Liber Sextus de La Eneida.  

XIV.- La otra responsabilidad, la jurídica, por el uso de la IA 

El civilista Angel M. López y López, al principio de su estudio sobre “la responsabilidad por daños” (contractual, extracontractual y delictual), escribe: “Una de las primeras manifestaciones de la presencia del Derecho en una sociedad organizada es la relativa a la responsabilidad por daños”, daños que se ocasionan al entrar en contacto unos hombres con otros, y cualquier daño, derive o no de una obligación previamente asumida, ha de ser resarcido”. Corresponde al Estado y únicamente a él, la fijación, por Ley, de las responsabilidades y demás elementos del llamado “Derecho de Daños” (Imputación, riesgo, causalidad, daños, fijación de tipos penales para los comportamientos más insoportables para la sociedad).

Para saber lo que ocurrirá con la inteligencia artificial, de riesgos importantes y tan novedosa, habrá que ver en la historia lo que ocurrió con otros riesgos susceptibles de dañar de manera importante a ciudadanos. Veamos:

1.- Uso de vehículos de motor con conductor. En el Preámbulo de la Ley 122/1962, de 24 de diciembre, sobre Uso y Circulación de vehículos de motor, se dice: ”El constante aumento del tráfico, consecuencia del uso, cada vez más frecuente, de vehículos de motor; el progreso y perfeccionamiento ininterrumpido de la técnica automovilística y las necesidades de la vida moderna han provocado una situación de hecho que constituye una seria preocupación para los Gobiernos de todos los países ante el número de víctimas y daños materiales que ocasiona, en constante progresión, con grave quebranto para la seguridad de las personas y la economía nacional”. Esa Ley determinó las responsabilidades penales y civiles, y estableció un seguro obligatorio. Pensemos en los problemas (responsabilidad) derivados de la conducción de vehículos a motor sin conductor y por la inteligencia artificial.

2.- Navegación Aérea: En el Preámbulo de la ley 48/1960, de 21 de julio, de Navegación Aérea, se dice: ”Se introducen modificaciones esenciales, como en materia de responsabilidad en caso de accidente, cuya necesidad era una exigencia manifiesta, por resultar ya insuficientes las disposiciones de nuestro Código Civil, lo que obligaba a establecer contractualmente, para el tráfico interno, el sistema de indemnizaciones propio del tráfico internacional”. Por la Ley 209/1964 se tipificaron los delitos y faltas aeronáuticos. 

3.- Energía nuclear: En el Preámbulo de la Ley 25/1964, de 29 de abril, de Energía Nuclear, se dice: “En previsión del futuro, y al aceptar los Convenios Internacionales sobre la materia, debe darse entrada en la legislación española a todos los aspectos que se refieren a la responsabilidad civil en el caso de accidentes nucleares, la cobertura del riesgo y la forma de reclamar las indemnizaciones a las que hubiere lugar, prestando la mayor protección jurídica al posible perjudicado y favoreciendo, por otra parte, el desarrollo de la industria nuclear al no exigir al capital privado responsabilidades excesivamente graves.

El principio de la responsabilidad objetiva ha sido recogido ya en la legislación española en el campo de los accidentes de trabajo, y el de la limitación ha sido admitido ya en el derecho aéreo y en el marítimo al tratar de la responsabilidad de los propietarios de buques. Estos principios llevan consigo la regulación del seguro correspondiente, que debe reunir condiciones especiales. Se hace necesario definir y sancionar figuras específicas delictivas, dada la trascendencia que puede tener una infracción en el campo de la energía nuclear”.                                                                                                                    

Ninguna duda cabe, pues será por una Ley aprobada en el Congreso de los Diputados la que determine la responsabilidad civil, contractual y extracontractual, y tipifique las conductas delictivas resultante del uso de la inteligencia artificial, y acaso sea necesaria una modificación de la Constitución. 

Se deberá tener en cuenta: 

--Como escribe David Sanz en Ética para la IA (Digital Journey, 2024), la inteligencia artificial es un campo en constante evolución. “Es fundamental -escribe Sanz- que los desarrolladores, los gobiernos, la sociedad civil y todas las partes interesadas trabajen juntos para garantizar que la IA desarrolle y utilice de manera responsable y beneficiosa para todos”. Ni es admisible que la legislación “atrofie” la inteligencia artificial, acabando con ella, ni se puede admitir la pretensión contra Derecho de los “mega-ricos” de Silicon Valley que pretenden estar exentos de cualquier tipo de responsabilidad.  

--Allí donde ya hay normas sobre el uso de la inteligencia artificial, han de ser respetadas, caso de la Unión Europea, cuyo Reglamento 1689/2024 tiene por objeto “para mejorar el funcionamiento del mercado interior y promover la adopción de una inteligencia artificial centrada en el ser humano y fiable”. 

--La nueva legislación española sobre inteligencia artificial habrá de reajustar con severidad lo que ya está normativizado: la protección de datos y garantía de los derechos digitales (Ley Orgánica 3/2018, de 5 de diciembre). Y ya hay un borrador de un Anteproyecto de Ley, elaborado por el Gobierno de España, para la protección de Personas Menores de Edad en los Entornos digitales. 

La semana próxima no escribiremos sobre cosas sublimes, sino más de andar por casa: sobre lo nuevo en los arrendamientos turísticos, de pisos y viviendas.