EXTRACTO DE
ANTIQUA ET NOVA
Nota sobre la relación entre la inteligencia artificial y la inteligencia humana
DICASTERIO PARA LA DOCTRINA DE LA FE
DICASTERIO PARA LA CULTURA Y LA EDUCACIÓN
Índice
II. ¿Qué es la Inteligencia Artificial?
III. La inteligencia en la tradición filosófica y teológica
Una comprensión integral de la inteligencia humana
IV. El papel de la ética para guiar el desarrollo y el uso de la IA
Una ayuda a la libertad humana y a las decisiones
La IA y las relaciones humanas
IA, desinformación, deepfake y abusos
La IA y la protección de la casa común
La IA y la relación de la humanidad con Dios
I. Introducción
La tradición cristiana considera que el don de la inteligencia es un aspecto esencial de la creación de los seres humanos «a imagen de Dios» (Gen 1,27). (1)
Las habilidades y la creatividad del ser humano provienen de Él y, si se usan rectamente, a Él rinden gloria, en cuanto reflejo de Su sabiduría y bondad. Por lo tanto, cuando nos preguntamos qué significa “ser humanos”, no podemos excluir también la consideración de nuestras capacidades científicas y tecnológicas.(2)
Es al interno de esta perspectiva que la presente Nota afronta las cuestiones antropológicas y éticas planteadas por la IA, cuestiones que son particularmente relevantes en cuanto que uno de los objetivos de esta tecnología es el de imitar la inteligencia humana que la ha diseñado. … … igualan o superan las capacidades humanas, como generar textos o imágenes que resultan indistinguibles de las composiciones humanas, suscitando, por tanto, preocupación por su posible influjo en la creciente crisis de verdad en el debate público. Además, como tal tecnología está diseñada para aprender y adoptar determinadas decisiones de forma autónoma, adecuándose a nuevas situaciones y aportando soluciones no previstas por sus programadores, se derivan problemas sustanciales de responsabilidad ética y de seguridad, con repercusiones más amplias para toda la sociedad. Esta nueva situación lleva a la humanidad a cuestionarse su identidad y su papel en el mundo.(3)
es de importancia decisiva considerar sus implicaciones antropológicas y éticas. Esto implica no sólo mitigar los riesgos y prevenir los daños, sino también garantizar que sus aplicaciones se dirijan a promover el progreso humano y el bien común.(4)
Para contribuir positivamente a un discernimiento sobre la IA, en respuesta a la invitación de Papa Francisco a una renovada «sabiduría del corazón», la Iglesia ofrece su experiencia a través de las reflexiones de la presente Nota que se concentran sobre el ámbito antropológico y ético.
II. ¿Qué es la Inteligencia Artificial?
la mayor parte de los sistemas contemporáneos, en particular aquellos que usan el aprendizaje automático, se basa sobre inferencias estadísticas más que sobre deducciones lógicas. Analizando grandes conjuntos de datos con el objetivo de identificar patrones, la IA puede “predecir” los efectos y proponer nuevas vías de investigación (8)
Debido a estos rápidos avances, muchos trabajos que antes se realizaban exclusivamente por personas se confían ahora a la IA. Estos sistemas pueden complementar o incluso sustituir las capacidades humanas en muchos ámbitos, sobre todo en tareas especializadas como el análisis de datos, el reconocimiento de imágenes y el diagnóstico médico. (9)
Existe una presunción implícita de que la palabra “inteligencia” debe utilizarse del mismo modo para referirse tanto a la inteligencia humana como a la IA. Sin embargo, esto no parece reflejar el alcance real del concepto. En lo que respecta al ser humano, la inteligencia es de hecho una facultad relativa a la persona en su conjunto, mientras que, en el contexto de la IA, se entiende en un sentido funcional, asumiendo a menudo que las actividades características de la mente humana pueden descomponerse en pasos digitalizados, de modo que incluso las máquinas puedan replicarlas.(10)
Esta perspectiva funcional queda ejemplificada en el Test de Turing, por el cual una maquina debe ser considerada “inteligente” si una persona no es capaz de distinguir su comportamiento de otro ser humano[11]. En particular, en este contexto, la palabra “comportamiento” se refiere a tareas intelectuales específicas, mientras que no tiene en cuenta la experiencia humana en toda su amplitud, que comprende tanto las capacidades de abstracción y las emociones, la creatividad, el sentido estético, moral y religioso, abrazando toda la variedad de manifestaciones de las que es capaz la mente humana. De ahí que, en el caso de la IA, la “inteligencia” de un sistema se evalúe, metodológica pero también reduccionistamente, en función de su capacidad para producir respuestas adecuadas, es decir, las que se asocian a la razón humana, independientemente de la forma en que se generen dichas respuestas. (11)
Sus características avanzadas confieren a la IA capacidades sofisticadas para llevar a cabo tareas, pero no la de pensar[12]. Esta distinción tiene una importancia decisiva, porque el modo como se define la “inteligencia” va, inevitablemente, a determinar la comprensión de la relación entre el pensamiento humano y dicha tecnología. Para darse cuenta de ello, hay que recordar que la riqueza de la tradición filosófica y de la teología cristiana ofrece una visión más profunda y completa de la inteligencia, que a su vez es central en la enseñanza de la Iglesia sobre la naturaleza, la dignidad y la vocación de la persona humana.(12)
III. La inteligencia en la tradición filosófica y teológica
Racionalidad
Aristóteles observaba que «todos los seres humanos por naturaleza tienden al saber». Este saber humano, con su capacidad de abstracción que capta la naturaleza y el sentido de las cosas, le distingue del mundo animal. La naturaleza exacta de la inteligencia ha sido objeto de las investigaciones de filósofos, teólogos y psicólogos, los cuales han examinado también el modo como el ser humano comprende el mundo y forma parte de él, al tiempo que ocupa un lugar peculiar en él. A través de esta investigación, la tradición cristiana ha llegado a entender la persona como un ser hecho de cuerpo y alma, ambos profundamente conectados a este mundo y, sin embargo, llegando más allá de él.(13)
En la tradición clásica, el concepto de inteligencia suele declinarse en los términos complementarios de “razón” (ratio) e “intelecto” (intellectus). No se trata de facultades separadas, sino, como explica Santo Tomás de Aquino, de dos modos de obrar de la misma inteligencia:... el intellectus se refiere a la intuición de la verdad…la ratio se refiere al razonamiento real, es decir, al proceso discursivo y analítico que conduce al juicio. Juntos, intelecto y razón, constituyen las dos caras del único acto del intelligere, «operación del hombre en cuanto hombre». (14)
Presentar al ser humano como ser “racional” no significa reducirlo a un modo específico de pensamiento, sino reconocer que la capacidad de comprensión intelectual de la realidad conforma e impregna todas sus actividades … tanto la cognitiva como la volitiva, amar, elegir, desear. El término “racional” incluye también todas las capacidades corporales íntimamente relacionadas con las anteriores». Una perspectiva tan amplia pone de relieve cómo en la persona humana, creada a “imagen de Dios”, la racionalidad se integra para elevar, modelar y transformar tanto su voluntad como sus actos(15).
Encarnación
El pensamiento cristiano considera las facultades intelectuales en el marco de una antropología integral que concibe el ser humano como un ser esencialmente encarnado. En la persona humana, espíritu y materia «no son dos naturalezas unidas, sino que su unión constituye una única naturaleza»… es todo el ser humano el que es, al mismo tiempo, material y espiritual. …considera la persona humana como un ser que vive sus relaciones con Dios y con los otros, de ahí su dimensión típicamente espiritual, dentro y a través de esta existencia corpórea(16).
la persona humana trasciende el mundo material a través de su alma, que «es como si estuviera en el horizonte de la eternidad y el tiempo». A ella pertenecen la capacidad de trascendencia del intelecto y la auto posesión del libre albedrío. (17)
Relacionalidad
Los seres humanos «por su propia naturaleza están ordenados a la comunión interpersonal», teniendo la capacidad de conocerse recíprocamente, de donarse por amor y de entrar en comunión con los otros. Por tanto, la inteligencia humana no es una facultad aislada, al contrario, se ejercita en las relaciones, encontrando su plena expresión en el diálogo, en la colaboración y en la solidaridad. Aprendemos con los otros, aprendemos gracias a los otros.
La orientación relacional de la persona humana se fundamenta en última instancia, en la donación eterna de sí mismo del Dios Uno y Trino, cuyo amor se revela tanto en la creación como en la redención. La persona está llamada «a participar, por el conocimiento y el amor, en la vida de Dios».
Esta vocación a la comunión con Dios va necesariamente unida a una llamada a la comunión con los otros…. El amor y el servicio, que se hacen eco de la íntima vida divina de auto-donación, trascienden el interés propio para responder más plenamente a la vocación humana (cf. 1Jn 2,9). Aún más sublime que saber tantas cosas es el compromiso de cuidarnos los unos a los otros: «Si conociera todos los secretos y todo el saber […] pero no tengo amor, no sería nada» (1Cor 13, 2).
Relación con la Verdad
La inteligencia humana es, en definitiva, un «don de Dios otorgado para captar la verdad». En la doble acepción de intellectus-ratio, permite a la persona acceder a aquellas realidades que van más allá de la mera experiencia sensorial o de la utilidad, ya que «el deseo de verdad pertenece a la naturaleza misma del hombre. … Aunque la Verdad en sí misma excede los límites del intelecto humano, éste se siente sin embargo irresistiblemente atraído hacia ella. (21)
La búsqueda de la verdad alcanza su máxima expresión en la apertura a aquellas realidades que trascienden el mundo físico y creado. En Dios todas las verdades obtienen su sentido más elevado y original. Confiar en Dios es «un momento de elección fundamental, en la cual está implicada toda la persona». De este modo, la persona se convierte en plenitud en aquello que está llamada a ser: «inteligencia y voluntad desarrollan al máximo su naturaleza espiritual para permitir que el sujeto cumpla un acto en el cual la libertad personal se vive de modo pleno». (23)
Custodia del mundo
Plasmado por el divino Artesano, el ser humano vive su identidad de ser una imagen de Dios «custodiando» y «cultivando» (cf. Gen 2,15) la creación, ejercitando su inteligencia y su pericia para ayudarla y desarrollarla según el plan del Padre. (25)
Una comprensión integral de la inteligencia humana
En este contexto, la inteligencia humana se muestra más claramente como una facultad que es parte integrante del modo en el que toda la persona se involucra en la realidad. Un auténtico involucrarse implica abarcar la totalidad del ser: espiritual, cognitivo, corporal y relacional. (26)
cada persona, en su unicidad multiforme, busca comprender el mundo, se relaciona con los otros, resuelve problemas, expresa su creatividad y busca el bienestar integral a través de la sinergia de las diferentes dimensiones de la inteligencia. Esto implica capacidades lógicas y lingüísticas, pero también puede incluir otras formas de interactuar con la realidad. … el amigo que sabe encontrar la palabra adecuada o la persona que sabe gestionar bien las relaciones humanas ejemplifican una inteligencia que es «producto de la reflexión, del diálogo y del encuentro generoso entre las personas». Como observa el Papa Francisco, «en el tiempo de la inteligencia artificial no podemos olvidar que para salvar lo humano hacen falta la poesía y el amor».(27)
En el corazón de la visión cristiana de la inteligencia está la integración de la verdad en la vida moral y espiritual de la persona, orientando sus acciones a la luz de la bondad y la verdad de Dios.(28)
Una correcta concepción de la inteligencia humana, por tanto, no puede reducirse a la mera adquisición de hechos o a la capacidad de realizar determinadas tareas específicas; sino que implica la apertura de la persona a las cuestiones ultimas de la vida y refleja una orientación hacia lo Verdadero y lo Bueno … la inteligencia es capaz de acceder a la totalidad del ser, es decir, de considerar la existencia en su integridad que no se agota en lo mensurable, captando así el sentido de lo que ha llegado a comprender. (29)
Límites de la IA
A la luz de cuanto se ha dicho, las diferencias entre la inteligencia humana y los actuales sistemas de IA parecen evidentes. … la IA obra solamente realizando tareas, alcanzando objetivos o tomando decisiones basadas sobre datos cuantitativos y sobre la lógica computacional. (30)
Aunque la IA procesa y simula ciertas expresiones de la inteligencia, permanece fundamentalmente confinada en un ámbito lógico-matemático, que le impone ciertas limitaciones inherentes. … Aunque los sistemas avanzados pueden “aprender” mediante procesos como el aprendizaje automático, este tipo de formación es esencialmente diferente del desarrollo de crecimiento de la inteligencia humana, ya que está moldeada por sus experiencias corporales: estímulos sensoriales, respuestas emocionales, interacciones sociales y el contexto único que caracteriza cada momento. Estos elementos configuran y modelan el individuo en su propia historia personal. En cambio, la IA, al carecer de cuerpo físico, se basa en el razonamiento computacional y el aprendizaje a partir de vastos conjuntos de datos que comprenden experiencias y conocimientos recogidos, en cualquier caso, por los seres humanos. (31)
La inteligencia de una persona forma parte de una historia personal de formación intelectual y moral, que configura fundamentalmente la perspectiva de la persona individual, implicando las dimensiones físicas, emocionales, sociales, morales y espirituales de su vida. Dado que la IA no puede ofrecer esta amplitud de comprensión, los enfoques basados únicamente en esta tecnología, o que la asumen como la principal forma de interpretar el mundo, pueden conducir a «perder el sentido de la totalidad, de las relaciones que existen entre las cosas, del horizonte amplio». (32)
La inteligencia humana no consiste, principalmente, en realizar tareas funcionales, sino en comprender e implicarse activamente en la realidad en todos sus aspectos, y también es capaz de sorprendentes intuiciones. Dado que la IA no posee la riqueza de la corporeidad, la relacionalidad y la apertura del corazón humano a la verdad y al bien, sus capacidades, aunque parezcan infinitas, son incomparables con las capacidades humanas de captar la realidad. … Tantas cosas que experimentamos como seres humanos nos abren nuevos horizontes y nos ofrecen la posibilidad de alcanzar una nueva sabiduría. Ningún dispositivo, que sólo funciona con datos, puede estar a la altura de estas y otras tantas experiencias presentes en nuestras vidas. (33)
Establecer una equivalencia demasiado fuerte entre la inteligencia humana y la IA conlleva el riesgo de sucumbir a una visión funcionalista, según la cual las personas son evaluadas en función de las tareas que pueden realizar. Sin embargo, el valor de una persona no depende de la posesión de capacidades singulares, logros cognitivos y tecnológicos o éxito individual, sino de su dignidad intrínseca basada en haber sido creada a imagen de Dios … dicha dignidad … está en la base de la tradición de los derechos humanos – y específicamente de aquellos que hoy son denominados los “neuroderechos” – que «constituyen un punto de convergencia importante para la búsqueda de un terreno común» y que, por tanto, puede servir de guía ética fundamental en los debates sobre el desarrollo y el uso responsables de la IA.(34)
IV. El papel de la ética para guiar el desarrollo y el uso de la IA
La actividad técnico-científica no tiene un carácter neutro, siendo una empresa humana que pone en cuestión las dimensiones humanísticas y culturales del ingenio humano. (36)
La investigación científica y el desarrollo de habilidades técnicas forman parte de la «colaboración del hombre y de la mujer con Dios en el perfeccionamiento de la creación visible» (37)
Como cualquier otra empresa humana, el desarrollo tecnológico debe estar al servicio del individuo y contribuir a los esfuerzos para lograr «más justicia, mayor fraternidad y un más humano planteamiento en los problemas sociales», que «vale más que los progresos técnicos». La preocupación por las implicaciones éticas del desarrollo tecnológico es compartida no sólo en el seno de la Iglesia, sino también por científicos, estudiosos de la tecnología y asociaciones profesionales, que reclaman cada vez más una reflexión ética para orientar ese progreso de manera responsable.(38)
Para responder a estos desafíos, hay que llamar la atención sobre la importancia de la responsabilidad moral basada en la dignidad y la vocación de la persona. … sólo el ser humano está en relación con la verdad y el bien, guiado por la conciencia moral que le llama a «amar y practicar el bien y que debe evitar el mal»… sólo el ser humano puede ser lo suficientemente consciente de sí mismo como para escuchar y seguir la voz de la conciencia, discerniendo con prudencia y buscando el bien posible en cada situación. En realidad, esto también pertenece al ejercicio de la inteligencia por parte de la persona. (39)
Por eso, tanto los fines como los medios utilizados en una determinada aplicación de la IA, así como la visión global que encarna, deben evaluarse para garantizar que respetan la dignidad humana y promueven el bien común (42)
Una ayuda a la libertad humana y a las decisiones
El compromiso de garantizar que la IA defienda y promueva siempre el valor supremo de la dignidad de todo ser humano y la plenitud de su vocación es un criterio de discernimiento. (43)
Es importante que quienes tomen decisiones basándose en la IA se hagan responsables de ellas y que sea posible dar cuenta del uso de la IA en cada fase del proceso de toma de decisiones. (44)
A medida que los modelos de IA son cada vez más capaces de aprendizaje independiente, puede reducirse de hecho la posibilidad de ejercer un control sobre ellos para garantizar que dichas aplicaciones estén al servicio de los fines humanos. Esto plantea el problema crítico de cómo garantizar que los sistemas de IA se ordenen para el bien de las personas y no contra ellas.(45)
V. Cuestiones específicas
La IA y la sociedad
Además de esto, existe el riesgo de que la IA se utilice para promover lo que el Papa Francisco ha llamado «paradigma tecnocrático», que tiende a resolver todos los problemas del mundo sólo con medios tecnológicos. Según este paradigma, la dignidad humana y la fraternidad, a menudo, se dejan de lado en nombre de la eficacia, «como si la realidad, el bien y la verdad brotaran espontáneamente del mismo poder tecnológico y económico». (54)
En lugar de perseguir únicamente objetivos económicos o tecnológicos, la IA debe utilizarse en favor del «bien común de toda la familia humana», es decir del conjunto «de condiciones de la vida social que hacen posible a las asociaciones y a cada uno de sus miembros el logro más pleno y más fácil de la propia perfección». (55)
La IA y las relaciones humanas
los seres humanos buscan relaciones que impliquen el intercambio recíproco y la búsqueda de la verdad (56)
Esta búsqueda, junto con otros aspectos de la comunicación humana, presupone el encuentro y intercambio mutuo entre personas que llevan dentro la impronta de las propias historias, de los propios pensamientos, convicciones y relaciones. Tampoco podemos olvidar que la inteligencia humana es una realidad múltiple, plural y compleja: individual y social; racional y afectiva; conceptual y simbólica. (57)
La IA tiene la capacidad de favorecer las conexiones dentro de la familia humana. Sin embargo, la IA también podría obstaculizar un verdadero encuentro con la realidad y, en definitiva, llevar a las personas a «una profunda y melancólica insatisfacción en las relaciones interpersonales, o un dañino aislamiento»(58)
Aunque la IA “generativa” es capaz de producir texto, voz, imágenes y otros output avanzados que suelen ser obra de seres humanos, hay que considerarla como lo que es: una herramienta, no una persona[120]. Esta distinción se ve a menudo oscurecida por el lenguaje utilizado por los profesionales, que tiende a antropomorfizar la IA y difumina así la línea que separa lo humano de lo artificial.(59)
Tales enfoques corren el riesgo de inducir a los más jóvenes a percibir a los profesores como dispensadores de información y no como maestros que les guían y apoyan en su crecimiento intelectual y moral. Las relaciones auténticas, arraigadas en la empatía y en un compromiso leal con el bien del otro, son esenciales e insustituibles para fomentar el pleno desarrollo de la persona. (60)
En este contexto, es importante aclarar – aunque con frecuencia se recurre a una terminología antropomórfica – que ninguna aplicación de la IA es capaz de sentir de verdad empatía. Las emociones no se pueden reducir a expresiones faciales o frases generadas en respuesta a las peticiones del usuario; en cambio, las emociones se entienden en el modo como una persona, en su totalidad, se relaciona con el mundo y con su propia vida, con el cuerpo que juega un papel central. La empatía requiere la capacidad de escuchar, de reconocer la irreductible singularidad del otro, de acoger su alteridad y, también, de comprender el significado de sus silencios (61)
Por lo tanto, siempre se debería evitar representar, en modo equivocado, a la IA como una persona, y hacerlo con fines fraudulentos constituye una grave violación ética que podría erosionar la confianza social. (62)
Por tanto, si la IA es usada para favorecer contactos genuinos entre las personas, puede contribuir positivamente a la plena realización de la persona; por el contrario, si en lugar de esas relaciones y de la vinculación con Dios se sustituyen las relaciones por los medios tecnológicos, corremos el riesgo de sustituir la auténtica relacionalidad por un simulacro sin vida (63)
IA, economía y trabajo
Una primera crítica real se deriva de la posibilidad de que, debido a la concentración de la oferta en unas pocas empresas, sean éstas las únicas que se beneficien del valor creado por la IA y no las empresas en las que se utiliza. (64)
Las realidades digitales, al estar libres de limitaciones espaciales, tienden a ser más homogéneas e impersonales en comparación con una comunidad ligada a un lugar concreto y a una historia concreta, con una trayectoria común caracterizada por valores y esperanzas compartidos, pero también por desacuerdos y divergencias inevitables. Esta diversidad es un recurso innegable para la vida económica de una comunidad. Entregar la economía y las finanzas por completo en manos de la tecnología digital significaría reducir esta variedad y riqueza, de modo que muchas soluciones a los problemas económicos, accesibles a través de un diálogo natural entre las partes implicadas, podrían dejar de ser viables en un mundo dominado por procedimientos y proximidades sólo aparentes. (65)
Por un lado, la IA tiene el potencial de aumentar las competencias y la productividad, ofreciendo la posibilidad de crear puestos de trabajo, permitiendo a los trabajadores concentrarse en tareas más innovadoras y abriendo nuevos horizontes a la creatividad y la inventiva. (66)
Sin embargo, mientras la IA promete impulsar la productividad haciéndose cargo de tareas ordinarias, a menudo los trabajadores se ven obligados a adaptarse a la velocidad y las exigencias de las máquinas, en lugar de que éstas últimas estén diseñadas para ayudar a quienes trabajan. Así, contrariamente a los beneficios anunciados de la IA, los enfoques actuales de la tecnología pueden, paradójicamente, desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas. (67)
Si se utiliza para sustituir a los trabajadores humanos en lugar de acompañarlos, existe «el riesgo sustancial de un beneficio desproporcionado para unos pocos a costa del empobrecimiento de muchos». … Esta es la consecuencia lógica del paradigma tecnocrático: el mundo de una humanidad supeditada a la eficacia, en el que, en última instancia, hay que recortar el coste de esa humanidad. En cambio, las vidas humanas son preciosas en sí mismas, más allá de su rendimiento económico. (68)
Por esto, esta bien recordar siempre que «el orden real debe someterse al orden personal, y no al contrario» … el trabajo es «no sólo […] un modo de ganarse el pan», sino también «una dimensión irrenunciable de la vida social» y «un cauce para el crecimiento personal, para establecer relaciones sanas, para expresarse a sí mismo, para compartir dones, para sentirse corresponsable en el perfeccionamiento del mundo, y en definitiva para vivir como pueblo». (69)
Porque el trabajo es «parte del sentido de la vida en esta tierra, camino de maduración, de desarrollo humano y de realización personal», «no debe buscarse que el progreso tecnológico reemplace cada vez más el trabajo humano, con lo cual la humanidad se dañaría a sí misma»… la IA debe ayudar al juicio humano y no sustituirlo, del mismo modo que nunca debe degradar la creatividad ni reducir a los trabajadores a meros «engranajes de una máquina». (70)
La IA y la sanidad
Los operadores sanitarios tienen la vocación y la responsabilidad de ser «custodios y servidores de la vida humana» (71)
Considerada en esta óptica, la IA parece tener un enorme potencial en diversas aplicaciones del ámbito médico, por ejemplo, para ayudar en la actividad diagnóstica de los profesionales sanitarios, facilitando la relación entre pacientes y personal médico, ofreciendo nuevos tratamientos y ampliando el acceso a una atención de calidad incluso para quienes sufren situaciones de aislamiento o de marginalidad. (72)
Sin embargo, si la IA se utilizara no para mejorar, sino para sustituir por completo la relación entre pacientes y profesionales sanitarios, dejando que los primeros interactuasen con una máquina en lugar de con un ser humano, se verificaría la reducción de una estructura relacional humana muy importante en un sistema centralizado, impersonal y desigual. En lugar de fomentar la solidaridad con los enfermos y los que sufren, estas aplicaciones de IA correrían el riesgo de agravar la soledad que suele acompañar a la enfermedad (73)
El uso de la IA para determinar quién debe recibir tratamiento, basándose principalmente en criterios económicos o de eficacia, es un caso especialmente problemático de “paradigma tecnocrático” que debe rechazarse[140]. De hecho, «optimizar los recursos significa usarlos de manera ética y solidaria y no penalizar a los más frágiles»[141]; por no mencionar que, en este ámbito, dichos instrumentos están expuestos «a formas de prejuicio y discriminación. Los errores sistémicos pueden multiplicarse fácilmente, produciendo no sólo injusticias en casos concretos sino también, por efecto dominó, auténticas formas de desigualdad social». (75)
Dado que la atención sanitaria se centra cada vez más en la prevención y en los enfoques basados en el estilo de vida, puede darse el caso de que las soluciones impulsadas por la IA puedan involuntariamente favorecer a las poblaciones más acomodadas, que ya disfrutan de un mayor acceso a los recursos médicos y a una nutrición de calidad. ... Por lo tanto, se necesitan marcos de gestión equitativos para garantizar que el uso de la IA en la atención sanitaria no agrave las desigualdades existentes, sino que esté al servicio del bien común. (76)
IA y educación
Mantienen una plena actualidad las palabras del Concilio Vaticano II: «a verdadera educación se propone la formación de la persona humana en orden a su fin último y al bien de las varias sociedades, de las que el hombre es miembro». De ello se deduce que la educación«no es nunca un simple proceso de transmisión de conocimientos y de habilidades intelectuales, sino que pretende contribuir a la formación integral de la persona en sus diversas dimensiones (intelectual, cultural, espiritual…) incluyendo, por ejemplo, la vida comunitaria y las relaciones vividas en el seno de la comunidad académica», en el respeto a la naturaleza y la dignidad de la persona humana. (77)
En el centro de este trabajo de formación de la persona humana integral está la relación indispensable entre maestro y alumno. Los profesores no se limitan a transmitir conocimientos, sino que son también modelos de las principales cualidades humanas e inspiradores de la alegría del descubrimiento. Su presencia motiva a los alumnos tanto por los contenidos que imparten como por la atención que muestran hacia ellos. Este vínculo favorece la confianza, la comprensión recíproca y la capacidad de abordar la dignidad única y el potencial de cada individuo. En el alumno, esto puede generar un auténtico deseo de crecer. La presencia física del maestro crea una dinámica relacional que la IA no puede replicar, una dinámica que profundiza el compromiso y nutre el desarrollo integral del alumno. (79)
En este contexto, la IA …puede convertirse en un valioso recurso educativo, mejorando el acceso a la educación y ofreciendo un apoyo personalizado y un feedback inmediato por parte los alumnos. Estas ventajas podrían mejorar la experiencia de aprendizaje, sobre todo en los casos en que sea necesaria una atención especial individualizada o cuando los recursos educativos sean escasos. (80)
El uso extensivo de la IA en la educación podría provocar una creciente dependencia de los estudiantes con respecto a la tecnología, lo que bloquearía su capacidad para realizar determinadas actividades de forma autónoma y agravaría su dependencia de las pantallas. (81)
Muchos otros programas se limitan a proporcionar respuestas en lugar de incitar a los estudiantes a encontrarlas por sí mismos o a escribir textos por sí mismos. En lugar de entrenar a los jóvenes para acumular información y dar respuestas rápidas, la educación debería «promover libertades responsables, que opten en las encrucijadas con sentido e inteligencia». A partir de esto, «la educación en el uso de formas de inteligencia artificial debería centrarse sobre todo en promover el pensamiento crítico. (82)
Además, se sabe que los actuales programas de IA pueden proporcionar información distorsionada o artefactual, lo que lleva a los estudiantes a basarse en contenidos inexactos…. un principio rector decisivo es que el uso de la IA debe ser siempre transparente y nunca ambiguo. (84)
IA, desinformación, deepfake y abusos
También existe el grave riesgo de que la IA genere contenidos manipulados e informaciones falsas que, al ser muy difícil de distinguir de los datos reales, pueden inducir fácilmente al engaño. (86)
Existe el problema aún más preocupante de su uso intencionado para la manipulación. ... Un deepfake es una representación falsa de una persona que ha sido modificada o generada por un algoritmo de IA. El peligro que entrañan las deepfake es especialmente evidente cuando se utilizan para atacar o perjudicar a alguien: aunque las imágenes o los vídeos puedan ser artificiales en sí mismos, los daños que causan son reales, y dejan «profundas cicatrices en el corazón de quienes lo sufren», que se sienten «heridos en su dignidad humana». (87)
Al distorsionar «la relación con los demás y la realidad»[160], los productos audiovisuales falsificados generados por IA pueden socavar progresivamente los cimientos de la sociedad. …, puede propagarse involuntariamente, alimentando la polarización política y el descontento social. De hecho, cuando la sociedad se vuelve indiferente a la verdad, diversos grupos construyen sus propias versiones de los “hechos”, con lo que la «conexiones mutuas y las interdependencias»[161], que están en la base del vivir social, se debilitan. Porque las deepfake inducen a poner todo en duda y los contenidos falsos generados por la IA erosionan la confianza en lo que se ve y se oye, la polarización y el conflicto no harán sino crecer. Un engaño tan generalizado no es un problema secundario: golpea el corazón de la humanidad, demoliendo esa confianza fundamental sobre la que se construyen las sociedades. (88)
Combatir las falsificaciones alimentadas por la IA no es sólo trabajo de los expertos en la materia, sino que requiere los esfuerzos de todas las personas de buena voluntad. … Quienes produzcan y compartan material generado por IA deben tener siempre cuidado de comprobar la veracidad de lo que difunden y, en cualquier caso, deberían «evitar compartir palabras e imágenes degradantes para el ser humano, y excluir por tanto lo que alimenta el odio y la intolerancia, envilece la belleza y la intimidad de la sexualidad humana, o lo que explota a los débiles e indefensos». (89)
IA, privacidad y control
Mientras que algunos tipos de datos pueden referirse a aspectos públicos de la vida de una persona, otros pueden llegar a tocar su intimidad, tal vez incluso su conciencia. En definitiva, la privacidad desempeña un papel fundamental a la hora de proteger los límites de la vida interior de las personas y garantizar su libertad para relacionarse, expresarse y tomar decisiones sin estar indebidamente controladas. Esta protección también está vinculada a la defensa de la libertad religiosa, ya que la vigilancia digital también puede utilizarse para ejercer un control sobre la vida de los creyentes y la expresión de su fe.(90)
El Concilio Vaticano II incluyó el derecho «a la protección de la vida privada» entre los derechos fundamentales «para vivir una vida verdaderamente humana» que debería ser el mismo a todas las personas, en virtud de su «excelsa dignidad»(91)
Aunque puedan existir formas legítimas y correctas de utilizar la IA en conformidad con la dignidad humana y el bien común, no es justificable su uso con fines de control para la explotación, para restringir la libertad de las personas o para beneficiar a unos pocos a expensas de muchos. . (93)
El respeto fundamental por la dignidad humana postula rechazar que la singularidad de la persona sea identificada con un conjunto de datos. … el comportamiento pasado de un individuo no debe utilizarse para negarle la oportunidad de cambiar, crecer y contribuir a la sociedad. No podemos permitir que los algoritmos limiten o condicionen el respeto a la dignidad humana, ni que excluyan la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo». (94)
La IA y la protección de la casa común
Al mismo tiempo, los modelos actuales de IA y el sistema de hardware que los sustenta requieren grandes cantidades de energía y agua y contribuyen significativamente a las emisiones de CO2, además de consumir recursos de manera intensiva. Esta realidad queda a menudo oculta por la forma en que esta tecnología se presenta en el imaginario popular, donde palabras como “nube” (cloud)[174] puede dar la impresión de que los datos se almacenan y procesan en un dominio etéreo, separado del mundo físico. En cambio, la nube no es un dominio etéreo separado del mundo físico, sino que, como cualquier dispositivo informático, necesita máquinas, cables y energía. Lo mismo ocurre con la tecnología a la base de la IA. A medida que estos sistemas crecen en complejidad, especialmente los grandes modelos lingüísticos (Large Language Models, LLM), estos requieren conjuntos de datos cada vez mayores, mayor potencia computacional e imponentes infraestructuras de almacenamiento (storage) de datos. Teniendo en cuenta el elevado coste que estas tecnologías suponen para el medio ambiente, el desarrollo de soluciones sostenibles es vital para reducir su impacto en la “casa común”. (96)
Una concepción correcta de la creación sabe reconocer que el valor de todas las cosas creadas no puede reducirse a la mera utilidad. (97)
La IA y la guerra
«la posibilidad de conducir operaciones militares por medio de sistemas de control remoto ha llevado a una percepción menor de la devastación que estos han causado y de la responsabilidad en su uso, contribuyendo a un acercamiento aún más frío y distante a la inmensa tragedia de la guerra»(99)
Los sistemas de armas autónomas letales, capaces de identificar y atacar objetivos sin intervención humana directa, son «gran motivo de preocupación ética», porque carecen de «la exclusiva capacidad humana de juicio moral y de decisión ética»(100)
La IA y la relación de la humanidad con Dios
A medida que la sociedad se aleja del vínculo con lo trascendente, algunos sienten la tentación de recurrir a la IA en busca de sentido o de plenitud, deseos que sólo pueden encontrar su verdadera satisfacción en la comunión con Dios. (104)
Sin embargo, la presunción de sustituir a Dios con una obra de las propias manos es idolatría, … hay que recordar que la IA no es más que un pálido reflejo de la humanidad, ya que ha sido producida por mentes humanas, entrenada a partir de material producido por seres humanos, predispuesta a estímulos humanos y sostenida por el trabajo humano. … al buscar en ella un “Otro” más grande con quien compartir la propia existencia y responsabilidad, la humanidad corre el riesgo de crear un sustituto de Dios. (105)
la IA sigue siendo un producto de manos humanas, lo que conlleva «la destreza y la fantasía de un hombre» (Hch 17,29), al que nunca debe atribuirse un valor desproporcionado. (106)
«por su interioridad [el ser humano] transciende el universo entero; a esta profunda interioridad retorna cuando entra dentro de su corazón, donde Dios le aguarda, escrutador de los corazones, y donde él personalmente, bajo la mirada de Dios, decide su propio destino»(107)
VI. Reflexión final
Hoy en día, un desafío importante y una oportunidad para el bien común reside en considerar dicha tecnología dentro de un horizonte de inteligencia relacional, que hace hincapié en la interconexión de los individuos y de las comunidades y exalta la responsabilidad compartida para favorecer el bienestar integral del otro. El filósofo del siglo XX, Nikolaj Berdjaev, observó que las personas suelen culpar a las máquinas de los problemas individuales y sociales; sin embargo, «esto no hace más que humillar al hombre y no corresponde con su dignidad», porque «es algo indigno transferir la responsabilidad del hombre a una maquina»(111)
Otro punto a considerar es la llamada, provocada por la aparición de la IA en la escena mundial, a renovar la valoración de todo lo que es humano. Como observó el escritor católico francés Georges Bernanos hace muchos años, «el peligro no reside en la multiplicación de las máquinas, sino en el número cada vez mayor de hombres acostumbrados desde la infancia a no desear más que lo que las máquinas pueden proporcionarles»... Cultivar aquellos aspectos de la vida humana que van más allá del cálculo es de crucial importancia para preservar una «auténtica humanidad», que «parece habitar en medio de la civilización tecnológica, casi imperceptiblemente, como la niebla que se filtra bajo la puerta cerrada». (112)
La verdadera sabiduría
Hoy, la vasta extensión del conocimiento es accesible en formas que habrían maravillado a las generaciones pasadas; sin embargo, para impedir que los avances de la ciencia siguen siendo humana y espiritualmente estériles, hay que ir más allá de la mera acumulación de datos y aspirar a la verdadera sabiduría. (113)
En un mundo marcado por la IA, necesitamos la gracia del Espíritu Santo, que «permite ver las cosas con los ojos de Dios, comprender los vínculos, las situaciones, los acontecimientos y descubrir su sentido». (115)
Porque «lo que mide la perfección de las personas es su grado de caridad, no la cantidad de datos y conocimientos que acumulen» el modo como se utilice la IA «para incluir a los últimos, es decir, a los hermanos y las hermanas más débiles y necesitados, es la medida que revela nuestra humanidad» (116)
No hay comentarios:
Publicar un comentario