MAGNÍFICA HUMANIDAD
Por Francisco Vírseda García
En su carta solemne sobre asuntos de la Iglesia, dirigida por el papa León XIV a los obispos y fieles católicos de todo el mundo, la Magnífica Humanidad que Dios ha creado se encuentra hoy ante una elección decisiva: levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos.
Sobre la custodia de la persona humana en el tiempo de la IA
La digitalización, la IA y la robótica están transformando nuestro mundo. Supone una profunda reflexión de la Iglesia sobre el gran desafío de nuestro tiempo: la inteligencia artificial (IA).
León XIV propone “desarmar” a la IA para evitar que pueda generar nuevo tipo de esclavitud.
La IA puede imitar y simular la mente humana, pero no posee conciencia moral, ni empatía, ni valor espiritual.
Los programas de la IA carecen de sensibilidad moral y de conciencia, poseen sesgos generados por algoritmos y pueden manejar una cantidad ingente de datos. No están diseñados para mejorar la condición humana sino con una implacable lógica de la eficiencia y la rentabilidad.
La IA nos adentra en un territorio inexplorado porque plantea un salto cualitativo en nuestra noción de conciencia. La IA es un salto cualitativo porque supone la creación de una superconciencia puramente inmaterial, que aumenta la subjetividad y la libertad humanas,
La encíclica Magnífica Humanidad nos coloca frente al dilema moral de nuestro tiempo: o dejamos que la tecnología crezca sin control y nos someta o la ponemos al servicio de la humanidad.
Magnífica Humanidad nos ilustra sobre los peligros de una tecnología que prioriza la rentabilidad, altera la conciencia humana, debilita nuestra autonomía personal y crea la ilusión de una relación personal con algo tan abstracto como son los algoritmos.
El poder de la moral será el gran antídoto contra la epidemia tecnológica.
La encíclica está dividida en cinco capítulos, a lo largo de 245 párrafos, una introducción y una conclusión:
- El capítulo primero: Un pensamiento dinámico fiel al Evangelio.
- El capítulo segundo: Fundamentos y principios de la doctrina social de la Iglesia.
- El capítulo tercero: Técnica y Dominio.
- El capítulo cuarto: Custodiar lo humano en la transformación, verdad, trabajo y libertad.
- El capítulo quinto: La cultura del poder y la civilización del amor.
A continuación – con el fin de que sirvan de reflexión – se citan aquellos aspectos más significativos referidos a la IA
En el capítulo segundo:
(46)
“Actualmente, para custodiar a la persona humana en el tiempo de la IA, debemos volver a reflexionar sobre el bien común, el destino universal de los bienes, la subsidiariedad y la justicia social”
(71)
“El principio de subsidiariedad vale de manera particular en el contexto de la revolución digital…El nivel que absorbe competencias, datos y capacidad decisional está constituido por empresas y plataformas, que definen condiciones de acceso, reglas de viabilidad, formas de relación e incluso oportunidades económicas. La subsidiariedad requiere que dichos procesos no se impongan desde lo alto de modo opaco y unilateral, sino que estén orientados al bien común mediante la transparencia, la responsabilidad y formas reales de participación (auditorías independientes, transparencia en los algoritmos, acceso equitativo a los datos, herramientas de apelación)”
En el capítulo tercero:
(90)
“…Mientras el desarrollo tecnológico cambia rápidamente lenguajes, relaciones, instituciones y formas de poder, nosotros, los creyentes, debemos y podemos elegir en que proyecto trabajar y con qué estilo, para custodiar y valorar la magnífica humanidad que nos ha sido brindada como don. No se trata de una decisión sobre nuestro futuro, sino sobre nuestro presente, porque la IA y las demás tecnologías emergentes ya son parte de nuestra vida cotidiana.”
(93)
“…Innovaciones (como las ciencias cognitivas y la nanotecnología, la robótica y la biotecnología) pueden ser una gran ayuda para el desarrollo humano integral y el cuidado de la Casa común. Pero, precisamente por su poder, pueden actuar como un acelerador del paradigma tecnocrático y, por ello, necesitan un nuevo marco espiritual, ético y político. Más poderoso no significa necesariamente mejor”.
(96)
“Frente a la concentración de poder en el mundo digital, los grandes principios de la Doctrina social se convierten en criterios para juzgar y discernir el nuevo escenario: la dignidad inalienable de la persona, el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad y la justicia social. Estos principios exigen verificar si el poder de las infraestructuras digitales y de los algoritmos favorece realmente la participación y la responsabilidad, protege a los más vulnerables, asegura un acceso equitativo a las oportunidades y se ordena al bien de todos. Con estas premisas podemos entonces considerar más de cerca qué es la IA, qué posibilidades abre y qué riesgos comporta”.
(97)
“Me limito a recordar algunos elementos esenciales para un discernimiento moral y social que proteja el primado de la persona, con el fin de que sea siempre la inteligencia humana, con su conciencia y su libertad, la que guíe las innovaciones técnicas y establezca con responsabilidad su uso y sus límites”.
(98)
“…Las inteligencias artificiales…están más “cultivadas” que “construidas”: los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA “crece”. En consecuencia, los aspectos científicos fundamentales…siguen siendo desconocidos. Se manifiesta, por tanto, la urgencia de un doble compromiso: por una parte, una profundización de la investigación científica; por otra, un ejercicio de discernimiento moral y espiritual”.
(99)
“No es posible dar una definición única y completa de la IA. Lo que podemos decir es que hay que evitar el equívoco de equiparar esta “inteligencia” a la humana…las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan, en amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias…no conocen lo que producen, porque no residen en el horizonte afectivo, relacional y espiritual en el que el ser humano se vuelve sabio…”
(100)
“…La imitación artificial de la relación de cuidado o acompañamiento puede ser peligrosa cuando se introduce en un contexto pobre de relaciones y de afectos reales; entonces el riesgo no es tanto que una persona crea que está hablando con otra persona, sino que pierda el deseo mismo de buscar realmente al otro”.
(102)
“El uso de la IA nunca es un hecho puramente técnico: cuando entra en procesos que inciden en la vida de las personas, afecta a sus derechos, oportunidades, reputación y libertad. Las decisiones delicadas que repercuten en el trabajo, el acceso a créditos y a otros servicios, y la reputación de las personas, corren el riesgo de ser confiadas completamente a sistema automatizados que no conocen “la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo”…puede haber también un engaño…cuando los sistemas de IA, presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado”.
(103)
“Confiar, en la práctica, a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas”.
(104)
“…no podemos considerar a la IA como moralmente neutra…”
(105)
“Para que la IA respete la dignidad humana y sirva realmente al bien común, s esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas…”
(106)
“Pedir prudencia, contra los rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana…”
(107)
“…No serviría de nada una IA más moral, si esta moral es decidida por unos pocos…”
(108)
“…es indispensable que el uso de la IA…esté acompañado de criterios claros y controles efectivos, inspirados en la participación y la subsidiariedad, las comunidades y los cuerpos intermedios no pueden ser reducidos a destinatarios de decisiones tomadas en otros lugares, sino que debe reglamentarse. Estos son frutos de aporte de muchos y no pueden ser vendidos o confiados a unos pocos…”
(110)
“…Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano…La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla, es necesario desarmarla y hacerla acogedora”.
(129)
“…la IA ¿hace la vida del hombre sobre la tierra, en todos sus aspectos, más humana? ¿y la hace más digna del hombre? Si la respuesta es “sí”, entonces podemos reconocer en ella una posibilidad buena para usar con responsabilidad…Si, en cambio, el poder crece mientras el corazón se marchita y los vínculos se rompen, entonces estamos frente a una nueva versión de Babel: una construcción grandiosa, pero inhumana”.
En el capítulo cuarto:
(132)
“…La desinformación no surge con la IA, pero encuentra hoy en ella un potente multiplicador. La posibilidad de manipular contenidos, imágenes y vídeos expone a los ciudadanos a perspectivas parciales o engañosas…”
(135)
“…Los contenidos que circulan en los entornos digitales influyen en la forma en que las personas perciben el mundo e introducen en la conciencia colectiva imágenes y relatos que orientan los deseos e influyen en las decisiones cotidianas…lo que surge en internet pasa a formar parte de la vida de las personas, sobre todo de los más jóvenes”.
(137)
“…en el ámbito de la escuela y la familia, la creciente necesidad de una nueva conciencia educativa y la formación en el uso correcto y crítico de las herramientas digitales…”
(140)
“…Educar en el uso de la IA implica, por tanto, educar para decidir cuándo y para qué no utilizarla…Debemos aprender a prescindir de la IA y proteger a nuestros jóvenes de la promesa de la máquina perfecta…”
(141)
“…En la red no son raros los fenómenos de captación, chantaje y explotación sexual de los menores, que se vuelven más insidiosos por el uso de perfiles falsos, de algoritmos que amplifican contactos peligrosos y de herramientas de IA capaces de manipular imágenes y vídeos. Tener un teléfono móvil personal demasiado pronto y utilizarlo sin el control de los adultos puede acentuar la fragilidad y favorecer las adicciones de los jóvenes, exponiéndoles a dinámicas de aislamiento, acoso y ciberacoso, así como a la presión para compartir imágenes íntimas o datos sensibles”.
(143)
“La escuela es el lugar donde las nuevas generaciones pueden aprender a buscar y amar la verdad, a cuestionarse el sentido de la vida y la dignidad de cada persona…,”
(145)
“…El desarrollo de las tecnologías de la información y de la IA hace que los planes de estudios concebidos para otra época quedan rápidamente obsoletos, mientras que la organización de la escuela, los espacios, los métodos de evaluación y la propia figura del docente deben replantearse con vistas a una educación verdaderamente integral, abierta a todas las dimensiones de la persona. Es necesario favorecer la formación continua de los docentes a lo largo de toda su vida profesional, para que sepan dialogar de manera positiva con las nuevas tecnologías, ayudando a los alumnos a hacer un uso responsable, crítico y creativo de ellas, y a no sufrir pasivamente su influencia”.
(146)
“…Si no estamos atentos, puede surgir un sistema educativo carente de amor por la verdad, en el que el flujo incesante de información sustituya el ejercicio de la investigación, la reflexión y el discernimiento…Es necesario promover una verdadera higiene de la atención: ritmos que incluyen silencio, estudio reflexivo, lectura, análisis ponderado; sin estos elementos, la libertad interior puede verse comprometida”.
(147)
“…La escuela no está llamada a perseguir la velocidad del mundo digital, sino a ofrecer aquello que lo digital por sí solo no puede dar: tiempo compartido para aprender y relaciones fiables”.
(163)
“…La política tiene la tarea de orientar las dinámicas económico-tecnológicas hacia el bien común, promoviendo el trabajo digno, la inclusión social y una distribución equitativa de los beneficios de la innovación…”
Como educadores debemos preguntarnos: La IA ¿qué aporta?, ¿a quién sirve?, ¿qué legado deja?
Debemos comprometernos con una gestión responsable
Estamos obligados a usar la tecnología de manera transparente, ética y responsable.
Francisco Vírseda García
