Pedro Aceituno, profeso de UDIMA, el viernes 12 de junio, 2026, ha dado una charla sobre la inteligencia artificial, con la que ya cuentan tantos equipos de trabajo: cómo utilizarla, qué ventajas nos aporta, pero también posibles inconvenientes; qué prevenciones se deben tener en cuenta… La asistencia ha sido numerosa, porque el tema es de gran utilidad. Ha habido muchas preguntas; en realidad, más que una exposición detallada del tema ha habido un coloquio entre el ponente y los asistentes. Al final D. Juan leyó algunos puntos de la encíclica Magnifica Humanitas que el Papa León XIV acaba de publicar. Porque
sobre todo lo que más se necesita es conocer bien los criterios de fondo que el Papa ha expuesto en este amplio documento. Además de otros lugares de la encíclica, los números 97 a 110 están dedicados a comentar esos criterios, que aquí recogemos en parte. Las frases que destacamos en negrita son iniciativa nuestra.
Encíclica Magnifica Humanitas, selección detextos de los nn. 97 a 110.
l n 97 Se deben recordar algunos elementos esenciales para un discernimiento moral y social que proteja el primado de la persona, con el fin de que sea siempre la inteligencia humana, con su conciencia y su libertad, la que guíe las innovaciones técnicas y establezca con responsabilidad su uso y sus límites.
Todos nosotros, incluidos quienes los diseñan, sabemos muy poco sobre su funcionamiento efectivo. Las inteligencias artificiales modernas están más “cultivadas” que “construidas”:
l n 98 Los aspectos científicos fundamentales —como las representaciones internas y los procesos computacionales de estos sistemas— siguen siendo desconocidos. Se manifiesta, por tanto, la urgencia de un doble compromiso: por una parte, una profundización de la investigación científica; por otra, un ejercicio de discernimiento moral y espiritual.
l n 99. No es posible dar una definición única y completa de la IA. Lo que podemos decir es que hay que evitar el equívoco de equiparar esta “inteligencia” a la humana. Estos sistemas imitan ciertas funciones de la inteligencia humana. Al hacerlo, a menudo la superan en velocidad y amplitud de cálculo, ofreciendo beneficios concretos en numerosos campos. Y, sin embargo, esta potencia sigue ligada exclusivamente al tratamiento de datos:
l n 100. La IA puede ser una valiosa ayuda y, al mismo tiempo, exija un enfoque prudente y cauteloso. En los últimos años su uso privado ha crecido notablemente, y desde distintos ámbitos se reflexiona. sobre las oportunidades y los riesgos vinculados a su rápida difusión.
Cuando la palabra es simulada, esta no construye una relación, sino una apariencia; entonces el riesgo no es tanto que una persona crea que está hablando con otra persona, sino que pierda el deseo mismo de buscar realmente al otro.
l n 101. Tiene diversos riesgos, como el de subestimar el impacto ambiental. Los actuales sistemas de IA requieren grandes cantidades de energía y agua, inciden de manera significativa en las emisiones de anhídrido carbónico y consumen recursos de manera intensiva.
Responsabilidad, transparencia y gobernanza de la IA
l n 102. El uso de la IA nunca es un hecho puramente técnico: cuando entra en procesos que inciden en la vida de las personas, afecta a sus derechos, oportunidades, reputación y libertad. Las decisiones delicadas que repercuten en el trabajo, el acceso a créditos y a otros servicios, y la reputación de las personas, corren el riesgo de ser confiadas completamente a sistemas automatizados que no conocen «la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo», pudiendo así producir nuevas formas de descarte.
l n 103. Confiar, en la práctica, a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas.
La velocidad y la sencillez con la que es posible obtener indicaciones, elaboraciones complejas, contenidos mediáticos y formas de asistencia concreta simplifican nuestras vidas, pero también pueden acostumbrarnos a delegar demasiado y a buscar respuestas rápidas, debilitando el juicio personal y la creatividad La impresión de objetividad que las respuestas y las propuestas de estos sistemas pueden suscitar, corre el riesgo de hacernos olvidar que
estas reflejan los parámetros culturales de quienes las han proyectado y adiestrado, con todas sus virtudes y defectos.
n 104. De esto se deriva una consecuencia sencilla pero apremiante: no podemos considerar a la IA como moralmente neutra. En realidad, todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones.
l n 105. Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas.
l n 106. Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana. Esta exigencia es aún más urgente porque existe a menudo un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas, los controles y las instituciones capaces de gobernar sus efectos.
l n 108. Como ocurre con todo gran avance tecnológico, la IA tiende a aumentar sobre todo el poder de quien ya dispone de recursos económicos, competencias y acceso a los datos. A la luz del bien común y del destino universal de los bienes, este fenómeno suscita seria preocupación: pequeños grupos muy influyentes pueden orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos.
l n 109 Los principios de la Doctrina social nos ayudan a leer esta nueva realidad. En un mundo donde pocos sujetos concentran datos, capital informático y capacidad normativa, hablar de bien común significa desenmascarar esta nueva asimetría epistémica, económica y política, nombrando los nuevos monopolios de la IA. Hablar de destino universal de los bienes significa encontrar modos de asegurar el acceso universal a las tecnologías y a la formación. etc etc
l n 110. Quisiera, por último, usar una palabra muy importante para mí: “desarmar”. Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. (…) Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. (…) La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora..