El papa León XIV publicó esta semana su primera encíclica con altas pretensiones al marcar, entre una extensa serie de conceptos y citas que llegaron hasta El Señor de los Anillos, algunos límites para el avance de la inteligencia artificial.
En busca de acuerdos
El papa León XIV y su “cruzada” ante la monopolización de la inteligencia artificial
Su primera encíclica, “Magnifica Humanitas”, cuestiona parte del rumbo que estaría tomando la actual revolución industrial. Los guiños a otro Sumo Pontífice y la oposición de propietarios.
Titulado “Magnifica Humanitas”, el Sumo Pontífice emuló el “Rerum Novarum” de León XIII en formato de era digital “sobre la custodia de la persona humana en el tiempo de la inteligencia artificial”.
Estos “nuevos asuntos” (en la traducción del latín al español) se posicionan con ojo crítico sobre el actual rumbo del desarrollo de la IA y las pretensiones de las firmas radicadas en Estados Unidos, limitando “a recordar algunos elementos esenciales para un discernimiento moral y social que proteja el primado de la persona”.
León XIV aclara que “el desarrollo tecnológico ha contribuido a una mejora significativa de las condiciones de vida de la humanidad; al mismo tiempo, cada etapa del progreso también ha puesto de manifiesto el lado ambiguo de instrumentos capaces de causar daño cuando no se orientan hacia el bien”.
“Las nuevas tecnologías abren un horizonte que se extiende en direcciones que, aunque intuibles, aún no podemos prever por completo. Esto hace que sea más complejo evaluar su impacto y sus efectos a largo plazo sobre la dignidad de las personas y el bien común”, agrega en el pasaje de Las “res novae” de nuestro tiempo.
Un fragmento permite resumir el destinatario principal que posee el texto: “En el pasado, eran principalmente los estados los que impulsaban y orientaban la innovación. Hoy los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos”.
En El paradigma tecnocrático y el poder digital, suma que “el peligro de que la humanidad sea víctima de sus propias conquistas había sido ya percibido con lucidez por san Pablo VI, cuando advertía que «los progresos científicos más extraordinarios, las proezas técnicas más sorprendentes, el crecimiento económico más prodigioso, si no van acompañados de un auténtico progreso social y moral, se vuelven, en definitiva, contra el hombre».
En Una ayuda valiosa que requiere atención apela al aspecto “humano”: “La imitación artificial de una comunicación humana positiva —palabras de consejo, de empatía, de amistad, de amor— puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal”.
El Vaticano y Anthropic
Entre el Vaticano y Anthropic no se ha establecido un contrato comercial o tecnológico en el sentido corporativo tradicional, sino más bien un marco de diálogo ético y convergencia regulatoria frente al avance de la inteligencia artificial.
Uno de los pilares más significativos de esta relación es la petición explícita de Anthropic hacia la Iglesia. La empresa ha reconocido abiertamente que los laboratorios de IA de frontera están sometidos a intensas presiones competitivas, geopolíticas y comerciales que pueden nublar las decisiones éticas.
Por ello, el acuerdo de fondo es el reconocimiento de la Iglesia Católica como una “voz moral externa e independiente” que debe auditar, criticar y presionar a la industria tecnológica, ya que sus incentivos no están ligados al beneficio económico.
La posición de Anthropic se fortaleció desde julio de 2025, cuando había firmado un lucrativo contrato de 200 millones de dólares con el Pentágono. Sin embargo, el Departamento de Defensa exigió que la empresa eliminara sus "guardrails" (barreras de seguridad) para permitir que su IA fuera utilizada en vigilancia masiva doméstica y en sistemas de armas autónomas letales.
El CEO Dario Amodei se negó rotundamente en nombre de la conciencia ética de la empresa. Como represalia, la administración de Donald Trump y el secretario de Defensa, Pete Hegseth, designaron a Anthropic como un "riesgo para la cadena de suministro de la seguridad nacional", emitiendo una orden ejecutiva para que todas las agencias federales dejaran de usar sus tecnologías.
El guiño a León XIII
El antes llamado Robert Prevost tomó el nombre León por su decimotercer homónimo, el romano Vincenzo Gioacchino Pecci, León XIII. Las referencias a este papa no son sólo espirituales, sino también ideológicas.
León XIV busca emular los conceptos de León XIII, quien atravesó en su papado entre los años 1878 y 1903 el proceso de la segunda revolución industrial y estableció críticas similares.
León XIV señaló que el mundo actual vive una transición similar. Así como León XIII tuvo que responder a los desafíos de la era industrial, el papado actual debe guiar a la humanidad y fijar una postura ética ante la revolución tecnológica y el auge de la Inteligencia Artificial, asegurando que el progreso no aplaste la dignidad de las personas.
"Pensé tomar el nombre de León XIV por varias razones, pero la principal es porque el Papa León XIII, con la histórica encíclica Rerum Novarum, afrontó la cuestión social en el contexto de la primera gran revolución industrial", declaró en mayo de 2025.
La oposición y cuestionamientos
La encíclica de León XIV intenta disentir con conceptos que empresas como Palantir han hecho públicas como sus pilares y objetivos. La firma de Peter Thiel considera que el orden mundial tradicional está cambiando y que el poder en el siglo XXI ya no se sostiene principalmente mediante tratados diplomáticos, sino a través del software.
Desde Palantir defienden que las empresas tecnológicas de Silicon Valley tienen la responsabilidad de colaborar activamente con el Estado y las agencias de defensa nacional.
El uso de citas de Gandalf de El Señor de los Anillos por parte de León XIV no parece ser casual ante el bautismo de esta empresa en base a palantir, es una de las míticas "piedras videntes" que permiten ver lugares lejanos o comunicarse mentalmente con quien posea otra de las piedras. Esta, al caer en usos imprudentes, provoca hechos desafortunados en el relato de J. R. R. Tolkien.
Otra gran figura que se posiciona en las antípodas de las postulaciones del Sumo Pontífice es Sam Altman de Open Ai, quien ha declarado que ve “un futuro donde la IA es una utilidad, como la electricidad o el agua, y la gente la compra de nosotros por medio de un medidor”.
Desde las esferas oficiales de la Casa Blanca se han conocido declaraciones que cuestionan al líder religioso. El secretario del Interior estadounidense, Doug Burgum, dijo que “no sabía que editorializar sobre tecnología formara parte del papel del papa”, sumando argumentos que sostienen el actual correr de la tecnología en cuestión.
Sobre el Autor
#TEMAS:
