- DE PRIMERA MANO
/ Por Omar Zúñiga /
La primera encíclica del Papa León XIV, Magnifica Humanitas, contiene una frase que debería incomodar tanto a los entusiastas de la inteligencia artificial como a quienes la gobiernan sin mirarla de frente: la tecnología “exige ahora ser desarmada”.
No es una metáfora piadosa, se trata de una acusación directa a la lógica que ha convertido a la IA en instrumento de dominación, exclusión y, en los escenarios más extremos, de muerte.
Lo notable del documento no es que un Papa hable de tecnología —eso ya lo hizo Francisco—, sino el momento en que lo hace y el peso que le otorga.
León XIV, matemático de formación antes que teólogo, firmó el texto en el 135º aniversario de Rerum Novarum, la encíclica que en 1891 puso a la Iglesia a discutir la cuestión obrera frente al capital industrial.
La comparación es deliberada, si aquella respondió a la máquina de vapor y la fábrica, esta responde al algoritmo y el centro de datos.
La disyuntiva que plantea es bíblica y, a la vez, perfectamente contemporánea, levantar una nueva Torre de Babel o edificar una ciudad donde quepan todos.
*****
El núcleo del argumento es sencillo y por eso mismo incómodo, la dignidad humana no se gana, no se demuestra, no depende del rendimiento, y sin embargo vivimos exactamente en el sistema que la encíclica denuncia: currículums filtrados por software antes que los vea un humano, créditos negados por un modelo que no explica por qué, trabajadores invisibles etiquetando datos o moderando contenido para que la IA de otros parezca limpia, etc.
México no es ajeno a esta situación; lo vemos en la opacidad con la que gobiernos municipales, estatales o federal, manejan sus propios sistemas de datos —padrones, nóminas, contrataciones— sin que nadie pueda auditar el criterio detrás de una decisión.
La diferencia es que ahí todavía hay un funcionario al que se le puede exigir cuentas…, al emsmo em teoría
Cuando el filtro es un algoritmo, la responsabilidad política se diluye, y eso —advierte el Papa— es exactamente el problema: no hay misericordia posible en un sistema que ni siquiera sabe que está decidiendo sobre una vida.
*****
La respuesta de la propia industria confirma, sin querer, el diagnóstico del Papa.
Anthropic —la empresa detrás de Claude— envió a su cofundador Christopher Olah a sentarse a tres asientos de León XIV durante la presentación en el Vaticano; su director, Dario Amodei, llevaba meses advirtiendo, en tono casi apocalíptico, que la humanidad podría no sobrevivir a una IA mal gobernada.
Del otro lado, David Sacks, el zar de inteligencia artificial de la Casa Blanca de Trump, respondió con la advertencia contraria: darle al Estado poder sobre la IA “en nombre de la seguridad” es la antesala de la vigilancia orwelliana.
Sam Altman, de OpenAI, prefirió bajarle el tono a sus propias predicciones apocalípticas sobre el empleo un día después de la encíclica.
Musk, Zuckerberg, Pichai y Bezos, simplemente, no dijeron nada —el silencio más elocuente de todos, viniendo de los hombres a quienes el propio texto papal señala como los nuevos dueños de un poder que “tiende a hacerse opaco y a eludir el control público”.
Incluso entre los científicos que construyeron el campo, la fractura es visible; Yoshua Bengio secunda la alarma del Papa sobre el potencial destructivo de la tecnología, mientras otros analistas prefieren discutir el marco antes que el fondo.
*****
La encíclica, en ese sentido, no logró que la industria se pusiera de acuerdo; logró, más bien, hacer visible exactamente dónde está parado cada quien.
Hay un pasaje sobre armas autónomas que merece leerse más de una ocasión: delegar decisiones letales en un algoritmo es, dice la encíclica, inmoral sin matices.
En un país donde la guerra contra el crimen organizado ya opera con vigilancia masiva, inteligencia de datos y cada vez más automatización, la advertencia no es abstracta ni lejana.
Lo que propone el texto no es ludismo u odio a la tecnología, sino que reconoce su valor y pide, en cambio, gobernanza real, trazabilidad de las decisiones algorítmicas, marcos jurídicos con participación pública efectiva, datos tratados como bien común y no como materia prima de unos cuantos monopolios.
Es, en el fondo, la misma exigencia que hacemos —o deberíamos hacer— a cualquier poder que opera sin transparencia: que rinda cuentas.
*****
La pregunta que deja Magnifica Humanitas no es si la inteligencia artificial va a transformar nuestras vidas, porque eso ya estápasando.
La pregunta real es si vamos a dejar que la decisión sobre quién se beneficia y quién queda desechado la tome un sistema sin rostro, o si alguien —gobiernos, iglesias, ciudadanía organizada— se atreve todavía a preguntarle a esa tecnología, como se le cuestiona a cualquier poder -¿a quién sirves?-.
¡Qué barbaridad!