¿Custodiar lo humano en la era de la Inteligencia Artificial?

El Papa León XIV nos sorprendió con la publicación de su primera carta encíclica, Magnifica humanitas. Aunque desde que escogió el nombre de León sabíamos que su interés social sería lo que marcaría su papado, este texto ha superado las expectativas. Se trata de un documento extenso, son 245 puntos, divididos en 145 páginas.

Es muy profundo y sumamente actual, actualiza la Doctrina Social del Iglesia desde uno de los grandes retos de nuestra generación: la custodia de la dignidad de la persona humana en el tiempo de la Inteligencia Artificial (IA) y de las nuevas tecnologías.

Si no me conoces, además de sacerdote, soy profesor de Doctrina Social de la Iglesia y tengo el título de Ingeniero en Sistemas, así que los temas me son conocidos.

Al adentrarme en la lectura y meditación de este texto, me han surgido dos interrogantes fundamentales que me parece que representan el desafío de nuestra generación: ¿Qué significa realmente custodiar lo humano frente al avance de los algoritmos? Y, ¿a qué se refiere el Santo Padre cuando nos convoca a un urgente «desarme» de la IA?

Dos proyectos en tensión: Babel y Jerusalén

Para enmarcar esta reflexión, el Papa utiliza magistralmente dos imágenes bíblicas que representan dos paradigmas opuestos de construcción histórica: la Torre de Babel y la reconstrucción de Jerusalén por Nehemías.

Babel simboliza el proyecto de una humanidad que busca la autosuficiencia absoluta, anhelando alcanzar el cielo mediante su propio poder tecnológico, excluyendo a Dios y reduciendo al otro a un simple medio. En la construcción de aquella torre, se utilizaban ladrillos producidos en serie, todos exactamente iguales.

Hoy, el mundo digital corre el grave peligro de transformarse en una nueva Babel: un ecosistema dominado por la fría eficiencia y la homogeneización, donde las personas son reducidas a «datos que extraer».

En la lógica de Babel se habla mucho, pero no hay verdadera comunicación; todo se estandariza bajo un paradigma tecnocrático que prioriza el rendimiento por encima del rostro humano.

Frente a esta amenaza, el Papa nos propone el camino de Nehemías, quien reconstruyó las murallas de una Jerusalén en ruinas. Nehemías no impuso un sistema estandarizado desde la cúspide del poder, sino que convocó a las familias, escuchó sus temores y organizó un trabajo de corresponsabilidad comunitaria.

En la Jerusalén celestial no se utilizan ladrillos idénticos, sino «piedras vivas», cada una única, con sus propias aristas, vetas y fragilidades. La verdadera reconstrucción de la sociedad implica tomar precisamente a las «piedras desechadas» —los pobres, los frágiles, los marginados por la brecha digital— y convertirlas en la piedra angular de nuestra convivencia.

Custodiar lo humano frente a la delegación del pensamiento

Comprender esta diferencia es vital para responder a nuestra primera pregunta. Custodiar lo humano hoy significa resistirnos a la tentación de ceder nuestra capacidad de pensar, discernir y amar a las máquinas. La IA es una herramienta de cálculo formidable, pero carece de experiencia vital; no posee un cuerpo, no experimenta la alegría ni el dolor, y no tiene conciencia moral para juzgar entre el bien y el mal.

En mi experiencia analizando el impacto de estas tecnologías, he visto cómo esta delegación cognitiva ya está afectando nuestra humanidad. Hace poco, conversando sobre el ámbito legal, analizábamos el caso de abogados que delegaban la corrección de contratos a la IA, terminando en un absurdo escenario donde dos inteligencias artificiales «discutían» sobre términos que los propios humanos ya no dominaban a fondo.

De manera similar, en el ámbito de la formación teológica, he sido testigo de cómo algunos estudiantes, al preparar presentaciones con IA, dudan de sus propios conocimientos estructurados y terminan asumiendo como verdaderos errores teológicos evidentes, simplemente porque la máquina, revestida de una supuesta objetividad inefable, se los sugirió.

Este es el riesgo exacto del que nos advierte Magnifica humanitas. Cuando dejamos que la tecnología piense por nosotros, nuestras ideas se empobrecen, nuestra capacidad de asombro se atrofia y nuestra cabeza deja de esforzarse por alcanzar la verdad. Custodiar lo humano significa reivindicar el valor de nuestra inteligencia creativa, nuestra capacidad de empatía real y nuestra libertad moral, dimensiones que ninguna red neuronal podrá jamás replicar.

Significa también abrazar nuestros propios límites y vulnerabilidades no como «errores del sistema» que deben ser erradicados por el transhumanismo, sino como el espacio sagrado donde maduramos, donde nos necesitamos mutuamente y donde Dios se hace presente.

El «desarme» de la Inteligencia Artificial

Esto nos lleva a una de las propuestas más audaces y profundas del documento: el llamado a «desarmar la IA». ¿Qué implica este desarme en pleno siglo XXI?

En primer lugar, el Papa es categórico en su dimensión militar. Hoy presenciamos el desarrollo de Sistemas de Armas Autónomos, donde se delega a un algoritmo la decisión sobre la vida y la muerte. Confiar a un sistema artificial el poder letal es un acto intrínsecamente inhumano que anula la responsabilidad moral.

La IA baja el umbral del recurso a la violencia, reduciendo a las víctimas a meros «daños colaterales» o datos estadísticos. Frente a esto, desarmar la IA es exigir un control humano significativo e intransferible en cualquier decisión que comprometa la vida.

Pero el concepto de desarme en la encíclica va mucho más allá de la guerra armada. En el número 110, el Papa León XIV nos llama a sustraer a la IA de la «lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva». Hoy se libra una carrera feroz por poseer el algoritmo más eficiente y el banco de datos más amplio para imponer hegemonías geopolíticas y monopolios comerciales.

Vivimos una nueva forma de colonialismo donde nuestra información personal, nuestros hábitos y perfiles de salud se han convertido en las «nuevas tierras raras» del poder.

Desarmar la IA significa romper la equivalencia entre el poder tecnológico y el derecho a dominar a los demás. No se trata de un rechazo ludita a la tecnología, sino de «impedirle el dominio sobre lo humano». Significa hacer que la IA sea auditable, refutable y habitable, sometiendo sus códigos y algoritmos a los criterios innegociables de la justicia social y el bien común. Es exigir que los algoritmos no se conviertan en cajas negras que deciden quién es digno de un crédito, de un empleo o de atención médica, reproduciendo sesgos y descartando a los más débiles bajo una fachada de falsa objetividad.

Tejedores de una historia de salvación

Frente al avance del paradigma tecnocrático, la doctrina cristiana nos ofrece la brújula definitiva: el misterio de la Encarnación. El Verbo de Dios no se hizo algoritmo, ni información incorpórea; se hizo carne frágil, asumiendo nuestra condición para redimirla desde adentro.

La calidad de nuestra civilización no se medirá por la potencia de nuestros microprocesadores, sino por el cuidado que sepamos ofrecernos, por nuestra capacidad de reconocer un rostro humano y no una simple función o un dato.

El gran desafío que tenemos por delante es responder al llamado del Papa a no ser espectadores pasivos o constructores de una fría

Torre de Babel. Con la misma fe de la Virgen María en el Magníficat, estamos llamados a ser «tejedores de esperanza».
En nuestras familias, en nuestras empresas, en la academia y en la política, debemos exigir y construir una tecnología que sirva a la persona, que libere, que una y que tutele la paz.

Sólo así garantizaremos que, en la era de las máquinas perfectas, siga brillando el esplendor insustituible de nuestra magnífica humanidad.

Te invitamos a ver el Conversatorio Sobre este tema