Quienes asistieron a la presentación de la encíclica Magnifica Humanitas en el Vaticano coinciden en un punto que apenas asomó entre la urgencia de los titulares.
Lo que más impactó en el Aula Sinodal no fue la presencia de Christopher Olah, cofundador de la firma Anthropic, compartiendo estrado con la púrpura cardenalicia. Lo decisivo fue una afirmación de León XIV que puede leerse como una advertencia antropológica central para lo que resta del siglo XXI: “No existe ningún algoritmo capaz de hacer que la guerra sea moralmente aceptable”.
Con esa frase, la Iglesia católica se ha incorporado a uno de los debates más urgentes y definitorios de la era digital. Al exigir el desarme de la inteligencia artificial (IA) y condenar los Sistemas de Armas Autónomas Letales (LAWS, por sus siglas en inglés), el Papa no propone una reacción nostálgica frente a la innovación. Su tesis es más profunda: cuando una tecnología desplaza la responsabilidad moral hacia una cadena de cálculo automatizado, no solo está en juego el progreso técnico, sino la preservación de la condición humana.
El momento en que aparece la encíclica no es casual. Llega en un contexto muy agitado:
- Los drones autónomos ya operan en escenarios como Ucrania, Gaza y la frontera libanesa.
- Los algoritmos de selección de objetivos intervienen en decisiones de bombardeo a partir de patrones de metadatos.
- Las grandes potencias orientan crecientemente sus presupuestos militares hacia la computación cuántica y los modelos de lenguaje aplicados al combate.
El llamado del Vaticano a la gobernanza humanocéntrica de la inteligencia artificial, no suena a exhortación piadosa, supone una advertencia contundente: si permitimos que una máquina decida quién vive y quién muere, habremos cruzado un umbral decisivo en nuestra progresiva deshumanización.
El mito de la neutralidad tecnológica
Durante décadas, la industria de la computación ha difundido la idea de que las herramientas y tecnologías son moralmente neutras y que su valor depende del uso que hagan las personas. Esa es una falacia reconfortante: permite celebrar la innovación sin reparar en las consecuencias.
Sin embargo, cuando un algoritmo de aprendizaje profundo (deep learning) procesa millones de variables para anticipar el comportamiento de un mercado, diagnosticar un tumor o calcular la trayectoria de un misil, no actúa como una herramienta convencional, comparable a un martillo o a un automóvil. Lo que hace es sustituir al juicio humano.
En el ámbito militar, tal sustitución adquiere singular gravedad. La automatización de la letalidad convierte el acto de quitar una vida humana, uno de los actos más trágicos y éticamente densos que pueden realizar un individuo o un Estado, en una operación de optimización matemática.
Un dron programado para detectar “patrones de hostilidad” mediante visión artificial no siente compasión, no vacila ante el llanto de un niño, no comprende el contexto que observa ni posee la flexibilidad moral necesaria para desobedecer una orden absurda o cruel. León XIV lo resume con claridad en Magnifica Humanitas: “Cualquier tecnología que haga más fácil golpear sin ver el rostro del oponente rebaja el umbral moral del conflicto”.
La historia de la guerra también puede leerse como una historia de la distancia. Desde la honda hasta la pólvora, y de ahí a los misiles intercontinentales, cada avance ha alejado más al agresor de su víctima.
Con la IA, esa lógica alcanza un punto extremo: ya no se trata solo de que el soldado no vea los ojos de quien muere, sino que, en muchos casos, ningún ser humano aprieta el gatillo. La decisión letal se delega entonces en un proceso automatizado y opaco, una caja negra cuyo funcionamiento interno resulta inescrutable incluso para quienes lo diseñaron.
Esa delegación de la conciencia rompe la estructura de la responsabilidad jurídica y moral. Si un tanque autónomo dispara contra un hospital de campaña por una alucinación algorítmica o por un sesgo en los datos de entrenamiento, la pregunta es inevitable: ¿quién responde por esa decisión? ¿El programador que escribió el código años antes? ¿El comandante que activó el sistema desde un búnker a miles de kilómetros? ¿La empresa que vendió el software bajo cláusulas de confidencialidad?
Al fragmentar la cadena de decisiones, la IA militar produce una sensación de irresponsabilidad organizada: nadie parece culpable porque la máquina habría tomado, supuestamente, la “determinación óptima” según sus parámetros.
Por ello, el Papa exige que la rendición de cuentas (accountability) quede definida con precisión en cada etapa del desarrollo. Solo así se evitará que líderes políticos y mandos militares invoquen un supuesto indeterminismo técnico como escudo para eludir su responsabilidad ante la sangre derramada.
El ocaso de la “guerra justa”
La doctrina de la “guerra justa”, formulada por pensadores como san Agustín y santo Tomás de Aquino, durante siglos pretendió imponer límites morales estrictos al uso de la fuerza. Sus criterios eran conocidos: legítima defensa, proporcionalidad, distinción entre combatientes y civiles, y recurso a las armas solo como última opción.
Hoy, la realidad geopolítica y tecnológica ha desvanecido esos frenos éticos. La IA militar introduce una paradoja inquietante: al reducir las bajas propias, porque combaten drones, robots y sistemas automatizados, también se reduce el costo político y psicológico de iniciar y sostener un conflicto. El resultado es una guerra más fácil de poner en marcha, más rápida y más impersonal. La fuerza armada deja de verse como último recurso cuando los gobiernos pueden sostener operaciones de baja intensidad, quirúrgicas y automatizadas, sin enfrentar el impacto público del regreso de soldados muertos.
La normalización del conflicto
La encíclica retoma una advertencia que la diplomacia vaticana ya había formulado ante la ONU: la facilidad creciente para desplegar armas autónomas vuelve la guerra “más factible” y empuja al mundo hacia una cultura de conflicto permanente.En un entorno regido por algoritmos competitivos, la paz deja de entenderse como una construcción política basada en el derecho y la confianza mutua. Pasa a convertirse en una pausa entre sucesivas actualizaciones de software bélico.
Babel frente a Jerusalén
Para explicar este dilema, el Papa contrapone dos imágenes bíblicas: la Torre de Babel y la reconstrucción de Jerusalén. La carrera actual por desarrollar algoritmos más poderosos y acumular más datos se asemeja a una Babel, un proyecto técnico, vertical y excluyente, que concentra poder en una élite tecnológica y subordina a la humanidad a métricas de rendimiento.
Frente a ello, la gobernanza humanocéntrica que propone la Iglesia apunta a “edificar la ciudad”, una “nueva Jerusalén”, un orden en el que la técnica quede subordinada a la política, la ética y la justicia social, sin reducir a la persona a una base de datos ni a un vector computacional.
Denuncias a la explotación y colonialismo de datos
La condena vaticana no se limita al uso bélico de la inteligencia artificial. Su crítica se extiende a las dinámicas económicas y sociales que sostienen la revolución digital. Con una sensibilidad marcadamente social, León XIV desmonta la ilusión de la IA como una entidad etérea, mágica e inmaterial, suspendida en una nube incorpórea.
El Newspeak de las grandes tecnológicas oculta la explotación humana y la degradación ecológica que el discurso corporativo procura apartar de nuestra mirada. El texto papal pone nombre y rostro a quienes sostienen, en silencio, la economía digital:
- Los millones de moderadores de contenido en países en desarrollo, obligados por salarios de miseria a revisar jornadas enteras de ejecuciones, pornografía infantil y discursos de odio para entrenar los filtros de seguridad de las grandes plataformas.
- Los niños y comunidades vulnerables que extraen tierras raras y cobalto en condiciones de semiesclavitud en África y América Latina para alimentar las baterías y microchips sobre los que se sostiene el flujo computacional de las Big Tech.
- Los trabajadores de cuello blanco y las industrias creativas cuyos derechos laborales y de propiedad intelectual son sistemáticamente saqueados por algoritmos de raspado de datos (web scraping) para engordar los conjuntos de entrenamiento de empresas privadas sin recibir compensación ni reconocimiento alguno.
“Nada en el mundo de la IA es inmaterial”, destaca la encíclica. La aparente eficiencia tecnológica se sostiene, en realidad, sobre el desgaste físico, psicológico y moral de una nueva masa trabajadora, la cual rara vez aparece en el relato triunfalista de la innovación.
A esta dimensión social, León XIV agrega consideraciones sobre el impacto ecológico. Los centros de datos que sostienen la infraestructura de la IA consumen enormes cantidades de agua para su refrigeración y demandan volúmenes crecientes de energía eléctrica, con un impacto directo sobre las emisiones globales de dióxido de carbono.
Por eso resulta profundamente contradictorio que las élites tecnológicas se presenten como salvadoras del planeta mientras sus costosas infraestructuras aceleran el agotamiento de los recursos hídricos y agravan la crisis climática. Una IA que devora el entorno y explota a los desposeídos para concentrar riqueza en unas pocas firmas tecnológicas no puede presentarse como progreso.
El concepto de algor-ética
¿Cuál es la propuesta concreta del Vaticano ante un panorama que muchos tildan de distópico pero que constituye nuestra realidad cotidiana?
La respuesta de la Iglesia se articula en torno a la necesidad urgente de una regulación internacional estricta y vinculante, un marco de gobernanza global que sitúe la dignidad humana en el centro y que no quede supeditado a las leyes del mercado ni a los intereses de la seguridad nacional de las superpotencias.
Este camino no empieza hoy. Encuentra sus cimientos en el Llamamiento de Roma para la Ética de la IA (iniciado en 2020) y se consolida ahora con la propuesta de la algor-ética: el desarrollo de un marco moral universal que traduzca los valores éticos en parámetros codificables, asegurando que los algoritmos respeten por diseño los derechos fundamentales de las personas.
La algor-ética se basa en seis principios irrenunciables:
| Principio | Descripción según la propuesta humanocéntrica |
|---|---|
| Transparencia | Los sistemas de IA deben ser explicables; se debe acabar con el misterio de las "cajas negras". |
| Inclusión | La tecnología debe ofrecer oportunidades a todos, evitando la creación de nuevas brechas de exclusión. |
| Responsabilidad | Debe haber siempre un ser humano identificable y legalmente responsable por las decisiones de un sistema. |
| Imparcialidad | Los modelos deben ser auditados para erradicar los sesgos y prejuicios que perpetúan la injusticia social. |
| Fiabilidad | Los sistemas deben operar de manera segura y predecible bajo condiciones críticas. |
| Seguridad y privacidad | Protección absoluta de los datos personales frente a la vigilancia masiva corporativa o estatal. |
El Papa insiste en que un código ético diseñado exclusivamente por los departamentos de relaciones públicas de Silicon Valley es inútil y peligroso. "Una IA más moral no sirve de nada si esa moralidad es determinada por unos pocos", afirma. La regulación debe ser multilateral, abierta al debate público y democrático, y contar con la participación activa de los gobiernos, la sociedad civil y las diversas tradiciones culturales y religiosas del mundo.
No podemos permitir que las corporaciones tecnológicas operen bajo el lema de "moverse rápido y romper cosas" (move fast and break things) cuando lo que están rompiendo es el tejido mismo de la convivencia humana y las bases jurídicas del derecho internacional.
Anthropic en el Vaticano: ¿conversión ética o lavado de imagen?
La presencia del cofundador de Anthropic, Christopher Olah, en la mesa de presentación de la encíclica es quizás el gesto político más audaz e intrigante de este pontificado. Anthropic nació precisamente como un laboratorio de investigación fundado por exmiembros de OpenAI que temían el rumbo puramente comercial y descontrolado que estaba tomando el desarrollo de la inteligencia artificial general.
Al postularse como defensores de una "IA constitucional" y alinearse públicamente con las advertencias éticas de la Iglesia, la firma tecnológica busca distanciarse de la agresiva carrera armamentística y comercial de sus competidores.
No obstante, como analistas y ciudadanos, estamos obligados a mantener una mirada críticamente vigilante y libre de candidez. ¿Es esta alianza un signo genuino de contrición y búsqueda de valores comunes por parte de un sector de la industria tecnológica, o estamos asistiendo a una sofisticada operación de relaciones públicas destinada a conseguir la bendición moral del Vaticano mientras se consolida el oligopolio de las Big Tech? La respuesta se encuentra en una zona gris.
El propio Olah lanzó una advertencia severa durante su intervención en Roma, reconociendo abiertamente que existe una posibilidad real y alarmante de que la inteligencia artificial desplace la mano de obra humana a una escala masiva y sin precedentes históricos, y subrayó la necesidad imperiosa de contar con críticos externos, ajenos a los incentivos financieros de las empresas del sector, para auditar el desarrollo tecnológico.
El diálogo establecido entre la milenaria sabiduría humanista de la Iglesia y la vanguardia de la ingeniería de software es, sin duda, un hito histórico. Demuestra que incluso dentro del propio núcleo tecnológico existen voces profundamente preocupadas por el rumbo de sus propias creaciones.
Sin embargo, la buena voluntad de unos cuantos ingenieros idealistas no basta para frenar las dinámicas ciegas del capital financiero y la competencia geopolítica entre Washington y Pekín.
Las declaraciones de principios deben traducirse de inmediato en leyes nacionales, tratados internacionales vinculantes e inspecciones independientes de los laboratorios de computación, del mismo modo que el mundo aprendió a regular, vigilar y contener la energía nuclear tras los horrores de Hiroshima y Nagasaki.
