Por Jaime Ulloa Gómez, Investigador Fondecyt N°1250016
¿Qué tienen en común un jarro Pitrén, un plato Willow producido en Penco y una pantalla digital? ¿Qué cambia cuando dejamos de pensar la IA como una “nube” y comenzamos a verla como una entidad profundamente terrestre?
Esas fueron preguntas que recibieron al sacerdote y filósofo Paolo Benanti en el Museo Chileno de Arte Precolombino durante su visita a la recientemente inaugurada exposición Bajo nuestros pies: las tierras raras de la IA, creada por Martín Tironi y Manuela Garretón.
Benanti es sacerdote franciscano, profesor de teología moral en la Pontificia Universidad Gregoriana y uno de los principales asesores del Vaticano y la ONU en materia de inteligencia artificial. Su trabajo se ha centrado en las implicancias éticas, políticas y antropológicas de las tecnologías digitales. El fraile se encontraba de visita en Chile en el contexto del lanzamiento del Nodo IA de la Pontificia Universidad Católica, espacio que busca articular la reflexión y colaboración en torno a la IA.
Aprovechando su visita, Benanti recorrió el Museo Chileno de Arte Precolombino junto a los creadores de la muestra. A partir de ese recorrido, se inició una conversación sobre los desafíos éticos, materiales y planetarios de la inteligencia artificial, cuyo intercambio presentamos a continuación.
Aterrizando el Algoritmo en las Infraestructuras Planetarias
La muestra Bajo Nuestros Pies desafía los discursos dominantes sobre la IA como un asunto meramente técnico-computacional, y nos lleva a la tierra desde la cual se extraen los materiales que la hacen posible. De esta forma nos revela parte de la realidad material de la IA, en cuya base se encuentran diversos conflictos y controversias, como se ha podido observar en los movimientos sociales contrarios a la instalación de la minera de tierras raras en Penco. Si el llamado desde Penco con relación a la IA es el de proteger la tierra, el llamado desde el Vaticano es el proteger la persona humana. Con este espíritu es que se presenta la carta encíclica Magnifica Humanitas del Papa León XIV, publicada apenas una semanas antes de la inauguración de la muestra. León XIV hace el llamado a “desarmar la IA”1 para que las lógicas económicas y geopolíticas no la usen como herramienta para oprimir la dignidad humana. El padre Benanti comulga con esta idea, como se puede apreciar en su profunda crítica a la ideología teológico-política del tecno-oligarca Peter Thiel y la “mafia de PayPal”.
Ambas aproximaciones a la inteligencia artificial convergen en una preocupación compartida: la habitabilidad planetaria. Más que una cuestión exclusivamente algorítmica, la IA plantea el desafío de repensar cómo habitamos el mundo en la era digital y de asumir la responsabilidad de construir, en palabras de Francisco —citadas por León XIV2 —, una “pluriforme armonía” que incluya no solo a los seres humanos, sino también a la Tierra y a las múltiples formas de vida que la sostienen.
A partir de esta idea, Martín Tironi plantea a Benanti una pregunta que orienta el diálogo.
MT: La exposición enfatiza la necesidad de comprender la inteligencia artificial desde sus anclajes materiales y planetarios, mientras que Magnifica Humanitas propone un horizonte ético centrado en la dignidad y la responsabilidad humana. ¿Cómo dialogan estas dos perspectivas? ¿Puede la humanización de la inteligencia artificial pensarse también como una responsabilidad con la Tierra y con las condiciones ecológicas que hacen posible la vida?
PB: Bueno, ya sabes, cuando hoy en día decimos “IA” en la esfera pública, decimos algo que la gente suele entender como la experiencia pulida y agradable de la interfaz de un LLM [Modelo Grande de Languaje] que surge a partir de 2022. Esto no es IA, no es la única forma de IA, pero para la mayoría de la gente esto es lo que significa cuando dices “IA”. Y así, lo que es una experiencia pulida, neutral e inmaterial, en realidad oculta un largo proceso como misterio de ideas, misterio de transformación y también misterio de poder de los seres humanos en todo el mundo. Así que cada vez que interactúo con un LLM, en realidad también estoy utilizando muchos trabajos mal pagados del Sur Global para etiquetar los datos y hacer que ese tipo de datos sea trabajable para la máquina. Más allá de eso, la máquina es también el resultado de una cadena profunda y poderosa de extracción de minerales críticos de la tierra que permiten a los semiconductores construir una enorme capacidad para funcionar como puerta lógica y como capacidad lógica de la máquina. Pero la experiencia cotidiana de una superficie plana y pulida (como es el caso de la IA) oculta todo lo que hay detrás. Probablemente hay algo similar en la historia reciente cuando descubrimos que los diamantes están manchados de sangre, que hay una cadena detrás de lo que tenemos en nuestras manos, que no es visible, pero que hace a cada usuario responsable de esa cadena.
Revelar la materialidad de la inteligencia artificial, como propone esta muestra, es también una forma de activar una ética de la responsabilidad frente a su desarrollo y uso en el mundo contemporáneo. Porque tenemos la tendencia a pensar que la IA no tiene costo o es barata. En realidad, la IA cuesta mucha energía, cuesta mucha agua, cuesta muchas telecomunicaciones, cuesta una enorme transformación de muchas áreas del planeta que, en este caso, están impulsadas por la economía y la extracción económica. Así que centrarse en el lado material de la IA es algo que puede activar un proceso de responsabilidad y una cadena de responsabilidad. Recae sobre el usuario y, globalmente, sobre los líderes decidir si podemos aceptar este tipo de explotación en un sentido de justicia global o en una perspectiva que nos permita hablar de justicia y uso equitativo de los recursos.
Hacia una tecno diversidad. ¿Es posible otra IA?
MT: Hoy el desarrollo de la inteligencia artificial parece estar concentrado en un pequeño grupo de grandes empresas que definen sus ritmos, infraestructuras y prioridades. En ese contexto, ¿es posible imaginar y construir otras formas de inteligencia artificial, más responsables con las personas, los territorios y el medioambiente? ¿O estamos frente a un camino tecnológico que se presenta como único e inevitable, donde solo queda la crítica y la regulación, pero no la posibilidad de desarrollar alternativas?
PB: Bueno, para ser bastante franco, la IA ha tenido una enorme aceleración en los últimos 10 años y esta enorme aceleración no se produjo desde una perspectiva impulsada por las universidades, sino que ocurrió desde una perspectiva impulsada por el mercado. Ocurrió con una enorme cantidad de inversión. Solo este año, 2026, las cuatro primeras empresas por capitalización en el mercado (Meta, AWS, Microsoft y Google) invirtieron 650 mil millones de dólares en IA. Así que, si este es el ritmo de inversión, el efecto depredador de la IA es una necesidad de este tipo de carrera. Y si añades que también hay una carrera geopolítica y de cambio de poder ya que descubrimos que la IA es una herramienta realmente poderosa, un arma realmente poderosa. En ese contexto, se hace realmente difícil pensar en un enfoque diferente en este panorama. Si esta es la IA, (cuando digo “esta”, me refiero a esta forma de desarrollarla, construirla y desplegarla), ya hemos aceptado el milieu [medio] en el que esto está ocurriendo, ya hemos aceptado este modelo de “solo uno ganará, el ganador se lo lleva todo”. Hay una competencia profunda y no hay realmente mucho espacio para la justicia y la equidad. Si este es el modelo, no lo sé.
Esta es una cuestión real que está interrogando a diferentes disciplinas, por ejemplo, a la economía: ¿esto es un boom o una burbuja?; está interrogando a los científicos sociales: ¿esto seguirá siendo compatible con el régimen democrático o transformará este tipo de máquina en una máquina para controlar a las personas y tener gradualmente un sistema de control masivo?; ¿es algo que puede suceder de manera diferente? La velocidad es altísima, la más alta que hayamos visto en cualquier proceso humano, la presión es superlativa, pero si este es el modelo, es realmente difícil encontrar un ajuste. No creo que este tipo de modelo pueda funcionar para siempre sin causar una guerra o algo así.
Encontrar alternativas podría ser también una forma de construir paz, una manera de poner límites a las lógicas de dominación que hoy concentran el desarrollo de la inteligencia artificial en manos de unos pocos actores. Y aquí aparece un elemento que no podemos pasar por alto: quienes controlan buena parte de estas tecnologías no son actores neutrales, sino que muchas veces están guiados por proyectos e imaginarios ideológicos específicos, algunos de los cuales llegan incluso a presentar la democracia como un experimento fallido. Por eso, el desafío no es únicamente tecnológico. También es una cuestión del horizonte político y ético desde el cual se diseña la inteligencia artificial. Lo que está en juego no es solo qué tipo de IA queremos construir, sino también qué tipo de sociedad y de relaciones humanas queremos que esa IA contribuya a configurar, en lugar de reemplazar o erosionar los principios democráticos que sostienen nuestra convivencia.
Como filósofo, me conmueve profundamente la reflexión de Hannah Arendt sobre cómo una democracia puede fracasar hasta hacer posible el nazismo. Su respuesta a esa pregunta fue la idea de la “banalidad del mal”3: la constatación de que las mayores atrocidades pueden surgir no solo de la maldad deliberada, sino también de la renuncia a pensar críticamente y a asumir la propia responsabilidad.
Pero si reemplazamos la deliberación y la función democrática por algoritmos, corremos el riesgo de enfrentar una nueva forma de banalidad: la banalidad del algoritmo. Y esta no es menos peligrosa, porque los algoritmos responden a una única autoridad y no generan, por sí mismos, resistencia ni fricción. Incluso el ser humano más obediente a un régimen puede experimentar dudas, escrúpulos o conflictos morales que lo lleven a cuestionar una orden; un algoritmo, en cambio, carece de esa capacidad de interrupción ética.
Esto no es algo que pueda resolverse dentro de un sistema de ese tipo. Como decía Hegel en la Ciencia de la Lógica4, llega un momento en que la cantidad se transforma en cualidad. Y creo que hoy nos encontramos precisamente en ese umbral: vemos con claridad aquello que estamos dejando atrás, pero todavía no alcanzamos a comprender plenamente aquello que estamos acogiendo. Por eso, este es un momento para desacelerar y reflexionar. Es también un momento en el que las universidades y la academia tienen una responsabilidad fundamental: recordar a los actores de nuestro tiempo que existen conquistas de la humanidad logradas con enorme esfuerzo, e incluso con mucha sangre, que no pueden ser descartadas sin correr el riesgo de repetir las páginas más oscuras de nuestra historia. No quisiera sonar dramático, pero la velocidad de las transformaciones que estamos viviendo puede alterar profundamente algunos de los principios que han dado forma a nuestra civilización. Cambiar no es, en sí mismo, un juicio de valor: lo diferente no es necesariamente mejor ni peor, simplemente es diferente. Sin embargo, la velocidad es enemiga del discernimiento, y sin el tiempo necesario para pensar corremos el riesgo de perder precisamente aquello que necesitamos preservar.
MT: Es interesante que hayas mencionado la noción de fricción, porque en nuestro trabajo se ha convertido en un concepto central. La entendemos como una forma de introducir lentitud, atención, aire y resistencia frente a la velocidad y la aparente fluidez con que suele imaginarse el desarrollo de la inteligencia artificial. Al hacer visibles las materialidades, las infraestructuras y los territorios que la sostienen, la fricción nos obliga a detenernos y a reconocer aquello que normalmente permanece oculto. En ese sentido, la fricción no es un obstáculo, sino una condición para repensar críticamente un sistema cada vez más automatizado. Y creo que, desde una perspectiva latinoamericana, pensar desde la fricción resulta especialmente relevante: es una manera de partir desde los territorios, las desigualdades, las ecologías y las historias concretas que hacen posible la IA, en lugar de asumir la ilusión de una tecnología universal, homogénea y sin anclajes materiales.
Reflexiones Finales
Tras el intercambio, consultamos al fraile sobre sus impresiones respecto a la instalación Bajo Nuestros Pies:
PB: La exposición me conmovió profundamente porque ofrece una perspectiva lúcida y, al mismo tiempo, muy profunda sobre la tecnología y sobre lo que esta significa para la naturaleza humana. Me parece especialmente sugerente que todo el recorrido parta de un objeto tan simple como un plato decorado. Una herramienta como esa no solo cumple una función práctica: es capaz de transmitir una cultura, expresar una forma de vida y convertirse en un vehículo de significados compartidos. Y, sin embargo, esa misma arcilla es la que hoy hace posible otro tipo de cultura: la que está inscrita en los grandes modelos de lenguaje y en las infraestructuras de la inteligencia artificial. Cada vez que moldeamos la arcilla no estamos simplemente fabricando una herramienta; estamos incorporando una determinada visión del mundo en ella. Esa cultura, a su vez, influye y da forma a la cultura de otras personas.
Eso es precisamente lo que está en juego con la inteligencia artificial y lo que esta exposición nos invita a recordar. No existe una tecnología neutral, como tampoco existe un uso neutral de los recursos. Cada vez que movilizamos materiales, energías y conocimientos, estamos poniendo en práctica una antropología implícita, una determinada concepción de lo que consideramos valioso, urgente e importante para el ser humano. Ese es, para mí, el gran aporte de esta exposición. Nos recuerda que toda tecnología está atravesada por decisiones culturales, éticas y materiales, y hace visible una dimensión que resulta indispensable para el debate contemporáneo sobre la inteligencia artificial.
Con esta reflexión concluye un diálogo entre dos perspectivas que, desde tradiciones distintas pero convergentes, invitan a mirar la inteligencia artificial con espíritu crítico y sentido de responsabilidad. Ambas recuerdan que el futuro tecnológico no puede construirse desde la fascinación acrítica, sino desde el discernimiento, la atención a sus implicancias materiales y el compromiso con una habitabilidad planetaria compartida.
Importante resaltar el énfasis que se hace a dejar de pensar en las tecnologías como entidades neutras. Esto es especialmente válido en el caso de la IA, cuyo milieu de expectativas, imaginarios sociotécnicos, apuestas económicas y disputas geopolíticas la llevan a estar parcialmente conectada a una infinidad de dimensiones frente a las cuales tenemos la obligación de pensar críticamente.
Quizás la principal enseñanza que nos deja esta exposición, en sintonía con Magnifica Humanitas, es que la pantalla más sofisticada y un antiguo jarro de cerámica comparten una misma condición terrestre. Antes de ser algoritmos, datos o inteligencia artificial, esta tecnología es barro, minerales, agua, energía, trabajo y formas de vida. Recordarlo no es un gesto de nostalgia, sino una invitación a ampliar nuestra imaginación ética y política para pensar una inteligencia artificial capaz de habitar responsablemente la Tierra y de reconocer las múltiples relaciones que hacen posible su existencia.
Con esta reflexión dejamos abierta la invitación a profundizar en las obras y propuestas de los tres académicos, y especialmente a visitar “Bajo nuestros pies: las tierras raras de la IA”, disponible en el Museo Chileno de Arte Precolombino hasta el 16 de agosto.
Más sobre Paolo Benanti
El padre Paolo Benanti es un sacerdote ordenado por Tercera Orden Regular de San Francisco, profesor de teología moral en la Pontificia Universidad Gregoriana, institución en la cual se doctoró en teología moral en 2012, y asesor papal en materia de IA desde el pontificado de Francisco I. En ese rol, fue designado miembro ordinario de la Pontificia Academia para la Vida en 2021. Es autor de diversos libros que exploran la tecnología en la era contemporánea, tales como Era Digital: Teoría del cambio de época. Persona, Familia y Sociedad (2020), La gran invención. El lenguaje con tecnología, de la pintura rupestre al GPT-3 (2021), y Humano en el bucle. Decisiones humanas e inteligencia artificial (2022).