Tiempo de lectura: 8 minutos

La encíclica Magnifica Humanitas aparece en un momento especialmente significativo. No sólo porque aborda la inteligencia artificial, sino porque lo hace bajo una analogía histórica deliberada: León XIV se presenta como continuador de León XIII y de la Rerum novarum de 1891, cuyo 135° aniversario coincide con la fecha de la firma del pontífice autor de esta nueva encíclica, el 15 de mayo. El gesto no es menor. Así como a fines del siglo XIX la Iglesia se vio obligada a pensar la cuestión obrera, el capital, el salario, la propiedad y la dignidad del trabajo en el marco del capitalismo industrial, ahora intenta pensar una nueva cuestión social: la transformación de la vida humana por la inteligencia artificial, la digitalización, la automatización y la concentración tecnológica del poder. La pregunta de fondo ya no es solamente cómo proteger al trabajador frente a la máquina industrial, sino cómo custodiar lo humano cuando la máquina empieza a intervenir sobre la verdad, la atención, el juicio, el trabajo, la libertad y la propia constitución del mundo común.

La encíclica tiene el mérito de no reducir la inteligencia artificial a una simple herramienta. Su punto de partida es más amplio: la técnica no es mala en sí misma, pero tampoco es neutral. Toma la forma de quienes la diseñan, la financian, la regulan y la utilizan. En ese sentido, el documento comprende que la IA no plantea únicamente un desafío de uso individual, sino una nueva configuración del poder. El poder tecnológico contemporáneo no se encuentra sólo en manos de los Estados, sino también -y a veces, sobre todo- en actores privados transnacionales con una capacidad de incidencia que supera la de muchas instituciones políticas. La pregunta por la IA es, entonces, una pregunta por la técnica, pero también por la economía, la democracia, la educación, el trabajo, la guerra, la comunicación y la forma misma de nuestra convivencia.

La imagen bíblica que organiza la introducción resulta particularmente fecunda. León XIV contrapone Babel y Jerusalén. Babel representa la tentación de una humanidad que busca edificar desde la autosuficiencia, el dominio, la uniformidad y la pretensión de bastarse a sí misma. Jerusalén, en cambio, aparece como figura de reconstrucción comunitaria: una ciudad que no se levanta por imposición desde arriba, sino mediante una responsabilidad compartida. La alternativa no es, por tanto, simplemente técnica o antitécnica. La cuestión no es decir “sí” o “no” a la IA, sino preguntarnos qué tipo de ciudad estamos edificando con ella. Esa pregunta conserva una profundidad que excede cualquier discusión instrumental sobre eficiencia, productividad o innovación.

Ahora bien, esa misma imagen de Babel permite ir quizá un poco más lejos. Babel no fracasa simplemente porque los hombres digan algo falso. Fracasa porque no logran constituir un espacio común. Hay allí una sola lengua, una sola tecnología y una sola dirección; sin embargo, esa aparente unidad desemboca en dispersión. La comunicación se rompe, las lenguas se confunden, los seres humanos dejan de comprenderse. Es decir: Babel no es sólo una imagen moral del orgullo humano. Es también una imagen político-ontológica de la imposibilidad de construir un espacio de convivencia común. Hay coordinación técnica, pero no mundo compartido. Hay unidad operativa, pero no pluralidad política. Hay lenguaje único, pero no sentido común.

Esta distinción resulta decisiva cuando la encíclica introduce el problema de la verdad y la democracia, apoyándose en Hannah Arendt. La referencia es pertinente: Arendt pensó con enorme lucidez la fragilidad de la verdad factual frente a la propaganda, la ideología y los totalitarismos. Sin hechos compartidos, sin un suelo común de realidad, la vida política se vuelve vulnerable a la manipulación. Sin embargo, Arendt no pensó la política como una simple defensa de la verdad contra la falsedad. En La vida del espíritu, retomando una distinción kantiana fundamental, escribe: “La necesidad de la razón no está inspirada por la búsqueda de la verdad, sino por la búsqueda del sentido”. Y agrega que una de las falacias metafísicas fundamentales consiste en interpretar el sentido según el modelo de la verdad. Esta frase permite precisar mucho mejor el problema.

La verdad importa, desde luego. Pero la política no se reduce al establecimiento de proposiciones verdaderas. La política se juega en el espacio donde los seres humanos aparecen unos ante otros, hablan, juzgan, disienten y componen un mundo común. Allí no basta con contraponer verdad y falsedad. Hace falta pensar las condiciones bajo las cuales algo puede aparecer como común, significativo y juzgable. La verdad factual es condición del mundo común, pero el mundo común no se agota en la verdad factual. Hay hechos, pero también hay sentido; hay datos, pero también hay interpretación; hay información, pero también hay juicio. Si confundimos estos planos, corremos el riesgo de creer que la democracia se salva simplemente restaurando una relación correcta con la verdad.

El peligro de esa confusión no es menor. Arendt sabía que la política puede ser destruida tanto por la mentira organizada como por una verdad convertida en mandato absoluto. Los totalitarismos no se presentaron sólo como falsificaciones vulgares. El nacionalsocialismo, por ejemplo, se apoyó en la pretensión de una verdad objetiva, científica y biologicista: la supuesta superioridad racial aria y la idea de una ley natural de lucha entre razas. Allí la “verdad” no abrió un espacio de juicio; lo clausuró. Convertida en principio indiscutible, dejó de sostener un mundo común y se transformó en fundamento de dominación. Por eso, el problema político no es simplemente elegir entre verdad y mentira, sino preservar un espacio donde los hechos puedan ser compartidos sin convertirse en dogmas, y donde las opiniones puedan diferir sin disolverse en ficciones privadas.

En este punto, la inteligencia artificial obliga a desplazar la pregunta. El problema no es solamente que la IA pueda producir noticias falsas, imágenes falsas, voces falsas o videos falsos. Eso es grave, pero todavía pertenece a una gramática relativamente clásica: distinguir entre lo verdadero y lo falso, entre el hecho y la ficción, entre la autenticidad y la manipulación. La novedad más profunda consiste en que la IA puede reorganizar las condiciones mismas bajo las cuales algo aparece como verdadero, común, relevante o digno de juicio. No se limita a introducir falsedades en un espacio público ya dado; participa en la producción técnica de ese espacio.

No es que primero exista una conciencia libre y después TikTok o Facebook la distraigan. La conciencia contemporánea ya se forma en entornos de captura de atención. No es que primero exista una voluntad autónoma y luego una plataforma intente desviarla. La voluntad se configura en arquitecturas de recompensa, repetición, estímulo, pertenencia y afecto. No es que primero exista una opinión política y después el algoritmo la manipule. La opinión se constituye en circuitos algorítmicos de visibilidad, repetición, afecto y pertenencia. Por eso, el problema no es solamente moral. Es ontológico-político: afecta el modo mismo en que se constituye el sujeto, se organiza la percepción del mundo y se vuelve posible el juicio público.

En este sentido, la pregunta por la IA no puede quedar encerrada en la formación moral de la conciencia individual. No alcanza con decir que debemos usar responsablemente la tecnología, buscar la verdad, custodiar la dignidad humana o educar sujetos críticos. Todo eso sigue siendo necesario, pero puede volverse insuficiente si no advertimos que la subjetividad no está fuera de las condiciones técnicas: se forma dentro de ellas. La libertad no es un santuario interior intacto que luego decide si usa bien o mal una herramienta externa. La libertad está situada en condiciones materiales, simbólicas, institucionales y técnicas. La verdad no llega jamás a una conciencia pura e intacta; aparece siempre ya en un régimen de mediaciones. Y el juicio no nace de un individuo aislado, sino de un mundo común en el que otros también pueden aparecer, hablar y disentir.

Aquí se vuelve útil comparar esta preocupación con algunos diagnósticos seculares contemporáneos, como los de Yuval Harari. Harari también advierte que la IA amenaza la democracia mediante la producción de fake news y narrativas artificiales capaces de erosionar la confianza pública. La advertencia es atendible. Pero también allí aparece el riesgo de reducir el problema a una crisis de verdad y falsedad. Como si el desafío central fuera proteger a los sujetos de contenidos falsos para que puedan volver a distinguir correctamente la realidad. El problema, sin embargo, puede ser más radical: la IA no sólo produce fake news; puede producir fake worlds, mundos personalizados, afectivamente optimizados y algorítmicamente administrados, donde cada sujeto habita una versión distinta de la realidad. Una democracia no se debilita solamente cuando todos creen la misma mentira; también se descompone cuando ya no comparten un mundo sobre el cual poder discutir.

Por eso, la imagen de Babel se vuelve nuevamente decisiva. La nueva Babel no consiste sólo en la mentira. Consiste en una humanidad hiperconectada, permanentemente informada, técnicamente asistida, pero cada vez menos capaz de construir un espacio público común. Mucha conexión, poca comunión. Mucha información, poco juicio. Mucha personalización, poco sentido común. La IA puede imponer, bajo la apariencia de diversidad infinita, una estructura de fragmentación donde lo común se vuelve residual. Y también puede imponer, bajo la apariencia de eficiencia, un lenguaje único: el lenguaje del dato, del rendimiento, de la predicción, de la optimización y del perfil.

La encíclica invita a custodiar la dignidad humana en el tiempo de la IA. Esa custodia es indispensable. Pero quizá custodiar lo humano exija algo más que una ética del buen uso o una pedagogía de la conciencia recta. Exige pensar las infraestructuras que producen atención, visibilidad, memoria, opinión y sentido. Exige discutir quién diseña los entornos donde se forma la subjetividad. Exige preguntar qué modelos de negocio administran la aparición pública de lo real. Exige pensar instituciones capaces de proteger no sólo derechos individuales, sino condiciones comunes de juicio. En otras palabras: exige pasar de una ética de la subjetividad a una política del mundo común.

Una política de la IA no debería limitarse a formar usuarios responsables, aunque eso sea necesario. Debería pensar cómo se diseñan los sistemas que organizan lo visible, cómo se regulan las plataformas que capturan atención, cómo se protege la pluralidad sin destruir lo común, cómo se preserva el juicio frente a la predicción, cómo se impide que la conversación pública sea reemplazada por la administración algorítmica de afectos. Si el problema es ontológico-político, la respuesta tampoco puede ser meramente moral. Tiene que ser institucional, técnica, educativa, jurídica y estética.

En definitiva, la nueva cuestión social de la IA no es sólo cómo proteger la dignidad humana frente a la máquina. Es cómo reconstruir un mundo común cuando la máquina ya participa en la producción de lo visible, de lo relevante, de lo opinable y de lo juzgable. La pregunta decisiva no es únicamente si podremos distinguir la verdad de la falsedad, sino si todavía tendremos un espacio compartido donde esa distinción pueda tener sentido. Babel nos recuerda que puede haber una sola lengua, una sola tecnología y una sola dirección, y aun así fracasar la construcción común. Quizá nuestra tarea sea, entonces, menos levantar nuevas torres que reconstruir las condiciones de una ciudad habitable: un mundo donde podamos aparecer ante otros, hablar, disentir y juzgar juntos.