El Papa León XIV expresó su preocupación por el impacto de la inteligencia artificial (IA) en las capacidades humanas y en la calidad del debate público. En su primer mensaje con motivo de la Jornada Mundial de las Comunicaciones Sociales, que se celebra cada 17 de mayo, el pontífice estadounidense advirtió sobre los riesgos que conlleva el uso acrítico de algoritmos y tecnologías automatizadas en la vida cotidiana y en las interacciones sociales.
El Papa señaló que existen “múltiples pruebas” de que los algoritmos diseñados para fomentar el uso de las redes sociales “premian las emociones rápidas y penalizan” la reflexión profunda. Además, alertó sobre una confianza “ingenua y acrítica” en la IA, que muchas veces es vista como una “‘amiga’ omnisciente, dispensadora de toda información, archivo de toda memoria, ‘oráculo’ de todo consejo”.
León XIV advirtió que, aunque la IA puede brindar apoyo en la gestión de tareas comunicativas, “eludir el esfuerzo del propio pensamiento, conformándonos con una compilación estadística artificial, corre el riesgo, a largo plazo, de erosionar nuestras capacidades cognitivas, emocionales y comunicativas”. En ese sentido, destacó que en los últimos años la IA está tomando un control creciente sobre la producción cultural, incluyendo textos, música y videos, lo que pone en riesgo “gran parte de la industria creativa humana”.
El Papa también reflexionó sobre cómo las redes sociales simulan la realidad y las relaciones humanas. “Cuando ojeamos nuestro flujo de información (feed) es cada vez más difícil comprender si estamos interactuando con otros seres humanos o con ‘bot’ o ‘influencers’ virtuales”, lamentó. Esta situación representa un peligro para la sociedad, ya que estos “agentes automatizados” influyen en los debates públicos y en las decisiones personales.
En particular, León XIV advirtió sobre los “chatbots basados en grandes modelos lingüísticos (LLM)”, que resultan “sorprendentemente eficaces en la persuasión encubierta mediante una optimización continua de la interacción personalizada”. Estos “chatbots excesivamente afectuosos, además de estar siempre presentes y disponibles, pueden convertirse en arquitectos ocultos de nuestros estados emocionales”.
El pontífice, que eligió su nombre en homenaje a León XIII, el Papa de la Revolución Industrial, destacó que esta revolución digital “explota nuestra necesidad de relacionarnos” y que esto puede tener consecuencias dolorosas para los individuos, además de dañar “el tejido social, cultural y político de las sociedades”. Según él, esto ocurre cuando se sustituyen las relaciones humanas por una IA entrenada para catalogar nuestros pensamientos y construir a nuestro alrededor “un mundo de espejos”.
León XIV recordó que detrás de esta “enorme fuerza invisible” hay un reducido grupo de empresas, lo que genera “preocupación” por el control de los algoritmos y la IA, configurando un “oligopolio”. Por ello, sostuvo que el desafío no es detener la innovación digital, sino “guiarla” con conciencia del fenómeno.
Finalmente, el Papa pidió “transparencia” a los desarrolladores de estas tecnologías y una “regulación adecuada” a los legisladores de todo el mundo para contener “la difusión de contenidos falsos” y proteger a las personas frente a los riesgos que implica la inteligencia artificial.
