Transcription
En 1984, una camarera de Los Ángeles descubrió que las máquinas iban a tomar el control del mundo. Se llamaba Sarah Connor. Le dijeron que estaba paranoica, la encerraron.
40 años después, otra persona está diciendo algo muy parecido. Viste de blanco y no lleva una escopeta. Su único arma es un documento de 100 folios. En ese escrito que ha titulado Magnífica humanitas están las claves para defender a la humanidad del poder de la IA.
La amenaza que el Papa León 14B es más difusa que un ataque de Skynet y no está tan lejana en el tiempo. El peligro del que nos está avisando está ya aquí en tu móvil, en tu trabajo. La mayor amenaza de la IA, según el Papa, no está en que nos elimine físicamente, que también, sino en que nos transforme en algo distinto a lo que como humanos estamos llamados a ser. No máquinas perfectas con capacidades superlativas, sino humanos plenos, frágiles, libres y capaces de amar. Seres que viven en un contexto en el que nunca están solos. El mundo en el que deberíamos dirigirnos según el Papa es un mundo en el que las personas están en el centro y en el que las máquinas están para servir a las personas y no al revés.
Sarah Connor es un personaje de ficción de la franquicia Terminator. Hollywood la inventó como para darnos un aviso de lo que podría llegar con la llegada de la inteligencia artificial. El Papa León XIV es un ser humano de carne y hueso y sus 100 folios llegan en el momento preciso. Los paralelismos entre lo que Hollywood imaginó en su día y lo que el Papa León XIV está viendo hoy son muchos y muy sorprendentes. Por eso, en este vídeo te voy a llevar del argumento de la serie Terminator a la encíclica magnífica Humanitas del Papa León XIV. de la ficción a la realidad, porque a día de hoy todo está muy mezclado. Y déjame anticiparte un elemento importante. El Papa León XIV usa la inteligencia artificial como tú y como yo y le fascina en muchos aspectos. Su documento no es, por tanto, un documento antifuturo o antitecnología. Vamos a verlo.
El 25 de mayo de 2026, el Vaticano publicó la encíclica magnífica Humanitas. este documento, este documento de no más de 100 folios y el subtítulo del documento creo que lo dice todo, sobre la custodia de la persona humana en el tiempo de la inteligencia artificial. La primera pregunta, evidentemente, es, ¿qué es una encíclica? Pues una encíclica es como una carta circular que un Papa escribe dirigido a los fieles y a los clérigos de la Iglesia y a todo el mundo hablando sobre temas que son especialmente acuciantes desde la perspectiva de lo que dice el evangelio y lo que dice la tradición de la Iglesia. No es un documento dogmático, es decir, es un documento perfectamente discutible en ese sentido. Y la verdad es que yo no había visto nunca una encíclica con tanto impacto. Magnífica humanitad se ha convertido en un bestseller en algunos países y ha sido comentado por todos los medios de comunicación de cierta influencia en el mundo. Ha tenido mucho impacto. Una novedad importante que ha traído esta encíclica es que por primera vez en la historia el propio Papa estaba presente en la presentación. Y no solo eso, sino que estaba rodeado por distintas personas implicadas en el futuro de la inteligencia artificial, como por ejemplo uno de los fundadores de Anthropic llamado Chris Ola. Lo comenté en este vídeo sobre la historia de Anthropic, que sabéis que es una que en este momento está en el primer plano de la actualidad en todo el mundo y que os sugiero que veáis.
La primera diferencia entre León XIV y Sarah Connor es que Sarah Connor habla en sus películas de un peligro futuro, pero el Papa León XIV está hablando de un peligro actual presente en este momento. Y para entender aún más el origen de esta encíclica, hay que decir que el Papa León XIV es matemático. Es un agustino matemático. estudió la carrera de matemáticas, por lo tanto entiende bastante bien los fundamentos de lo que es la inteligencia artificial a día de hoy. Y nada más ser elegido, elige el nombre de León XIV como un homenaje a León XI. Fue el Papa que condujo a la Iglesia a través de la Segunda Revolución Industrial a finales del siglo XIX escribió una encíclica que se llama Relum Novarum, que tiene una importancia muy singular en la historia de la Iglesia y de la sociedad de la época. Porque en aquel momento la sociedad se estaba industrializando, llegó la electricidad, llegaron el uso del acero, llegó el ferrocarril, etcétera, y hubo un montón de cambios muy grandes en las sociedades. Con esos cambios, muchas personas se trasladaron del campo a la ciudad y empezaron a trabajar en fábricas en unas condiciones que eran verdaderamente miserables. Y en ese momento surgen también la idea de fondo para construir una sociedad desde el puro capitalismo y la idea para generar una sociedades del marxismo. Y el Papa combate ambas concepciones en esa encíclica.
Y un segundo paralelismo entre León X y León XIV. León XIV elige ese nombre específicamente porque cree que la sociedad afronta en este momento un cambio absolutamente trascendental con la llegada de la inteligencia artificial que tendrá impacto en todos los aspectos de la vida humana, de las sociedades, de las industrias, de todo el mundo. En la saga Terminator yor el juicio final ocurre en un día, en el momento en el que las máquinas se despiertan y deciden lanzar un ataque nuclear contra el mundo. El Papa no está viendo un juicio final en un momento específico, sino más bien un goteo de acontecimientos que son la consecuencia de la adopción de la inteligencia artificial en el mundo y de la difusión de esta nueva tecnología. Y suena así. Un algoritmo te niega un crédito o un trabajo y nadie sabe explicarte por qué. Dejas de ser una persona con una dignidad propia y pasas a ser un perfil como el de un Pokémon. Tienes un score, eres un factor cuyo valor está en el rendimiento. Tu hijo deja de hacer preguntas porque la IA se las contesta todas y con eso pierde la curiosidad y el interés por seguir aprendiendo. Deja de formarse y deja de pensar por su cuenta. Y por último, como las preguntas las responde siempre una misma tecnología, porque la tecnología está en manos de muy pocas personas, las respuestas que recibimos nos convierten en seres completamente homogéneos, completamente iguales en nuestra manera de pensar. Eso es el juicio final de la encíclica. No una rebelión de las máquinas, sino la rendición silenciosa de lo que nos hace ser humanos.
¿Está el Papa en contra de la inteligencia artificial o está la Iglesia Católica en contra de la inteligencia artificial? No. Está muy a favor del desarrollo que conllevará la inteligencia artificial, pero siempre que preserve la dignidad humana. Y el Papa lo resume con una frase muy bonita, hacer que la técnica crezca sin que se repliegue el corazón. Una cosilla de todo lo que está diciendo el Papa en esta encíclica, hay una idea que me llamó la atención porque es que nos afecta a todos. Y es que corremos el riesgo de quedar reducidos a meros datos por algo que tú y yo hacemos cada día sin pensarlo cuando estamos usando los chatbots de inteligencia artificial. ¿Y qué es esa cosa? pues que cada vez que le cuentas algo a la IA de una gran tecnológica, chat GPT, Gemini, etcétera, cada vez que le planteas una duda personal o le cuentas una idea o le hablas de un proyecto entero, esa conversación no se evapora, esa conversación se guarda, se analiza y sirve muchas veces o casi siempre para entrenar al modelo. Es decir, que nosotros estamos cada vez que interactuamos con estos modelos, los estamos entrenando. En el caso de las sías que tienen anuncios, ese input alimenta los anuncios que luego te están persiguiendo por internet. Con lo cual, he llegado a la misma conclusión a la que llegué cuando empezamos a utilizar las redes sociales y es que crees que estás usando una herramienta, pero en realidad ella te está usando a ti y te está usando como materia prima con esos datos de los que habla el Papa, ¿no?
La buena noticia es que ya no hay que elegir entre potencia y privacidad. En el caso de la IA, te presento Lumo, el asistente de IA de Proton, los del Proton Mail, tiene la potencia de un chat GPT o un Gemini para currar de verdad. O sea, te ordena los chats por proyecto, puedes trabajar con tus propios documentos, hacer imágenes, etcétera, pero hay una diferencia muy importante y es que tus conversaciones son tuyas. Tienes cifrado de acceso cero, o sea, ni siquiera Proton puede leerlas. eh no tiene registros, no tiene anuncios y jamás se usan tus datos para entrenar a la inteligencia artificial. Y además está ahí al humo es de código abierto, así que no tienes que fiarte, puedes comprobarlo y está en Europa fuera del alcance de las bigtech, o sea, que con humo tienes toda la potencia de la IA sin que tú seas el producto. Tus ideas y las mías siguen siendo nuestras. Si quieres probar el humo, puedes entrar en el enlace wwww.proton.mi/lumo/gustavoentralá.
Lo estás viendo sobre impresionado. Muchas gracias. Seguimos con el vídeo. En la película Terminator, Sara Connor, la protagonista, no lucha contra un ejército, sino contra una gran empresa. Y en la película El fin del mundo no lo trae un país, lo inventa Cyberdine Systems, una empresa privada, una sola compañía con más poder que cualquier gobierno del mundo. Y esa es precisamente una de las pesadillas concretas que manifiesta la encíclica. Al Papa no le preocupa la tecnología en sí, sino el hecho de que el controlen un grupo pequeño de personas. Y Magnífica Humanitas dice una cosa muy interesante, que el conocimiento y la tecnología no deberían terminar en manos de unos pocos porque y aquí está uno de los mensajes nucleares del Papa, la IA no es neutra, asume el rostro de quien la concibe, la financia, la regula y la utiliza. Estas personas tienen unos incentivos y tienen una forma de ver el mundo, que, por cierto, trato de reflejar con mucha fidelidad en este canal. Así que suscríbete si te interesa saber quiénes son estas personas. Porque importa mucho quién es el dueño de Cyberdine y hoy Cyberdine son tres o cuatro personas que caben en la misma foto. La encíclica no señala a nadie, nosotros tampoco lo hacemos en este vídeo, pero deja la pregunta, ¿quién vigila al que construye aquello que podría gobernarnos?
En el futuro de Terminator hay dos clases de personas, las que tienen la tecnología de la resistencia y las que sobreviven entre ruinas. La encíclica nos avisa de que esa frontera ya se está dibujando sin ninguna guerra de por medio. Y hay un aspecto esencial de la doctrina social de la Iglesia que viene a decir que los bienes tienen un destino universal. Eso no significa que todo sea de todo el mundo y que no se proteja la propiedad privada y que la Iglesia esté en contra de la formación de empresas, ¿no? Ni muchísimo menos. Pero al final, ulteriormente, todos los bienes de la creación, según la creencia de la Iglesia, tienen un destino universal. Y el Papa añade aquí algo nuevo y es que también los bienes digitales tienen un destino universal, o sea, que deberían llegar a todo el mundo. Claro que si la mejoría solo llega a unos pocos, no estamos repartiendo una herramienta, sino que repartimos oportunidades de vida. Un niño con un tutor de Avanzado y otro en otro lugar que no tenga electricidad estable, no están compitiendo en la misma carrera, están compitiendo en siglos distintos. Y el peligro, por tanto, no es que la máquina nos iguale por abajo, es que divida la humanidad en dos castas, incluidos y excluidos.
También me ha hecho bastante ilusión que el documento hable sobre nuevas formas de explotación, explotación de los datos, podría decirse de los derechos de autor, de todo lo que hay en internet, explotación de recursos naturales para los materiales necesarios en la construcción de estas fábricas de inteligencia y la explotación de personas, por ejemplo, pues esas personas que en condiciones muy humillantes están entrenando a las inteligencias artificiales a veces eh viendo contenidos auténticamente salvajes, ¿no? De eso me habló eh Karenha eh en una entrevista que cuelgo aquí y que creo que gana mucha relevancia después de la publicación de esta encíclica.
Cuando los terminitos llegan al mundo, llegan desnudos y lo primero que hacen es ocupar el lugar de un ser humano. Eh, agarran su ropa, eh, cogen sus autos o sus motocicletas, ¿vale? y sustituyen a esa persona. Y una preocupación que tenemos todos es que la IA nos reemplace y nos deje sin nada que hacer. El Papa escribe una frase muy interesante en ese sentido y dice que las nuevas formas de trabajar no son necesariamente mejores. En concreto, dice, "Mientras Raía promete impulsar la productividad haciéndose cargo de tareas ordinarias, a menudo los trabajadores se ven obligados a adaptarse a la velocidad y a las exigencias de las máquinas, en lugar de que estas últimas estén diseñadas para ayudar a quienes trabajan. Efectivamente, la tecnología puede liberarnos de tareas pesadas o puede descualificarnos y dejarnos en una función marginal en el trabajo o incluso llegar a convertirse en nuestros jefes, entre comillas, porque nos vigilarán con un software que contará todo lo que hacemos en cada segundo. Hay un sector concreto en el que esto ya está pasando y es el sector de la traducción. La traducción es una de las primeras cosas que hace bien la inteligencia artificial y lo que dicen las personas que se dedican profesionalmente a la traducción es que ahora se les está pidiendo que revisen el trabajo que hace una inteligencia artificial por un precio hasta tres veces inferior al que se les pagaba antes. O sea, que ahora tienen que tener el documento original, lo que ha hecho la IA y y corregir lo que diga la IA. y dicen que ese trabajo es incluso más complejo que el que tenían antes. Magnífica Humanetas dice que sustituir al trabajador solo para recortar costes no sería progreso, sino un empobrecimiento disfrazado de eficiencia.
A pesar de eso, el documento tiene una visión positiva de la inteligencia artificial, reconoce sus avances, eh reconoce cómo puede mejorar la formación de las personas y puede contribuir a que acabemos haciendo tareas que son más humanas. Todo eso suena muy bien, pero si a la hora de la verdad la tecnología no pone a la persona en el centro y la considera como un cuello de botella de la productividad, pues ahí tenemos un problema. Y eso del cuello de botella me parece interesante decirlo porque estoy viendo en una buena parte de las cosas que dicen las personas que trabajan en los laboratorios de inteligencia artificial cuando hablan de la explosión de productividad siempre hablan del ser humano como el cuello de botella que dificulta esa productividad. Magnífica humanitas acepta que la IA va a transformar profundamente el mercado laboral. Lo que defiende es que el trabajo siga siendo una dimensión esencial de la vida humana y que la sociedad no termine sacrificando esa dimensión en nombre de la eficiencia o del beneficio económico. La dignidad del trabajo es una cuestión muy relevante para todos. es lo que impide que un humano acabe siendo lo que era el Terminator, una mera función que ejecuta y no pregunta o que se pase el día en casa perdiendo el tiempo.
El paralelismo más obvio que existe entre la serie Terminator y la encíclica magnífica Humanitas es el de la violencia contra los humanos. Skynet no era un robot, era un sistema de defensa militar, una IA a la que los humanos entregaron las decisiones sobre la vida y la muerte y un día simplemente empezó a decidir de forma autónoma. La encíclica dedica su capítulo más duro exactamente a eso, al uso de la inteligencia artificial en la guerra. Dice que la revolución digital está cambiando la gramática de los conflictos y que será más fácil matar si se hace de una forma impersonal. y suelta una frase muy contundente y es que no existe ningún algoritmo que haga la guerra moralmente aceptable. ¿Qué quiere decir aquí el documento? Pues quiere decir que la tecnología no libera el conflicto de su inhumanidad, solo hace que la capacidad de matar sea más rápida y más fría y convierta las víctimas en datos. Y eso es lo que era Skynet en la serie Terminators. No es el hecho de que una máquina odia a la humanidad, sino la comodidad de los humanos que en un momento dado deciden trasladar a la máquina la decisión de a quién matar y cuándo. Por eso el Papa pide algo que parece imposible. Yo creo que es de lo más difícil que ocurra en la realidad por la influencia de este documento, que es desarmar la sacarla de la competición militar.
Llegamos a la parte más profunda de la encíclica y quizá a la parte que más enemigos tienen Silicon Vale. Para situarte en el tema, eh, te cuento que en la película Terminator, en la dos, había un personaje, un Terminator, el T1000, que estaba hecho de metal líquido, o sea, que se recomponía a sí mismo, eh, que no sentía dolor, que no sentía miedo y cuyas heridas se cierran completamente solas, ¿no? era un ser, entre comillas, que eludía la muerte. Y ese es precisamente el sueño de una buena parte de la industria tecnológica de Silicon Valley, que consiste en superar los límites del ser humano, superar nuestra corporeidad, eh superar a la humanidad en sí, ¿no? Y tiene un nombre, el transhumanismo y su versión extrema es el posthumanismo. Bueno, existen en Silicon Valley proyectos que hablan de la IA en términos casi religiosos. hablan de construir una superinteligencia que sea como un Dios digital que nos salve de nuestras propias limitaciones, que decida mejor que nosotros y que quizá nos sustituya en muchas facetas de la vida. Y ahí ese es el punto en el que la encíclica se planta. Dice que el límite no es un error de diseño, sino parte de lo que somos. El ser humano para Magnífica Humanitas no florece a pesar del límite, sino a través del límite. ¿Qué es lo que hacía humana a Sara Conor o a su hijo John Connor en la película? No era su fuerza, sino aunque tenía mucha fuerza, sino su miedo, su cansancio, el hecho de que sabía que podía morir y aún así, a pesar de todas sus limitaciones, seguía luchando porque creía que valía la pena conservar la humanidad. No, el Temil no tenía ningún límite y es el monstruo de la historia. Eh, Sara Conor los tenía todos y es la heroína. El Papa que nos pide o que sugiere que no deberíamos intentar ser máquinas perfectas, nos sugiere que no nos avergancemos de ser frágiles, porque en esa fragilidad que tenemos aprendemos a cuidar y a ser cuidados. Aprendemos a amar y a ser amados y aprendemos a abrirnos al otro para convivir. Y construir un Dios digital para escapar de la conducción humana no es la cima del progreso, dice el Papa, sino que sería el equivalente a crear una nueva torre de Babel.
Y vamos de la torre de Babel, de la que habla el Papa, a una frase que se repite a lo largo de la saga de Terminator. No hace falta que la hayáis visto, pero es una frase que está grabada en una mesa y que dice no fate, no hay destino. Viene a decir, no hay más destino que el que nosotros mismos creamos. Y ese es casi palabra por palabra el corazón de esta encíclica. El Papa dice que ante la IA la elección no es entre el entusiasmo y el miedo, sino que es entre dos formas de construir el futuro. Uno, al servicio de la persona o al servicio del poder y que la elección es nuestra. El futuro, por tanto, no está escrito por Elon Mask o por Sam Odman. La apuesta del documento y la apuesta de la película es que somos libres, que nos autodeterminamos y que nosotros tenemos capacidad de decisión en cómo termina esta historia. Sara Conor terminaba la película entrenando a su hijo para resistir y la encíclica también termina con una instrucción de resistencia. No nos dice el Papa que apaguemos la IA. Lo que nos dice es que el progreso tecnológico solo puede llamarse progreso si permanece al servicio de la persona humana y del bien común. No nos pide, como hace Sara Conor en la historia de Terminator, que destruyamos la máquina, sino que aprendamos a usarla, que no abandonemos nunca el músculo de pensar por nuestra cuenta sin que nadie nos dé las respuestas preconcebidas.
La camarera de 1984, Saraconor tenía razón. El futuro depende de lo que decidamos los humanos ahora. Solo que esta vez no hace falta volar ninguna fábrica, solo hace falta tener en cuenta ante las decisiones que vayamos tomando en el uso de la IA y en lo que es la IA, que no olvidemos nunca que somos una cosa estupenda, somos la humanidad es magnífica, que es el título del documento.
En este vídeo he tratado de reflejar con rigor lo que dice el documento de la encíclica del Papa León XIV, que ha tenido un impacto muy grande en la opinión pública, que no ha tenido tanto impacto en Silicon Valley, pero que creo que es un documento importante porque es un documento de un líder moral que tiene el mundo que ha hecho un compendio bastante interesante sobre no solo sobre tecnología, sino más bien sobre antropología, sobre cuestiones filosóficas. sobre cuestiones teológicas y en fin, es a mí me ha parecido personalmente un documento muy refrescante y que tendré en cuenta a la hora de considerar o de analizar la inteligencia artificial y también a la hora de ver qué aportación puedo hacer yo o desde esta comunidad, qué aportación podemos hacer para contribuir a que las cosas mejoren y a ese futuro mucho más interesante en el que la humanidad resulte potenciada.
No sé si algunos habéis tenido la oportunidad de leer la encíclica. Eh, seguro que podéis al terminar este vídeo eh decir lo que opináis sobre las distintas cuestiones que hemos abordado. Este documento es completamente debatible y lo de lo lo interesante es que reflexionemos sobre ello y que veamos eh cómo nos posicionamos ante esta revolución que empieza ahora desde un punto de vista personal. En los comentarios, por favor, decid todo lo que veáis y todo lo que penséis. Somos una comunidad muy rica de mucha gente con muchas visiones, creyentes, no creyentes, etcétera, y de todo. Y por eso las contribuciones de todos son muy apreciadas. Nos vemos en el próximo vídeo que intentaremos que sea aún mejor que este.