Transcription
Pero el mundo se está convirtiendo en un juego de cartas en el que lo único que importa son las cartas que tienes y todo lo demás, los valores, las debilidades, no importan en absoluto. [Música] Hola de nuevo a todos. Um, he estado esperando con ansias tener esta discusión y realmente tratar de entrenar mi mente, um, porque creo que esto será, um, profundo. Puede ser deprimente. Puede ser así que prepárense. Uh, pero antes de hablar sobre el estado, uh, del mundo y dónde, dónde estamos en este momento de la historia, um, quería preguntarles, um, ¿cómo llegaron a ser tan famosos? >> Um, la respuesta corta es que escribí algunos libros y la respuesta larga es que recibí mucha ayuda de mucha gente. um, de mi esposo y de todo nuestro equipo, construimos juntos una empresa de impacto social a lo largo de los años. La gente simplemente ve mi nombre en la portada del libro o aquí en la pantalla, pero detrás, detrás de ella, hay tantas personas que trabajaron para que esto sucediera, como no sé, esta entrevista, este evento, me imagino que cientos de correos electrónicos intercambiados sobre este evento durante el último >> Puedo dar fe de eso. >> No recibí ni escribí un solo correo electrónico. Hay muchas otras personas que intercambiaron todos estos correos electrónicos e hicieron que esto sucediera. >> Pero también se trata de la forma en que piensas y de tus ideas. Y sé que meditas mucho y tengo mucha curiosidad al respecto porque, um, he intentado meditar y realmente pasar de los 5 minutos es imposible para mí. >> Uh, así que solo dime, ¿cuál es este proceso y es así como piensas? ¿Es esto lo que te permite pensar en grandes ideas? Creo que sí, que sin mi práctica de meditación no habría podido escribir libros como Sapiens o hacer el resto de las cosas. Um, hay básicamente dos tipos de meditación en el mundo en general, si hay muchas, muchas técnicas, pero hay dos tipos principales. Tienes meditaciones de generar algo, de crear algo que comienza con lo más simple, como repetir un mantra que creas. Y esto es algo en lo que es relativamente fácil concentrarse porque a la mente le gusta crear algo. Um, pero no necesariamente te pone en contacto con la realidad. Esto es lo que los humanos han estado haciendo la mayor parte del tiempo. Nos gusta controlar las cosas, crear algo e imponerlo a la realidad. El otro tipo de meditaciones son meditaciones de observación más pura y estas son las más difíciles. Así que de nuevo, el tipo más común es simplemente concentrarse, tal vez este sea el que intentaste, concentrarse en la respiración que entra y sale de las fosas nasales y no intentas controlar la respiración, eso es relativamente fácil, solo intentas sentir tu respiración entrando, saliendo, entrando, saliendo sin controlarla, sin juzgarla, solo observando la realidad tal como es. Y esto suena increíblemente simple y cualquiera que lo haya intentado sabe lo difícil que es porque lo más difícil para la mente es simplemente observar sin hacer nada, sin añadir ni imponer nada. Cuando empecé a meditar hace unos 25 años, me quedé asombrado por mi absoluta incapacidad para hacerlo. Y al final, veo que este es también mi papel como historiador o como intelectual público, que lo más difícil es diferenciar entre la realidad y la ficción. Lo que realmente está sucediendo y lo que es una historia generada por mi mente o la mente de otra persona e impuesta a la realidad. um, y el entrenamiento en meditación para simplemente dejar de lado todo lo que tu mente genera y concentrarte en lo que realmente está sucediendo. Entonces, si no puedo observar mi propia respiración entrando y saliendo de mi propia fosa nasal durante un minuto sin ser secuestrado por alguna fantasía o algún recuerdo o lo que sea. ¿Qué opción? ¿Qué posibilidad tengo de entender la situación económica global, el conflicto árabe-israelí, la guerra en Ucrania sin ser secuestrado por alguna fantasía? >> Eso es, eso es fascinante. Entonces, ¿pasas 10 días a la vez en silencio? >> ¿Es eso cierto? Voy cada año a un retiro largo, generalmente entre 30 y 60 días de meditación silenciosa. Sí. >> ¿30 días? >> Sí. Hablo lo suficiente el resto del año. Así que mi presupuesto de palabras sigue siendo, sigue siendo bastante >> todavía alto. >> Sí. Todavía alto, incluso después de mantener un silencio completo. >> Así que es realmente interesante porque a veces le digo a Alice Fishburn, nuestra editora de opinión, sí, este es un momento en el que realmente queremos escuchar de ti. Ella dice: "Olvídalo. Él está meditando. Lo tendremos el próximo mes o en unos meses". Bien, lleguemos a, um, al objeto, posiblemente al objeto de tu meditación, ya sabes, la humanidad y dónde estamos. Quiero centrarme en el presente y >> y pedirte que lo pongas en perspectiva para nosotros. Creo que muchos de nosotros sentimos que estamos viviendo una especie de transición histórica, pero no estamos muy seguros de cómo definirla y ciertamente no estamos seguros de hacia dónde vamos. >> Así que creo que estamos al borde del precipicio de dos maneras distintas pero relacionadas. Por un lado, después de la era más pacífica en la historia humana de las últimas décadas, que fue una era muy problemática, violenta en muchos sentidos, de nuevo, vengo de Oriente Medio. Lo sé perfectamente bien, pero en términos comparativos, seguía siendo la era más pacífica en la historia humana, caracterizada por niveles de cooperación y prosperidad humana sin precedentes. Um, el orden que permitió esto ahora se está desmoronando. No hay una alternativa viable. Al menos no oímos ninguna en la actualidad. Cuando destruyes un orden y no tienes ningún orden alternativo, lo que obtienes es caos. Lo que obtienes es desorden. Y, uh, ahora estamos cayendo en el caos, en el desorden. Um, el peligro es que los niveles de violencia, que han sido históricamente bajos en los últimos 20, 30, 40 años, podrían empeorar más que nunca debido a las tecnologías de destrucción que estamos creando y acumulando. De todos modos, es solo un pequeño símbolo de los tiempos que ha sido comentado en los últimos días por muchas personas. El cambio en la terminología en los Estados Unidos de Departamento de Defensa a Departamento de Guerra. >> ¿Qué, qué te pareció eso? Sí, >> es simple. Quiero decir, no necesitas explicaciones muy complicadas. Es solo un cambio de defensa a guerra. ¿Qué podría ser más fácil de entender? >> Bueno, porque supongo que con Trump, nunca se sabe. Quiero decir, algunas personas piensan que vio el desfile en, uh, uh, la gente no quiere entender. Él no está tratando de, él no está hablando con doble sentido. Él es muy, muy claro. A lo largo de su carrera, ha sido muy, muy claro. Y es solo que la gente, es tan aterrador que la gente simplemente se niega a reconocer lo que ve. Y buscan explicaciones complicadas. No, no es como parece. En realidad es completamente diferente. Todas las indicaciones son que esto, lo que vemos, es lo que obtenemos. Sabes, para mí, uno de los momentos clave de su presidencia hasta ahora, uh, uh, fue la reunión con el presidente Zelenski en la Casa Blanca. Y sabes, cuando Zelenski intentaba hablar de, uh, uh, soberanía, derecho internacional, paz, y Trump básicamente le gritaba: "No tienes las cartas". No tienes las cartas. Y este es un tipo para el que el mundo es un juego de cartas con ganadores y perdedores. Y eso es lo único. Y, uh, es aterrador escucharlo de una de las personas más poderosas del mundo, pero el mundo se está convirtiendo en un juego de cartas en el que lo único que importa son las cartas que tienes y todo lo demás, los valores, las debilidades, no importan en absoluto. ¿Estás asumiendo que el orden liberal no puede sobrevivir y que esto es casi una, ¿es esto una inevitabilidad? Nada es nunca inevitable. La historia nunca es determinista. Las personas toman decisiones y esto es lo que de nuevo, no es que todo sea posible. Tienes restricciones, pero siempre hay bastante margen de maniobra. Y una cosa que podemos aprender de la historia de las últimas décadas es que es factible. Es posible construir un mundo más cooperativo y pacífico porque se ha hecho. Si tuviéramos esta discusión en 1945, entonces podrías haberme dicho o la gente podría haberme dicho: mira, durante miles de años, el mundo fue solo un juego de cartas. Todo lo que importaba era la fuerza militar, era solo el poder. Todo lo demás son solo fantasías. >> Pero tenemos el ejemplo de las últimas décadas que no fueron una fantasía. Fueron una realidad. Una realidad que resultó no de algún milagro divino o un cambio en las leyes de la naturaleza, sino de muchas personas tomando mejores decisiones que en el pasado. Y no fue una fantasía porque sabes, hay muchas maneras de medirlo. Pero un lugar donde me gusta mirar son los presupuestos gubernamentales porque sabes, si lees poesía, la gente te dirá, no, esto es solo poetas fantaseando, pero los presupuestos son cosas serias y muestra el tipo de esperanzas y miedos realistas de los colectivos humanos durante la mayor parte de la historia humana. Si miras el presupuesto del Imperio Romano, de la democracia ateniense, de Gran Bretaña en el siglo XIX, más del 50% del presupuesto gubernamental se destinaba a los militares, a pagar soldados, a construir fortalezas, a construir buques de guerra. Democracias o dictaduras, grandes o pequeñas, todos gastaban más del 50% del presupuesto en los militares. A principios del siglo XXI, el gasto promedio mundial en militares, incluidos países como Corea del Norte, Israel, Irán, fue de alrededor del 6 al 7%. Mientras que el gasto promedio en atención médica fue del 10%. Es la primera vez en la historia humana que los gobiernos de todo el mundo gastan mucho más en atención médica que en defensa, no en guerra, defensa. Y esto no fue una fantasía. Lean los presupuestos. Ahora los presupuestos militares se están disparando en Rusia, por ejemplo, según las estimaciones más modestas, depende de cómo se cuente y las cosas son secretas, pero al menos el 30%, si no el 40 al 50% del presupuesto gubernamental se destina a los militares y esto se extenderá a menos que tomemos mejores medidas. >> Ya en Europa, al menos entre los países de la OTAN, los presupuestos están aumentando y hay todo un debate sobre el bienestar frente a la guerra y es algo que ha sido impulsado por, um, por la administración Trump. Dijiste que a menos que hagamos algo. >> Mhm. >> ¿Qué es algo? >> Um, a nivel individual, sabes, cada uno de nosotros tiene su propia esfera de actividad y, uh, donde realmente podemos hacer algo que importe, solo leer muchas cosas en línea y dar me gusta no es acción. >> Dile eso a la gente joven. Así que sabes, cada persona sabe cuál es su campo de actividad, dónde, dónde pueden marcar una pequeña diferencia. Si eres enfermera, puedes marcar una pequeña diferencia en tu clínica en la forma en que tratas a las personas. Si estás en la junta de una escuela, puedes marcar una diferencia en el currículo o en lo que se enseña o en cómo se trata a los alumnos, así. Cada persona tiene una esfera de actividad donde realmente pueden hacer algo que importe y creo que si suficientes personas hacen lo correcto, estaremos bien. Ahora, si miras los niveles más altos de los gobiernos, entonces diría que lo que vemos ahora en el mundo es una crisis de confianza, una crisis de confianza entre los humanos y pronto hablaremos de IA, pero vemos este desarrollo paralelo de que la confianza en las instituciones humanas se está desmoronando y al mismo tiempo la confianza en los algoritmos está aumentando. Así que la confianza, que es la base de todas las sociedades humanas, se está desplazando de los humanos a los algoritmos, de los seres orgánicos a las IA, y esto es extremadamente peligroso para la humanidad. Um, hay este creciente déficit de confianza y esta es, diría yo, si me preguntas cuál es el papel de los líderes, el papel de los líderes es construir confianza en dos niveles. En primer lugar, dentro de su propio grupo, ya sea que lideres una sección de soldados, una empresa o un país entero, tu primera prioridad es construir confianza entre los miembros de tu grupo. Y ahora vemos en todo el mundo una marca de líderes cuya política es exactamente lo contrario. como líderes que cuando miran el cuerpo metafórico de la nación y ven una cicatriz, en lugar de poner un bálsamo para curarla, meten los dedos en ella y tratan de ensancharla lo más posible porque su carrera se basa en sembrar desconfianza dentro de la nación, dividir la nación en tribus en guerra y presentarse como líderes de una de estas tribus en guerra, y lo veo en mi país de origen, Israel, que así es como Netanyahu construyó su carrera, y sabes, si le preguntas a los israelíes cuál es el principal problema de Israel hoy, es lo único en lo que la gente en el país todavía está de acuerdo, el principal problema es el horrible odio entre las diferentes partes de la propia sociedad israelí, y si piensas quién es la persona, si haces una lista de todas las personas en el mundo capaces de lidiar con esto. La última persona en la lista sería Benjamín Netanyahu. Si tomas a una persona al azar aquí en la multitud, tiene una mejor oportunidad de curarla, y este no es un fenómeno israelí. Lo ves en los EE. UU. Lo ves en Europa. Una marca de líderes cuya carrera se basa en, uh, uh, dividir a la nación contra sí misma. El otro papel principal de un líder es crear confianza externa, uh, entre diferentes grupos porque de lo contrario no puedes sobrevivir. Sabes, incluso si miras el mercado, la gente tiene esta idea de que el mercado es pura competencia. No lo es. El mercado que es pura competencia colapsa. Si no puedes confiar en nadie en el mercado, no puedes hacer ningún trato. No puedes hacer ningún contrato. De manera similar, si miras el escenario internacional, por supuesto que hay competencia entre países, pero especialmente en esta era y, supongo, iremos inmediatamente a hablar de IA. Si la humanidad está dividida contra sí misma, no tenemos ninguna posibilidad de lidiar con las inmensas fuerzas que estamos desatando en este momento. Y definitivamente quiero llegar a esas inmensas fuerzas que estamos desatando, pero también quería escucharte sobre Israel. >> Mhm. >> No vives allí ahora mismo, pero viviste allí la mayor parte de tu vida. >> Um, durante mucho tiempo, no hablaste mucho sobre Israel y y ahora eres muy franco. La gente ve lo que está pasando en Gaza, esta devastación inenarrable y realmente no entiende por qué nadie puede hacer nada >> al respecto. ¿Hay algo que, ¿hay alguna influencia que se pueda ejercer sobre el gobierno israelí? Mhm. Ciertamente hay fuerzas como el gobierno de los Estados Unidos que tienen una inmensa influencia sobre Israel. Y no la están utilizando o, al menos, no lo suficiente. Y nada aquí es determinista. Esto es parte de este nuevo orden mundial o más bien de este nuevo desorden mundial, que cosas que se pensaban simplemente impensables, imposibles hace unos años, se están convirtiendo en realidad. Y de nuevo, tienes gente en todo el mundo observando lo que está sucediendo en Gaza, lo que está sucediendo en Ucrania, lo que está sucediendo en varios otros lugares y dándose cuenta de que esto también puede suceder aquí. Uh, así que no es solo el problema de Oriente Medio o el problema de Ucrania. Si el orden colapsa, todos sufrirán. >> Y, y ves, ves la guerra en Gaza como una especie de manifestación de esto. Aunque sucedió mucho antes de Trump, comenzó mucho antes de que llegara Trump. >> El colapso de, de, sabes, si tuviera que fechar el colapso del orden, comenzó alrededor de 2016 >> no en 2024 >> en la primera presidencia de Trump >> en la primera presidencia de Trump, el Brexit, cuando los países que construyeron el orden global dijeron básicamente que no estamos interesados en mantener este orden. Una cosa es cuando tienes, sabes, el tipo de parásitos habituales que se paran afuera y dicen que no nos gusta este orden. Otra cosa es cuando los países que realmente construyeron el orden le dan la espalda. Y, um, sabes, recuerdo que antes de la votación del Brexit, vi un video, creo que fue de Gordon Brown en, creo que fue en la Catedral de Coventry, pero tal vez mi memoria me está jugando una mala pasada. Una catedral, ¿qué fue destruido en el Blitz y que, uh, um, se mantuvo como un memorial a los horrores de la Segunda Guerra Mundial. Y era un video muy corto, de como dos minutos. Y básicamente decía que esto puede volver y en 2016 esto sonaba, sabes, solo alarmismo. Es imposible que esto vuelva y ahora, casi 10 años, menos de 10 años después, creo que todo el mundo se da cuenta de que esto está volviendo, esto puede volver. >> Has escrito sobre tus miedos por lo que dijiste que era el alma de Israel. >> ¿Qué es lo que temes? >> Y vi a mi país hacer cosas que, incluso aunque tenía muchas críticas al gobierno de Netanyahu. No podía creerlo, no podía imaginar que pudiera llegar a ser tan malo tan rápido. Um, de nuevo, esto es parte de lo que me motiva cuando miro a otras partes del mundo en este momento. La gente no se da cuenta de lo rápido que las cosas pueden ponerse terriblemente, terriblemente mal, inimaginablemente mal. Como si hubieras escalado hasta la cima de este acantilado y miras hacia abajo y sí, tomó mucho tiempo escalar, pero el camino hacia abajo puede ser mucho, mucho, mucho más rápido y solo el proceso de brutalización que la gente sufrió es realmente horrible y de nuevo, por supuesto, lo más terrible es lo que está sucediendo en Gaza, pero miras lo que está sucediendo dentro de la sociedad israelí y ves el efecto de la brutalización allí también. Por ejemplo, en el trato a las familias de los rehenes, sabes, en crisis de rehenes anteriores en Israel, eran sagradas, como en los días de Gilad Shalit, por ejemplo. Y ahora algunas personas, al menos, los maldicen y les escupen y los llaman traidores y de nuevo, solo el proceso, el proceso interno de brutalización es inimaginable. Y también el proceso de destrucción, diría yo, de 2.000 años de tradición judía y sabiduría judía. Sabes, después de la conquista romana de Jerusalén, después de la gran revuelta judía en el primer siglo d.C., durante 2.000 años, el judaísmo se desarrolló como la religión de una minoría perseguida, comprometida con los ideales de tolerancia, de pluralismo, y sabes, ser judío en la Inglaterra medieval significaba que el 99% de la población pensaba y se comportaba de una manera y solo por existir, le decías al mundo que debería ser posible pensar y comportarse de una manera diferente. Yo no celebro la Navidad, celebro una fiesta diferente, y todo eso se borró en Israel en tan poco tiempo. Sabes, los sabios del judaísmo, tuvieron que lidiar con un legado muy problemático porque si miras el judaísmo bíblico, era una religión muy violenta e intolerante y tenían este texto realmente violento e intolerante en sus manos y lo reinterpretaron de maneras muy, muy creativas durante 2.000 años para crear una visión del mundo muy diferente. Y ahora la gente que lidera Israel, simplemente toma estos 2.000 años de historia judía, los hace pedazos. Volvamos al origen bíblico, el origen violento y sangriento de dónde venimos. Y sabes, a veces le pregunto a la gente en Israel, olvídense de todo lo demás. Díganme, ¿cuáles son los valores positivos que este país todavía encarna, por los que este país está luchando tanto? ¿Es un recipiente vacío? ¿Qué hay dentro del recipiente? ¿Cuáles son los valores positivos que todavía encarna? Los únicos valores que pueden ofrecer son los valores de las legiones romanas que destruyeron Jerusalén, que son valores positivos hasta cierto punto. Coraje, lealtad, patriotismo. ¿Por qué se representa Israel hoy? Dulce et decorum est pro patria mori, que es un valor noble en muchos sentidos. Es bueno, es bueno y dulce morir por la patria. Que cuando crecí, pensé que Trump lo había inventado en 1919. No, es Horacio. Es el antiguo poeta romano. Dulce et decorum est solo citaba al poeta romano. Y estos son valores nobles. No los descartaría. Um, pero ¿es eso suficiente? Quiero decir, si esto es todo lo que contenía el recipiente, entonces podríamos habernos convertido en romanos en el primer siglo y haber terminado con eso. Fue una pérdida de 2.000 años. Um, en esto, lo que estás describiendo, ya sea en Israel o en todo el mundo, es un momento muy, muy peligroso. Y es en este momento que estamos presenciando los mayores avances en tecnología. Algunas personas dirán, bueno, esta es la esperanza, este es el lado positivo del momento en que vivimos. >> Pero tú lo ves como igualmente peligroso. Has llamado a la IA inteligencia alienígena. ¿Quieres explicarle a la audiencia a qué te refieres? >> Lo único que todo el mundo debería entender sobre la IA es que la IA no es una herramienta. Es un agente. Todas las invenciones humanas anteriores, desde la imprenta, la bomba atómica, lo que sea, eran herramientas en nuestras manos porque éramos los humanos quienes decidíamos qué hacer con ellas. Eran los humanos quienes las desarrollaban. La IA es la primera tecnología que puede tomar decisiones por sí misma, que puede inventar nuevas ideas por sí misma, que puede aprender y cambiar por sí misma. Sí, los humanos la diseñaron originalmente, pero si no tiene la capacidad de aprender y cambiar por sí misma, no es una IA. Pero estás describiendo una IA general o inteligencia artificial general. Todavía no estamos ahí. >> Ya estamos en campos limitados. Ya estamos ahí. >> De nuevo, ya en 2016 tenías, por ejemplo, en el juego de Go. Así que AlphaGo inventó nuevas formas de jugar al Go. Es un juego chino antiguo inventado hace más de 2.000 años. Decenas de millones de personas lo han jugado durante más de 2.000 años. Pensamos que habíamos descubierto todas las formas de jugar al Go. Pero entonces llegó AlphaGo y, básicamente en unos pocos días, descubrió formas completamente nuevas de jugar al Go que no se le ocurrieron a ningún ser humano en más de 2.000 años. Ahora dices, está bien, esto es solo un juego, por supuesto, pero esto es solo el principio. Es cada vez más probable que esto suceda en estrategia militar, en estrategia financiera, en religión, en política. Hablamos del judaísmo. El judaísmo es una religión de textos. En última instancia, cualquier religión de textos es probable que sea asumida por la IA en los próximos años porque la IA es un mayor experto en textos que cualquier ser humano. >> ¿Qué quieres decir con asumida? ¿Quieres decir que así es como la gente entenderá? >> Tienes una pregunta sobre un cierto tema moral. Así que no puedes hacer la pregunta a la Biblia o al Talmud tradicionalmente porque no pueden hablar y pueden interpretarse de diferentes maneras. Así que vas al rabino, vas al sacerdote que obtienen su autoridad porque son expertos en textos. Leen muchos textos. Recuerdan muchos textos y dicen: "Sí, está escrito en la Biblia así, pero en el Talmud, dice esto y el Rambam dice aquello". De acuerdo, esa es la regla. Ahora, ningún rabino es capaz de leer todos los textos del judaísmo porque son demasiados y ciertamente no recordarlos todos. La IA puede hacer eso. La IA puede leer muy rápidamente todos los textos escritos por cada rabino oscuro en un rincón de Polonia o Marruecos, recordar cada palabra en ellos y encontrar patrones y conexiones que ningún ser humano es capaz de hacer. Así que cada vez más personas, y esto ya está sucediendo, hacen preguntas, preguntas morales, preguntas espirituales a un rabino de IA o a un sacerdote de IA, y es difícil para la religión decir "no, no, no, ignóralos" porque aportan la evidencia escritural, no puedes ignorar los textos. Es lo mismo en el sistema judicial que ningún abogado puede recordar todas las leyes y todos los casos. La IA y también en finanzas. >> Algunas personas escucharán eso y pensarán, bueno, quiero decir, eso es progreso, eso hace que el acceso y la explicación sean más fáciles y algunas personas argumentarán que en el campo médico estamos a punto de entrar en una edad de oro de descubrimiento. Quiero decir, creo que el potencial positivo es inmenso, de lo contrario no lo estaríamos haciendo. Ya sea en atención médica, en la lucha contra el cambio climático, de nuevo, las posibilidades, las posibilidades positivas son inmensas, pero al mismo tiempo los peligros son igualmente grandes. De nuevo, estamos escuchando con el Financial Times. Hablemos de finanzas. >> Hablas del sistema financiero, estás muy preocupado por el sistema financiero. Quiero decir, la última gran crisis financiera de 2007-2008 comenzó cuando algunos magos humanos inventaron este nuevo dispositivo financiero, CDOs, obligaciones de deuda colateralizadas, algo así, que funcionó maravillosamente durante unos años, generando miles de millones de dólares en beneficios para individuos centrales, y luego todo colapsó porque no estaba regulado adecuadamente. Ahora, ¿qué sucede si las IA inventan nuevos dispositivos financieros que son órdenes de magnitud más complejos que los CDOs? Ningún humano puede regularlos porque ningún humano entiende siquiera lo que está sucediendo durante un par de años, alguien está ganando billones, no lo sé, y luego todo colapsa y vas al presidente de los Estados Unidos o al primer ministro británico, quien sea, y dices que el sistema financiero está en crisis, nadie tiene idea de por qué porque nadie lo entiende más. Solo las IA lo entienden. Las IA nos dicen que en los próximos 30 minutos debemos hacer esto. Nadie entiende por qué y qué significa. Pero tenemos que confiar en ellas. No, porque son las únicas que todavía entienden las finanzas. ¿Qué pasa con la política? Olvídate de la democracia y la dictadura. Ya sea un dictador o un presidente electo o un primer ministro. Si los políticos ya no entienden las finanzas, eso pone un gran signo de interrogación sobre su capacidad para gestionar el sistema y, y diría que al hablar de IA, deberíamos centrarnos en preguntas concretas e inmediatas. Una de las preguntas que debería debatirse ahora mismo es: ¿deberíamos permitir que las IA abran cuentas bancarias? Estamos muy cerca del punto en que técnicamente es posible que una IA gestione una cuenta bancaria, gane dinero haciendo cosas en línea para personas, invirtiendo ese dinero en la bolsa de valores, ganando más dinero. Por lo que sé, no soy un experto, pero por lo que sé, según la ley estadounidense, no tienes que ser un ser humano para ser considerado una persona jurídica. Las corporaciones, según la ley estadounidense, no estoy seguro de la situación aquí, son personas jurídicas y, según la Corte Suprema de los Estados Unidos, a partir de la decisión Citizens United de 2010, uh, uh, las corporaciones, al ser personas jurídicas, incluso tienen libertad de expresión, que en el contexto en el que se dictaminó esto, pueden hacer donaciones políticas. Imagina una situación, tal vez antes de las próximas elecciones, cuando quizás la persona más rica del país sea una IA corporativa y quiera hacer donaciones políticas a ciertos candidatos a cambio de apoyar los derechos de la IA. Esto es un, está bien, estoy escuchando y pensando, necesito un trago. Es solo agua. Estoy escuchando y pensando, está bien, necesito un trago. Pero, ¿es posible que esta IA produzca un mejor resultado en las elecciones? >> Sí. De nuevo, una cosa que no juzgaría apresuradamente, ¿es bueno? ¿Es malo? Volviendo a la meditación, lo primero es respirar hondo y comprender cuál es la realidad del momento presente. La realidad del momento presente es que, por primera vez en la historia, hemos producido una tecnología que tiene agencia real, capacidad real para tomar decisiones y plantea ciertas preguntas muy prácticas. Ahora, todo el asunto de las corporaciones es muy crucial. Las corporaciones, la idea de que puedes tener personas no humanas, corporaciones, ha existido básicamente durante siglos, pero siempre fue solo una ficción legal conveniente porque todas las decisiones de todas las corporaciones eran tomadas por seres humanos. Así que, está bien, tenías, no sé, una corporación de Microsoft, todas las decisiones de Microsoft eran tomadas por algún ingeniero humano, ejecutivo humano, accionista humano, no había otra opción. Ahora puedes crear técnicamente una corporación cuyas decisiones son tomadas por una inteligencia no humana, buena o mala, déjala a un lado, ¿qué hacemos como sociedad en esta situación? >> Pero esa es la pregunta. Así que sabes, todos los CEOs que están trabajando en esta tecnología. De hecho, la primera vez que nos conocimos, estábamos en una de esas conferencias donde te habían pedido que hablaras. Respetan lo que dices. ¿Sigues en contacto con la gente y crees que >> algunos de ellos? Sí. ¿Y crees que hay una necesidad y lo que abogas es una moratoria porque en esta etapa tienes que parar y pensar a dónde vas con la tecnología? >> La mayoría de ellos están extremadamente preocupados, al menos en privado, porque saben mejor que nadie los poderes que están desatando. Si vas a su historial personal, encontrarías que muchos de ellos, cuando eran menos famosos y poderosos, hablaron públicamente diciendo cosas muy, muy perturbadoras sobre esta tecnología. Ahora están en una situación mucho más frágil. Así que mantienen la boca más cerrada. Pero son conscientes, mejor que casi nadie, de lo que está sucediendo. Algunos de ellos, al menos, están extremadamente preocupados, si no aterrorizados. Pero están atrapados en un dilema del que no saben cómo salir, una clásica carrera armamentista o una situación de dilema del prisionero. Sabes, cuando los conozco, básicamente les hago rutinariamente dos preguntas. La primera pregunta que les hago es: ¿por qué se mueven tan rápido? Solo, no digo que se detengan, solo que reduzcan la velocidad para darle a la sociedad la oportunidad de digerir lo que está sucediendo y tener un debate y decidir qué hacer, y todos dicen básicamente: somos conscientes de los riesgos, nos gustaría reducir la velocidad, pero si reducimos la velocidad, ¿cómo podemos estar seguros de que nuestros competidores en la otra empresa o en el otro país también reducirán la velocidad? Si reducimos la velocidad y ellos no, ganarán la carrera de la IA y el mundo será gobernado por las personas más despiadadas. Somos gente agradable. Por eso queremos reducir la velocidad. Ellos no son agradables. Entonces, ¿quieres que ganen los que no son agradables? De acuerdo, primera pregunta. Primera respuesta. Luego, la segunda pregunta. De acuerdo, entiendo por qué se apresuran a desarrollar esta IA superinteligente. No puedes confiar en los otros humanos. Tiene sentido. ¿Crees que podrás confiar en las IA superinteligentes que estás desarrollando? Y las mismas personas que acaban de darme este discurso sobre por qué no es posible confiar en sus competidores, los competidores humanos, de repente se vuelven muy, muy hippies y dicen: sí, podemos confiar en las IA superinteligentes, lo cual es casi una locura porque, sabes, con los humanos, al menos tenemos miles de años de experiencia con los humanos. Tenemos una comprensión algo buena de la psicología humana. Entendemos el impulso humano por el poder. Pero también entendemos cómo controlar el impulso humano por el poder. Con las IA, no tenemos experiencia. Acabamos de crear los primeros prototipos primitivos. Ya sabemos que pueden mentir, manipular, cambiar sus objetivos, hacer cosas inesperadas. No sabemos exactamente cómo entender lo que está sucediendo allí, cómo controlarlo. Así que hay mucha menos razón para tener confianza en las IA superinteligentes que en los humanos. Y sin embargo, parece que estamos equivocados en nuestras prioridades aquí. >> Um, uh, me disculpo. Tenía la intención de darle a la audiencia al menos 10 minutos, pero me quedan cuatro minutos. Tomaré un par de preguntas. ¿Quién puede levantar la mano más rápido? De acuerdo, la señora aquí y el caballero allí. Gracias. ¿Cuál es el valor número uno que apreciarías o que te gustaría que enseñáramos a la nueva generación, a nuestros hijos? >> ¿Cuál es el valor positivo número uno? ¿Valor positivo? Diría que la confianza es lo más importante porque es la base de todo lo demás. Um, la sociedad humana se basa en la confianza. Si la perdemos, todo colapsa. Um, incluso, sabes, volviendo a la respiración, cada respiración que tomamos es confiar en algo externo a nosotros que no nos envenenará. No puedes vivir si no confías en lo que está fuera de ti. Y, um, en un nivel práctico, significa, por ejemplo, que cuando interactúas con alguien, empieza con una posición caritativa. Cuando hacen algo, cuando dicen algo que no suena bien, no saltes inmediatamente a la peor interpretación posible de por qué dijeron o hicieron lo que hicieron. Empieza con una interpretación caritativa. Si luego tienes evidencia de que son malos actores, a veces las personas son indignas de confianza. No debes ser ingenuo, pero empieza con la posición caritativa. >> Adelante, señor. >> En primer lugar, gracias Rola por haberme elegido. Um, muchas gracias. Todos disfrutamos mucho de esto. Mi pregunta era, sabes, una persona equilibrada e inteligente como tú, ¿considerarías presentarte a elecciones y liderar Israel? >> No esperaba esa. Pero sí, >> quiero decir, simplemente no creo que tenga las cualidades adecuadas. Creo que necesitamos que buenas personas entren en política. Creo que es una posición admirable. La gente, una de las peores cosas que se puede decir es que todos los políticos son mentirosos. Todos los políticos son ladrones porque entonces básicamente les das un pase libre a los realmente malos. No es el caso. Ha habido, todavía hay buenos políticos y necesitamos que buenas personas entren en política, pero requiere ciertas cualidades que simplemente no tengo y que a veces son lo contrario de las cualidades de un buen erudito, como la política, en última instancia, se trata de compromiso, saber cómo necesitas buenas, muy buenas habilidades sociales, necesitas saber cómo negociar, cómo comprometerte. No estoy siendo modesto, como, ¿cómo se dice eso? Falsa modestia, simplemente me conozco a mí mismo. No soy bueno en estas cosas. Esto es, por ejemplo, una de las cosas que hace mi esposo. Como si necesitaras negociar algo, es con mi esposo, no conmigo, porque no sé cómo hacerlo. Así que tal vez él debería presentarse a elecciones. Pero >> espera, ¿dónde está? Puede pasar al frente. Uh, voy a hacer la última pregunta, en realidad. Lo siento, chicos. >> Entonces, tú y yo estamos sentados aquí en cinco años. ¿Cómo nos vemos? ¿Estamos realmente sentados aquí? >> No. Quiero decir, de nuevo, es la primera vez en la historia que nadie tiene ni idea de las características más básicas de la sociedad humana en 5 a 10 años. Siempre fue imposible predecir la política, si estallaría una guerra, una revolución, lo que sea. Pero sobre los aspectos básicos de la vida humana, las cosas cambiaron a lo largo de los siglos. Ahora no tenemos idea, digamos, de cómo será el mercado laboral. ¿Qué trabajos seguirán teniendo las personas en cinco o 10 años? >> Bueno, yo tengo un trabajo >> y yo >> ¿tendrás un trabajo? >> No lo sé. Como ahora estoy escribiendo, trabajando en un nuevo libro. Parte de mí piensa seriamente que este es mi último libro porque para cuando salga, la IA escribirá libros mucho mejor que los autores humanos, por lo que ya no habrá un nicho para mí. Creo que la audiencia no está de acuerdo, ¿verdad? Ustedes no están de acuerdo, ¿verdad? Uh, todavía pensamos que serás un mejor autor que la IA. >> De nuevo, me gustaría quizás terminar porque no tenemos mucho tiempo, con la nota de que todavía tenemos el control. No sé sobre la situación en 10 o 20 años con la IA, pero en la actualidad los humanos todavía tienen el control y tenemos que tomar decisiones. Y si tomamos decisiones buenas y sabias, el futuro puede ser mejor que cualquier momento anterior en la historia porque podemos aprovechar el enorme poder de la IA y de otras nuevas tecnologías para el bien. Y es nuestra elección. De nuevo, miras el siglo XX, puedes ver cómo tecnologías como los trenes, la electricidad y la radio fueron aprovechadas por algunas personas para construir dictaduras totalitarias. Y, pero otras personas aprovecharon las mismas tecnologías para construir democracias liberales. Así que es lo mismo en el siglo XXI. Pero la clave es entender la tecnología y necesitamos que no sea una buena situación cuando unos pocos magnates en dos o tres países son los únicos que entienden lo que está sucediendo y están tomando algunas de las decisiones más importantes de la historia. Esto afectará a todos los seres humanos en la Tierra. Así que necesitamos que todos tengan al menos una comprensión rudimentaria de lo que está sucediendo para que todos podamos participar en la conversación y llegar a una decisión juntos como humanidad, en lugar de aceptar los dictados de unos pocos magnates tecnológicos y presidentes. Bueno, esa es una nota excelente y francamente esperanzadora para terminar. Uh, muchas gracias por estar con nosotros. >> Gracias. [Música]