Pep Martorell. El futuro de la IA | Arpa Talks (117)

Ahora estamos con una tecnología de la cual no conocemos el límite. La IA se equivoca, sí, como tú y como yo, como todos. La cuestión es, ¿en el proceso en que tú integras la inteligencia artificial, hay una combinación humano o algoritmo que permita minimizar los errores totales? Esa es la clave de la integración y la adopción de la IA en un proceso.

Estamos todos un poco enloquecidos, pero es muy importante comprender que las bases teóricas fundamentales no han cambiado desde hace décadas. Hay mejoras importantes en alguno de estos pilares, pero esto ahora ha explotado porque a la vez hay algoritmos nuevos, muchos más datos que se pueden mover de manera mucho más rápida y computadores extremadamente potentes que en un tiempo razonable, que son unos cuantos meses, pueden hacer centenares de septillones de operaciones matemáticas.

Que una tecnología haga mejor que un humano una cosa que fundamentalmente es creatividad intelectual no significa que el humano deje de hacerlo. Ahora mismo está produciendo cambios importantes en tres vectores. Vector número uno, automatización de procesos. Vector número dos, cambio de productividad individual. Vector número tres, disrupción. El problema hoy de Europa creo que no es el dinero, hay el talento. ¿Qué nos falta? La rapidez de ejecución que si están teniendo otros países, sobre todo desde el sector público.

Pues bienvenido, Pep, a este podcast. ¿De verdad la importancia histórica de la IA es comparable con la de la rueda o la electricidad o la máquina de vapor o estos grandes estas grandes tecnologías, estos grandes inventos que han marcado la historia humana? Siendo honesto, la respuesta es que solo sabremos cuando haya acabado la revolución.

Siendo un poco atrevido, todo hace pensar que seguramente sí, porque tienen en común con todo lo que has dicho es que son tecnologías transversales, por tanto que no tienen una sola aplicación, que son tecnologías muy fáciles de universalizar, es decir, que enseguida llegan al uso común y que además son tecnologías diseñadas por el humano para los humanos, ¿no?

Aunque hay una diferencia con todas estas tecnologías que has mencionado, que a mí me gusta siempre ponerla encima de la mesa, y es que yo tengo la sensación de que ahora estamos con una tecnología de la cual no conocemos el límite. La rueda, la revolución industrial, el fuego, etcétera, tienen infinitud de aplicaciones y han cambiado la manera como entendemos el mundo, pero es obvio que tienen una utilidad determinada y precisa que luego la puedes desarrollar en muchos otros casos, ¿no? Ahora estamos en una tecnología de la cual todavía no hemos visto el límite tecnológico. No sabemos cuándo lo vamos a ver y eso es lo que a mi parecer debería hacernos muy prudentes a la hora de predecir cuál será el impacto real que tendrá. Por tanto, en realidad todavía no podemos responder a esta pregunta.

No ocurre lo mismo con muchas otras tecnologías. Estaba pensando en la electricidad. La electricidad es un fenómeno físico. Cuando decimos que la electricidad es un invento, ¿qué queremos decir? Eh, la electricidad tuvo muchos usos en los gabinetes de curiosidades, simplemente se jugaba con ella para impresionar a la burguesía, pero después también se podría defender que la computación es una forma de seguir con la invención de la electricidad. En fin, no sé si la electricidad no es tanto una invención, la invención es el control de la electricidad, la capacidad humana de De hecho, al final la invención es la capacidad humana de manipular la realidad a nivel macroscópico o a nivel microscópico. Y eso es lo que hacen todas estas tecnologías, ¿no? Si hablas de la inteligencia artificial, ahora estamos a un nivel de ser capaces de manipular la información de la realidad. Son unos y ceros, son algoritmos, es qué información tenemos sobre la realidad y cómo jugamos sobre ella, ¿no?

Entonces, déjame pedirte que precises qué es la inteligencia artificial. Cuando decimos que la inteligencia artificial es una tecnología o una innovación, en realidad, ¿de qué de qué estamos hablando exactamente? Mira, en primer lugar, estrictamente hablando, la inteligencia artificial es una rama de la informática que se dedica a diseñar sistemas que son capaces de hacer tareas para las que habitualmente necesitamos inteligencia humana. Yo diría que bajo esta definición, que es muy amplia y muy genérica, se enmarca bastante bien de qué va esta tecnología.

Cuando bajas más al detalle y dices, "Vale, muy bien, pero esto exactamente cómo se construye, cómo se declina esto de aquí, ¿no?" Cuando la gente me pregunta qué es exactamente la IA, yo siempre le respondo con otra pregunta que es, "¿Tú sabes qué es una interpolación?" Una interpolación es datos que conoces y a través de la estadística interpolar el patrón y el comportamiento. Por tanto, el ejemplo típico es la altura y el peso de un ser humano, ¿no? Tú podrías poner una gráfica de altura y peso, un montón de puntitos, cada puntito es un ser humano y te saldría más o menos pues una recta así porque cuanto más altos somos, más pesamos, aunque hay casos muy extremos en los dos ejes, ¿no?

Entonces, una inteligencia artificial al final es algo así como un interpolador estadístico de la información disponible. Cuando teníamos poca información y era información de un fenómeno físico, de un proceso, la inteligencia artificial te permitía extrapolar el comportamiento, detectar patrones, hacer tratamiento estadístico de los datos que tenías. El problema es que ahora hemos ido a tal nivel tecnológico que la información sobre la cual haces ese tratamiento estadístico es literalmente toda la información en abierto que ha desarrollado nunca la humanidad. Entonces, la inteligencia artificial que hoy utilizamos, a mí me gusta verla como un superinterpolador estadístico sobre toda la información generada por la humanidad. Por eso es tan espectacular en temas como la generación de texto, porque es, permíteme la metáfora, como si alguien hubiera tenido tiempo para leerse toda la producción literaria y textual que ha hecho toda la humanidad en su historia y con todo eso aprendido le fuéramos haciendo preguntas y nos fuera respondiendo contextos, ¿no? La IA sería un superinterpolador estadístico del conjunto de la información textual humana abierta. Abierta super eh definición. Es una es una visión un poco pragmática, ¿sí? No, pero pero es una es una bonita manera encuentro de Nunca había oído estas técnicamente yo creo que es bastante cierto lo que acabo de decir, ¿vale? No he dicho un disparate y además incorpora un elemento que muy a menudo nos olvidamos y es el profundo carácter estadístico de esta tecnología.

La gente a veces dice, "No, es que la IA se equivoca, ¿no?" Bueno, porque para nosotros la tecnología es una cosa determinista. ¿Qué es una tecnología determinista? Por ejemplo, yo que sé, el teclado del ordenador, ¿no? Tú aprietas la barra espaciadora, avanza el cursor. La aprietas dos veces, avanza dos veces. La aprietas 10 veces, avanza 10 veces. Si aprietas otra vez y no avanza, llamas a alguien que el teclado no funciona. No, esto es una tecnología determinista. La inteligencia artificial es una tecnología no determinista que no se dedica a responder según leyes deterministas preestablecidas, sino que busca resultados a partir de interpolaciones, a veces no lineales, estadísticas, con un montón de datos. Y entonces cuando la gente dice, "No, es que a veces se equivoca, es que a veces alucina, la respuesta es sí, claro, es que es el comportamiento obvio de cualquier tecnología no determinista basada en principios puramente estadísticos, lo que no quiere decir que no sea tremendamente útil, pero ese es su carácter.

Déjame preguntarte una cosa al respecto de la del carácter estocástico de la IA. Si la IA hace un mismo proceso, exactamente un mismo proceso dos veces, no debería alcanzar un mismo output. Sí, pero es que no hace un mismo proceso dos veces. Es decir, ¿por qué no? Mira, hay hay lo intento hacer con un ejemplo muy simple, ¿no? Eh, estoy simplificando y cuando nos vea alguien que sea muy experto dirá, "Mírale, existe apretar en un botón en IA." Imagínate que intentamos ver cómo lo hace un chat GPT de turno para simplificar, para generar la siguiente palabra en una frase, ¿vale? Esta herramienta a partir de todas las palabras hasta entonces, que es lo que llamamos el contexto, en un espacio n dimensional donde n pueden ser miles y por tanto que no lo comprendemos, buscará el token, es decir, la pieza de información más cercana en un cierto espacio vectorial a la última palabra que está en ese texto. Hasta ahí te sigo. ¿Vale? Entonces, no hay una, hay varias que son cercanas, que nosotros diríamos que son varias palabras posibles que tienen sentido. Todas estas con una métrica de distancia en un espacio multidimensional las puede ordenar de la más cercana a la menos cercana. El tema es cuál escoge. Entonces, dependiendo de cómo esté programada esa habrá una función de coste que determinará si siempre coge la primera o a veces la segunda o a veces la tercera, a veces otra vez la primera y ahí está parte del planteamiento estadístico. Pero es que además es la posición de estos tokens en el espacio n dimensional puede cambiar cada vez que tú le pones información nueva para reentrenar este sistema, para que este sistema aprenda. Y además todo eso tiene que ver con el contexto que tú le estás poniendo. Por tanto, en un contexto distinto la generación del siguiente token puede ser perfectamente distinto que el anterior.

Si le preguntamos 2 + 2, si le preguntas 2 + 2, te dirá cuatro. ¿Por qué dirá cuatro? Porque simplemente porque en ese espacio n dimensional no hay distintas opciones. La pregunta es muy buena, déjame pasar de la suma a la multiplicación que es un poco más divertido. Si le dices 2 por 2, te dirá cuatro, pero yo te diría, pregúntale a cualquiera de estas IAs por el resultado de una multiplicación de dos números de 10 dígitos. Es muy posible que el resultado de este te dé se parezca mucho al correcto, pero no sea exactamente el correcto porque extrapola o interpola. Imagínate que a ti te hubieran hecho aprender la multiplicación. No hace el cálculo, ¿no? Imagínate que te hubieran dado un libro enorme lleno de millones de multiplicaciones resueltas y te hubieran dicho, "Aprende a multiplicar." Al final hubieras sido capaz de ver patrones con los cuales el 2 por 2 es trivial y un número muy gordo por un número muy gordo eres capaz de interpolar por dónde irá, pero no necesariamente sacar el número concreto porque tú has aprendido reglas, ¿no? a partir de casos y supongo que a nivel técnico, a nivel de usabilidad y técnico, existe la posibilidad de combinar, claro, hablamos de IA de manera muy sintética, pero me imagino que a nivel, ya digo, técnico analítico, una IA es un conjunto de tecnologías y la propia IA para devolver una respuesta a una query puede decidir hacer uso de una calculadora que tiene un comportamiento determinista. Es poner una regla determinista que sea, que si la cuestión es una multiplicación, coges esta rutina y la ejecutas. Claro.

Bueno, esto para una multiplicación es muy sencillo a nivel de la productividad, por así decir, que puede terminar teniendo la IA en la o a nivel de la capacidad de transformación del sistema productivo mundial de la IA. Entiendo que esto es muy importante, el hecho de que la propia IA pueda jugar al mismo tiempo con Perdón, ya ya tienes ya sabes lo que voy a decir. Es una mala idea. Es una mala idea. ¿Por qué? A veces nos preocupamos mucho porque una tecnología de base estadística cometa errores. La gente siempre digo lo mismo, la IA se equivoca, sí, como tú y como yo, como todos. La cuestión es en el proceso en que tú integras la inteligencia artificial. ¿Hay una combinación humano o algoritmo que permita minimizar los errores totales? Esa es la clave de la integración y la adopción de la IA en un proceso.

Porque hay otra cosa muy importante, se ha demostrado y estoy simplificando mucho, eh, pero intento no decir cosas que no sean precisas. Los errores que la IA comete acostumbran a estar muy descorrelacionados con los errores que los humanos cometemos. Lo simplificaría diciendo que muchas veces donde la IA sufre nosotros lo hacemos muy bien y donde nosotros nos cuesta mucho la IA lo hace muy bien. A nivel matemático hay gente que dice que algebraicamente son perpendiculares. Entonces, como los errores se multiplican cuando se combinan hábilmente, si tú un mismo proceso ligas un humano con una, estoy simplificando, conseguirás un proceso en el cual el error de uno irá compensado por el sentido común del otro y la combinación será tremendamente potente. De hecho, hay un paper y esto lo podemos poner para tus oyentes en las referencias del podcast. Hay un paper publicado en diciembre en Nature de un grupo de investigadores que cogieron más de 100 artículos sobre diagnóstico médico con inteligencia artificial y demostraron que en prácticamente la totalidad de los artículos la combinación humano algoritmo es mejor que el humano solo, el algoritmo solo o el mejor de los dos.

Porque hay un punto en que lo importante no es intentar corregir el error de la IA. Lo importante es que el proceso esté hecho de tal manera que la IA y los humanos nos podamos combinar para que cuando uno no es fino, el otro lo compense. A mí me gusta decirlo de la siguiente manera, eh, y ahí tomo ideas de otra gente, como siempre. Yo puedo simplificar diciendo que al final los humanos hacemos básicamente tres cosas cuando pensamos, ¿no? Deducción, inducción y abducción. La deducción, la inducción son cosas que es ir de la causa, de la causa a los efectos, de los efectos a la causa y es algo que funciona bien cuando hay todos los datos encima de la mesa. Si la película va de esto, la inteligencia artificial es sin duda mucho mejor que los humanos. Pero en cambio en la abducción, que es el explorar el terreno desconocido, a veces lo llamamos sentido común, a veces lo llamamos conectar puntos. Ahí donde no todos los datos están encima de la mesa, ahí el humano es imbatible. Entonces, si tú puedes combinar las capacidades de uno y otro de manera hábil, puedes llegar a conseguir sistemas mucho más potentes que meter muchos esfuerzos para empezar a buscar casuísticas de que no, aquí la IA quizás se equivoca. Entonces, le pondré unas reglas deterministas para que cuando pase esto, ¿no? La tentación de lo que llamamos en informática "if then else", si pasa eso, hace eso y si no hace eso otro, es una tentación super presente en los humanos porque venimos de esta lógica determinista, pero que con la IA no es necesario, es mucha mejor idea para mí trabajar combinaciones humano algoritmo que permitan estas performance mayores que utilizándolo por separado.

Bueno, hemos empezado muy a saco. Luego te preguntaré por el funcionamiento. O sea, te pediré que desarrolles un poco en realidad lo que acabas de decir, pero déjame volver, dar un paso atrás y volver a una cosa que has dicho antes. Creo, si recuerdo bien, me lo he apuntado, que antes has dicho que la inteligencia artificial es una rama de la informática que se ocupa del diseño de sistemas que ejecutan tareas que generalmente requieren inteligencia humana. Es verdad. Sí. Bueno, e ¿qué diferencia hay entre esto y un software o entre esto y la informática tradicional? Es que la inteligencia artificial es un software. Bueno, la informática tradicional. Ah, pero le llamamos inteligencia artificial. Bueno, bueno, de hecho es un mal nombre. Esto se lo empezó a llamar machine learning, es decir, cómo las máquinas aprenden, ¿vale? Pero siempre intentamos utilizar palabras que nos recuerden a los humanos, ¿no? Un software es un conjunto de líneas de código en el que hay codificadas una serie de instrucciones que acostumbran a ser deterministas. Si pasa esto, haz aquello. Si no, haz aquel otro, etcétera, etcétera. Estoy simplificando mucho, pero básicamente es esto. La inteligencia artificial no es más que un software, ¿sí? La IA no es más que un software que incorpora unas metodologías que permiten de muchos datos extraer correlaciones, hacer esta inferencia o interpolación estadística que decíamos, no es más ni es menos que esto. Lo que pasa es que ahora le hemos dado tal potencia tecnológica al tema que es capaz de hacer cosas que son muy visibles. Pero oye, y hoy se meter ese doctoral en cosas parecidas a estas hace 20 años o más, que ya tenemos una edad. Yo siempre cuento, conceptualmente lo que yo hacía hace 20, 25 años o lo que había gente que hacía en los 60 y 70 del siglo pasado no es muy distinto a lo que estamos hablando.

Pero hay tres grandes diferencias, eh, y insisto un poco más en qué es exactamente la IA. Al final, una inteligencia artificial es un algoritmo, un software, un programa ordenador más o menos sofisticado, ahora lo hablaremos, que aprende o se entrena, siempre palabras muy antropomórficas, con muchos datos, segundo elemento importante, en grandes superordenadores para poder hacer estos procesos matemáticos en un tiempo razonable. Por tanto, algoritmos, datos, ordenadores. Cuando yo hice mi tesis y ahora estiramos del hilo de los tres que quieras, ni había los algoritmos que hoy sabemos programar, ni por supuesto había los datos que hoy tenemos encima de la mesa y no solo los datos, sino las redes de comunicación que nos permiten moverlos a la velocidad que los podemos mover. Ni obviamente había la capacidad de computación que hay hoy. Para que te hagas una idea, te doy dos datos. Uno, el computador más potente del mundo del año 2001, hace 25 años tenía una capacidad de cálculo bastante equivalente al último móvil del mercado. Es decir, en 25 años te pones el supercomputador más potente del mundo en el bolsillo. Y segundo número, para hacer este proceso, acabo de explicar un algoritmo que con muchos datos aprende patrones y demás dentro de un supercomputador. Esto se hace con operaciones matemáticas, álgebra de toda la vida, matriz por vector, sumas y multiplicaciones, muchas. ¿Cuántos son muchas? Los últimos datos que miré eran del orden de centenares de septillones. Esto es un uno seguido de 26 ceros. Es imposible humanamente comprender qué significa un uno seguido de 26 ceros. No hay nada en nuestro mundo que sea un uno seguido de 26 ceros algo. Entonces ahora estamos todos un poco enloquecidos con una tecnología que hace cosas increíbles y que ahora hablaremos, pero es muy importante comprender que las bases teóricas fundamentales no han cambiado desde hace décadas. Hay mejoras importantes en alguno de estos pilares, pero esto ahora ha explotado porque a la vez hay algoritmos nuevos, muchos más datos que se pueden mover de manera mucho más rápida y computadores extremadamente potentes que en un tiempo razonable, que son unos cuantos meses, pueden hacer centenares de septillones de operaciones matemáticas.

Tengo que agarrarme porque claro, es que es te he pedido caña, pues la vamos teniendo. Por tanto, si un software normal y corriente son líneas de código, tú dices, "Hombre, la IA es lo mismo, pero hay algunas especificidades propias a la IA que serían estas tres, ¿no? Que has estado algoritmos un poco distintos. Ahora te quería preguntar por los algoritmos, muchos datos y mucha capacidad de cálculo, grandes ordenadores. ¿Qué es un algoritmo en informática y qué es un buen algoritmo? Mira, un algoritmo es un programa de ordenador, es decir, es un conjunto de instrucciones habitualmente secuenciales, a veces paralelas, para hacer tareas. Vuelve a decirlo, un conjunto de instrucciones, típicamente secuenciales, primero una, después otra, después otra, a veces paralelas, a la vez que tal haces cuál. que básicamente dan instrucciones. El ejemplo perfecto es el "if, then else". Si pasa, no sé qué haces esto, si no haces lo otro. Esto es un algoritmo.

En inteligencia artificial desde los 50 del siglo pasado empezamos con unos algoritmos que eran las redes neuronales, que esto suena así como algo muy simple. ¿Qué es una red neuronal? Es lo que llamaríamos una arquitectura, un tipo de algoritmo que intenta simular cómo se comportan las neuronas en el cerebro. Digo, intenta simular, eh, porque el cerebro es una cosa muy complicada. Eso quiere decir, hombre, que si el cerebro hay un montón de neuronas conectadas entre ellas, estas neuronas, yo no soy neurocientífico y por tanto le diré de manera muy aproximada, se comunican con ciertos impulsos. Entonces, tú puedes llegar a establecer reglas que digas, si no sé qué, esta se comunica con esta, si no sé qué con la otra. Hay unos thresholds que se llaman los niveles que si la función está por arriba se comunica y si no no se comunica. Y tú puedes construir como una arquitectura que te recuerda a unas cuantas neuronas conectándose entre sí. La lógica original fue, oye, si esto que tenemos aquí dentro con un montón de neuronas conectándose nos permite llegar a pensar por qué no hacemos un programa de ordenador que siguiendo las mismas reglas quizás pueda también aprender y por eso el primer nombre fue machine learning, aprendizaje máquina.

El gran cambio que ha habido en los últimos 10, 12 años es algo que apareció en 2017, que son los Transformers, ¿vale? Que la gente se piensa que no los ha utilizado nunca y los utilizamos cada 10 minutos. Porque cuando uno utiliza un chat GPT, nadie sabe lo que significa GPT. GPT es generative, pretrain transformer, es decir, un transformer preentrenado para generar información. Al final es un tipo distinto de algoritmo que resuelve un problema. Es muy complejo, pero me gusta explicar un problema que resuelve que creo que se puede entender muy bien, que es lo que yo llamo el problema de la polisemia. Es decir, si yo te digo, mira, esta mañana he ido al banco a sacar dinero, tú sabes perfectamente de lo que estoy hablando. Y no te imaginas que me he ido a un parque y me he sentado en un sitio que también se llama banco. Pero, ¿por qué? La B, la A, la N, la C y la O son las mismas letras en el mismo orden. ¿Por qué no te has confundido? Porque hay un contexto que me ha permitido interpretar esa atención al contexto. Y por eso en 2017 hay un paper que se titula "Attention is all you need", que por cierto es un nombre de paper muy extraño para un paper científico, ¿no? Porque dice esto, lo único que necesita es la atención al contexto.

Entonces, ellos fueron capaces, un agente de Google que fue capaz de saber cómo programar una inteligencia artificial para que tuviera esta atención al contexto que le permitiera, y eso para mí conceptualmente es muy fuerte, comprender el significado de una palabra. Y esto para una IA ¿Qué significa? Vuelvo un poco atrás con lo que decíamos del interpolador, ¿vale? Yo me imagino un mundo en dos con dos ejes, ¿no? Podemos pensar que jugamos a barcos A2, B3, C4 o podemos pensar el ejemplo que te decía de la altura y el peso y podemos ver los ciudadanos del mundo ahí en este esquema, ¿no? Al final lo que hacen ahí es colocar a todas las palabras simplificándolo en un espacio que no tiene dos dimensiones o tres, que nos movemos bien en esta lógica, que tiene miles de dimensiones. Entonces, cada palabra, simplifico, ocupa unas coordenadas en este espacio milidimensional y la IA va como tejiendo un camino en este espacio milidimensional de una a la más cercana siguiente y con eso construye texto, por ejemplo. Milidimensionales no quieres decir niones, pero son miles, son cientos, son cientos de miles, son miles. Y es importante que sean miles o sería mejor que fueran cientos de miles. Bueno, yo creo que la capacidad computacional que tenemos nos permite jugar con una cierta confortabilidad en este en ese tamaño, pero sigue sigue.

Entonces, hemos conseguido que la palabra "banco" en función de si es una entidad financiera o si es un sitio para sentarse en un parque, ocupe coordenadas distintas en este espacio milidimensional. Esto debe ser algo bastante parecido a lo que es el significado de una palabra. Para la IA, el significado de una palabra es una posición en un espacio milidimensional. Pues con esto, entre otras cosas, los Transformers consiguen separar la misma palabra en distintos contextos en dos partes de este espacio y con eso resolvemos el problema de la polisemia. ¿Y cuáles son estas dimensiones? No tienen significación física. Por eso a veces hablamos de decimos un poco de manera exagerada que una IA es como una caja negra, no tiene una dimensión física. que vamos a decir, "Mira, de estas dimensiones una es el espacio, otra es el tiempo, otra es no sé qué, ¿no?" Y por eso nos cuesta tanto comprender esto qué significa. Lo que quieres decir es que tienen simplemente utilidad porque generan un número de coordenadas que crece de forma exponencial a medida que creces en dimensiones. Y de tal manera que alcanzado un determinado punto de coordenadas posibles en un espacio ya tienes suficiente inteligencia contextual como para entender lo que significan las cosas. Diríamos diríamos que comprendes, tienes un espacio vectorial de suficiente complejidad como para capturar todo el significado de las palabras. Ese es el stake. Sí. Es decir, nosotros tenemos suficiente con tres dimensiones para situar las cosas en el mundo. Para capturar el significado de un texto, puedes jugar en tres dimensiones, pero lo que te va a quedar será una cosa que no tiene ningún sentido. Trabajando en miles de dimensiones, puedes capturar lo que para nosotros es el significado suficientemente como para hacer lo que hoy en día estamos haciendo. Por tanto, en la utilidad concreta de los de las IAs generativas, el el componente de fuerza bruta, sí, entiendo que es muy importante y volvemos a tus tres dimensiones, o sea, primero intentas construir un algoritmo inteligente. Este tema me interesa muchísimo, pero no sé si es fácil ir más allá en el Es muy útil a veces cuando la gente me pregunta, "Oye, tal persona entiende mucho poco de inteligencia artificial, eso es un poco injusto decirlo así, ¿eh?" Pero a veces la respuesta a veces es pregúntale si nunca en su vida ha programado un perceptrón. Una red neuronal fácil. Haberlo hecho, claro. Te permite comprender profundamente qué está pasando exactamente ahí. y medio entender que pasa en un entorno vector de un espacio vectorial mucho más dimensional porque parece que la parte complicada, la parte del entrenamiento con muchos datos o la o la parte que tiene que ver con la capacidad la computación, la capacidad de computación, seguro que tienen muchísima complejidad y luego nos podemos meter en ello, pero es verdad que a primera vista, hombre, el diseño de una red neuronal o de un algoritmo de computación de IA, el buen diseño de un buen algoritmo de ella parece una cosa extraordinaria porque cuando pensamos en el cerebro hay un montón de variables que pueden e porque no solo está la comunicación eléctrica, hay comunicación química, hay comunicación de corta distancia y de larga distancia, hay comunicaciones entre neurona y neurona y entre grupos de neuronas, etcétera, etcétera, etcétera, ¿no? Ehf, no es tan tremendamente sofisticado, ¿no? No es decir, si no has pasado por las cosas más básicas es difícil comprender las siguientes, ¿no? Pero la arquitectura de un algoritmo de IA, yo te diría que con un par de horas y una pizarra es algo que se puede llegar a comprender bastante bien. Ojo que no hagamos un podcast con una pizarra un día, ¿eh? Bueno, sabiendo que luego hay infinitos matices en cómo lo haces, el preprocesado, el postprocesado, las capas ocultas, la dimensionalidad de cada capa. la parte del contexto y la policemia del Transformer. No digo que sea una trivialidad, pero se han hecho muchos avances y hoy en día es una cosa que está al alcance de mucha gente comprender profundamente esto cómo funciona. De hecho, yo diría si me preguntas que de los tres pilares, la algoritmia, los datos y la computación, yo me atrevería a decir, y creo que no me equivoco, que hoy en día la algoritmia es el menor cuello de botella de los tres. Es más difícil acceder a datos suficientes como para o a capacidad computacional como para que no a programar un algoritmo con una sofisticación mínima para que se genere a partir de ahí una IA más o menos razonable.

Claro, porque al respecto de los datos, el problema que tienen los datos textuales en abierto, insisto mucho en abierto, claro, porque hay un detalle importante aquí. Yo creo que hoy podemos afirmar que ya nos hemos acabado todos los datos en abierto para entrenar inteligencias artificiales. La gente puede ir a un sitio muy divertido que se llama Common Crawl, que es un proyecto que se dedica básicamente, y voy a simplificar de nuevo, a bajarse internet. Todos los datos abiertos en internet. Datos abiertos quiere decir que si tú tienes datos detrás de una pasarela de pago, ahí no entran. Que si tú tienes datos que explícitamente hacen algo que se llama el "opt-out" de los datos, ahí no entran, pero que todo el resto de internet se entra y esto es básicamente el núcleo de información con el cual estas grandes compañías entrenarán sus modelos de inteligencia artificial. De hecho, una de las limitaciones para el crecimiento futuro de la tecnología es la dificultad de encontrar datos textuales nuevos que tengan valor para entrenar IAs.

Y me voy un poco y luego me harás volver. Por ejemplo, cosas que están pasando. Uno, el nuevo modelo de Anthropic, un modelo que ha provocado mucho festival geopolítico, el gobierno americano prohibiéndole que sí, que no. Y podemos hablar un poco de esto. ¿Cuáles es una de las razones por las cuales ha hecho un salto importante respecto a los anteriores? Y esto la gente de Anthropic lo cuenta porque claro, hablamos de datos textuales, ¿vale? Los datos textuales están hechos en idiomas muchos y variados, bien, pero hay idiomas que no son estrictamente humanos. Por ejemplo, el código, que sí que es humano, pero no es un lenguaje, digamos, en el sentido clásico. O, por ejemplo, las proteínas. Las proteínas las escribimos con letras y reglas. Letras y reglas al final implica un idioma. Por tanto, en el momento que Anthropic uno de sus modelos lo entrena masivamente con código desarrollado anteriormente por humanos, pum, ese algoritmo desarrolla una capacidad tremenda de trabajar, por ejemplo, en ciberseguridad. Por tanto, una línea muy interesante de investigación cada vez más es de dónde sacar nuevos datos textuales para entrenar nuevos modelos. Una variable de esto es los datos sintéticos. ¿Por qué vamos a buscar datos generados por humanos si no le pedimos a la IA que genere más datos? No es obvio entrenar una IA con datos generados por otra IA porque se puede producir un loop de autoconocimiento que no te aporte valor, pero eso es una línea de investigación muy interesante. Y la última, que para mí es algo que tenemos que tener mucha atención, es lo que se llaman los modelos del mundo, los "world models", que son inteligencias artificiales construidas sobre datos sensóricos. Y aquí hay una reflexión que a mí me interesa mucho y luego volvemos porque si no me voy mucho, que es la siguiente. Los humanos no aprendemos cómo funciona el mundo leyendo. Aprendemos cómo funciona el mundo observando, escuchando, tocando. Hasta los 5, 6, 7, 8 años no leemos de facto. Pero un chaval, una chavala de 5, 6, 7 años, ¿no? Pues si chuta una pelota y va corriendo a buscarla porque sabe dónde va a caer, no está calculando el tiro parabólico. Tiene un modelo del mundo, un sentido común, una intuición que le dice que la pelota va a caer ahí. ¿De dónde ha sacado esto? de toda la información sensorial que en los primeros años de su vida está recogiendo. Hay un ejemplo que cuenta siempre Yann LeCun, el que era director de tecnología en Meta, que es muy fácil de calcular y la gente lo puede hacer en casa, ¿no? Tú calculas a cuántos bits por segundo tu nervio óptico captura y llega a tu cerebro. Multiplicas esto por el número de segundos que un chaval de los 0 a los 5 años está despierto y te sale una cantidad de información que en orden de magnitud es similar a toda la información en internet hoy en día. Esto es muy contraintuitivo, pero eso explica en parte por qué los humanos aprendemos y es que lo hacemos no solo por una lógica textual, en buena parte por una lógica sensórica. Y hay algunos que piensan que solo saltaremos las siguientes fronteras inteligencias artificiales si las entrenamos no con datos textuales, sino con datos sensóricos fruto de la visión humana del contexto. Como Yann LeCun, porque y a lo mejor nos estamos avanzando y hablaremos de esto más adelante, pero hay quien piensa que el tipo de algoritmos más datos textuales más grandes ordenadores no conducirán a inteligencia artificial general. Es muy posible, es muy posible que lo que estemos haciendo tenga una limitación inherente a nivel de capacidades y que para hacer el siguiente salto en inteligencias, LeCun lo dice muy bien y tiendo a simpatizar con esta idea. ¿Tú serías lecuniano? En esto bastante. En esto bastante. Me parece muy interesante intelectualmente esta idea de que no conseguiremos una IA general. Es decir, al final con el sentido común de un humano, si no le damos un modelo del mundo, que es nuestra capacidad de intuición y sentido común, que hemos obtenido a partir de interactuar sensóricamente con el mundo que nos rodea.

Déjame hacerte una pregunta sobre esto. Cuando Yann LeCun y tú ahora decís que por el nervio óptico de un niño de cinco o de siete años ha pasado mucha información, ¿no estás poniendo en cuestión fundamentalmente que para aprender lo que necesitas es un montón de datos? No, al revés. De hecho, estás que para aprender necesitamos otro tipo de datos. También otro tipo de datos, pero en realidad simplemente un montón de datos, solo que no son textuales. Sí, los datos textuales, ¿no? Porque supongo que hay quien puede pensar que para para que la inteligencia no va de haber sido expuesto a un montón de información, a un montón de datos. Yo, excepto si nos vamos a cuestiones casi más filosóficas de si hay verdades no demostrables y realidades no computables, pero ahí entraremos en Google, Penrose y compañía. Ah, la inteligencia entendida como la capacidad de ejecutar tareas para las cuales habitualmente hace falta inteligencia es una cuestión de aprendizaje a partir de datos, entendiendo que los datos son los que te enseñan casos previos. Los humanos fundamentalmente aprendemos en esta lógica de deducción, inducción. Yo veo que las cosas caen, pues mi cerebro al final construye un modelo del mundo según el cual las cosas caen antes de estudiar las leyes de Newton y de entender qué es la gravitación, ¿no? Entonces, yo simpatizo con esta idea de que los siguientes saltos en inteligencia pueden venir quizás no por algoritmos muy distintos, quizás no por muchísima más capacidad de computación, porque tampoco tendremos mucha más. Podemos hablar de esto después, quizás por el hecho de introducir tipologías de datos muy distintos y parecidas a las que los humanos utilizamos para aprender.

¿Qué es para ti la inteligencia? Antes hemos hablado de deducción, inducción, abducción, pero entiendo que tu visión de la inteligencia es más amplia o a efectos prácticos y a efectos de lo que estamos hablando hoy. En realidad, ¿tú crees que es eso? Es un campo en que no voy más allá porque como no tengo formación de neurociencia ni nada parecido, tengo mucho miedo de acabar haciendo de tertuliano. Bueno, y sí y me me el destino de cualquier español es ser tertuliano. Bueno, me incomoda hablar de este tipo de cosas donde no tengo una base teórica un poco fuerte y entonces ahora mismo me siento cómodo pensando que la inteligencia es la capacidad de hacer tareas que implican las cosas que hemos hablado hasta ahora. Bien, si hay otras cosas más profundas, que seguro que las hay, me cuesta ser capaz de expresarme. Por ejemplo, hace poco Anthropic ha publicado un paper que yo creo que va a tener más importancia del que el momento se le ha dado, donde cuentan, lo contaré mal, eh, pero para tener una intuición donde cuentan están empezando a mirar qué pasa dentro de la caja, ¿no? Tú le haces una pregunta para simplificar, el algoritmo te responde, ¿vale? Y hay una conversación, pero igual que cuando tú lees un libro, por ejemplo, tu cuerpo no se olvida de hacer cosas mientras tanto, respirar, estar atento, escuchar lo que sea. La idea es que una inteligencia artificial mientras te responde también está haciendo otras cosas y está como pensando en "background". Hay teorías de neurociencia que a esto no me acuerdo de cómo le llaman, pero dicen, "Oye, una cosa es la parte de inteligencia que se está mostrando y otra cosa es como lo que hay detrás que sigue haciendo tareas, ¿no?" Bueno, la gente de Anthropic acaba de publicar un paper donde cuentan que empiezan a ver que mientras te está respondiendo preguntas hay partes de ese modelo, de su inteligencia que se están activando y están haciendo cosas. Entonces, yo aquí confieso que en buena parte me pierdo porque la comprensión profunda de la neurociencia yo no la tengo. Y de hecho, ah, un paréntesis pequeño, hay mucha gente en medicina que opina que claramente la siguiente frontera es la neuro, es decir, que buena parte de las otras patologías y disciplinas estamos mejorando mucho, estamos avanzando una barbaridad y poco a poco, con ayuda de la IA y muchas tecnologías llegaremos si no a curar, a cronificar muchas cosas. Pero cuando entras en el mundo de la neurociencia, ahí todavía queda mucho terreno por recorrer y lo que sabemos todavía es modesto comparado con lo que nos gustaría saber algún día. Y por eso a mí en este tema me gusta ser muy muy modesto y muy prudente.

Déjame preguntarte algo. Vamos abriendo un montón de puertas, ¿vale? Eh, pero creo que ahora conviene hablar de una cosa. Claro, estás hablando de este modelo, este LLM que piensa, uno le pregunta, entonces el el responde, pero está pensando, ¿qué qué qué significa? ¿Qué materialidad tiene todo esto? Eh, ¿dónde está el LLM? ¿Qué es concretamente el LLM? ¿Qué Mira, al final cuál es la dimensión material que sabes la capa material de todo esto que estamos hablando de forma tan abstracta hasta ahora? Al final, un LLM es un conjunto de números, que son lo que llamamos los pesos del modelo, que es lo que regula, simplificándolo mucho, la interacción entre una neurona y la siguiente en este modelo. Esto reside en un centro de datos, en un gran ordenador, de tal manera que cada vez que recibe, simplificamos el tema pregunta respuesta una "query", una pregunta, esto se convierte en el "input" que se codifica con una serie de parámetros matemáticos y esto dispara una serie de operaciones matemáticas de acuerdo con estos parámetros del modelo que llega a unos números que se codifican en un texto que te dan como respuesta. Cuanto la materialidad de esto al final son los parámetros matemáticos, miles de millones que están dentro de un "data center" preparado para hacer lo que se llama la inferencia, que es codificar la pregunta, trabajarla matemáticamente y codificar la respuesta. No es más ni es menos que esto.

No estoy seguro de entenderlo. Vale, ¿puedes volver a contarlo? Imagínate un ejemplo muy simple que yo hago a veces en clase, ¿no? Imagínate que queremos construir un algoritmo, una IA, que cuando yo le doy una imagen de un cuadrado, un triángulo, una circunferencia o algo que se parezca, esto es el "input" y que su "output" sea si es un cuadrado, una circunferencia o un triángulo, ¿vale? Es un ejemplo que yo hago en clase en la pizarra. Entonces, este "input", que es una imagen, lo primero que hacemos es codificarla. Una imagen al final es una matriz de píxeles. Si lo ponemos en blanco y negro para no liarnos, cada píxel puede ser un cero o un uno. Y esto lo puedo abrir como un vector y es un vector muy largo.

Con todos los ceros y unos que determinan esa imagen. ¿Vale?

Sobre todos estos ceros y unos, esto entra en un programa de ordenador que hace un montón de operaciones matemáticas de acuerdo con estos pesos estadísticos fruto del entrenamiento de la IA. Con todas estas operaciones matemáticas, al final, si te lo simplifico, obtengo como output tres números entre un cero y uno, que son la probabilidad de que sea una circunferencia, un cuadrado o un triángulo. Eso es una inteligencia artificial.

Si consigo que funcione es porque estos parámetros matemáticos que hay en las operaciones los he optimizado de tal manera que cualquier imagen que le pongo y que la codifico y la entro, si es un triángulo me da 1, si es un cuadrado me da 0 1 0 y si es una circunferencia me da 001. Con esto podría decir que mi algoritmo, estos pesos matemáticos, han aprendido cuándo es un cuadrado, cuándo es una circunferencia, cuándo es un triángulo. Esa es la versión simple de lo que al final es un algoritmo de inteligencia artificial.

En [carraspeo] un en este ejemplo que estás utilizando hay un número de outputs eh finito que es tres, por ejemplo, que es dime cuál es la probabilidad de que sea un cuadrado, un triángulo, una circunferencia. Correcto. ¿Puedo complicar esto? Sí. y [carraspeo] hacer que el al tres numeritos, sea la siguiente palabra en mi frase que te he introducido.

E era lo que iba a preguntar, el output de un LL. Claro, es que en una figura, bueno, figura, no creo que lo que hace de verdad es predecir, es es simplemente pensar qué palabra tiene que sacar. O sea, el output de una que nosotros vemos en una pantalla cuando un LLM nos responde es cada una de las palabras de la respuesta del LLM, ¿correcto? La la que en ese momento escoge.

Tú pones hace una frase, la siguiente palabra le da la vuelta a este sistema, la más probable, la siguiente le da la vuelta, la más probable. Es un poco más complejo que esto, pero básicamente te lo puedes imaginar como un predictor de la siguiente palabra en una secuencia, lo cual es increíble porque significa que eh la primera palabra de la respuesta del LLM, que digamos que es, no sé, pues por ejemplo, "de" para decir "de acuerdo" o "la" para decir eh "la respuesta", la tenías en dependerá del contexto. Dependerá del contexto.

Y estás hablando, insisto, de un algoritmo que ha sido entrenado con prácticamente toda la información en internet abierta generada por los humanos. La razón por la que eh la primera palabra y la última eh tienen cierto sentido, aunque luego pueda alucinar y demás, es de nuevo la cantidad de datos, o sea, la el la fuerza bruta eh a la que ha sido eh expuesto, sido entrenado.

Estos parámetros que te definían esos sorprendente. Realmente es poco intuitivo. Es poco intuitivo. Quiero decir, es poco intuitivo que un niño aprenda de la misma forma. Es que no lo hace así. Bueno, pero tú lo que dices es que lo hace así, solo que con información no solo textual o vaya, no fundamentalmente no textual, sino sensorial, ¿no? Bueno, yo no sé, es decir, que hagamos que hayamos construido algoritmos inspirados en cómo funcionan unas neuronas, no quiere necesariamente decir, y ahí es donde yo no conozco suficiente, que el cerebro humano como tal funcione exactamente como un LLM a lo bestia. Hm.

Vale, pero parece razonable pensar, ¿por qué no? que buena parte de los procesos de razonamiento que tenemos se parecen mucho a estos que estamos definiendo. Si intento resumir lo que estábamos diciendo para para avanzar, eh, dice Pep, hay un conjunto de números en unos centros de datos y esos números que son eh los pesos eh unos pesos, exactamente, eh se se emplean eh para dar respuesta a cada una de las queries de cada usuario y se utilizan un montón de veces por respuesta porque en realidad se limitan a predecir palabra por palabra lo que la tiene que ir diciendo.

Una pregunta, como no tengo ni idea informática, te la tengo que hacer. ¿Qué significa que esos números, esos pesos, están en centros de datos? Están en un centro de datos, en un lugar determinado. Sí, sí, sí. No, no están 80 veces en 80 centros de datos, en 80 regiones del mundo para servir. Claro, claro. Es decir, cuando tú tiras una query en función de la parte del mundo en que estés, esto irá a un cloud. Sí. Un cloud, ¿no? Como dice esta camiseta típica de frikis, el cloud no es más que el ordenador de otro, [resoplido] ¿no? El cloud es una máquina que está en algún sitio y tú irás a esa máquina en función de dónde estés, del mundo, de tu proveedor, de lo que sea y en esa máquina está alojado la IA correspondiente, el LLM al que tú estás pidiendo una respuesta, que es lo que se llama la inferencia.

¿Qué aspecto tiene el documento de Llabel, Fable en España? No, no, no es tanto un documento, pero si tú lo pudieras ver que en Fabel no es posible, pero en modelos abiertos sí. Modelo, ¿qué aspecto [carraspeo] tiene un modelo abierto? Es un conjunto de carpetas, es un software, varias, verías, sí, verías varios documentos, uno que te explica la arquitectura, es decir, esta red neuronal, cuántas capas tiene, la complejidad de cada capa, la dimensionalidad, etcétera, y luego lo que se llama el documento de pesos, que son los numeritos que puestos ahí dentro determinan las operaciones, el valor de las operaciones matemáticas para llegar a sacar la respuesta. Y hay muchas cosas más, la función de coste con el cual la operación matemática funciona en cada caso y mil otras historias. Por tanto, se parecen muchísimo a cualquier software. Son documentos y carpetas. Sí, sí, sí, sí, sí. Al final son es información, ¿no? No hay más que estamos manipulando información a una escala que nunca antes nos habíamos imaginado.

Bueno, yo espero que a la gente le resulte todo esto interesante porque puede ser un poco frustrante preguntar una persona tan inteligente y culta en este ámbito, al menos como tú, eh, por estos temas, porque dices muchas cosas. Seguramente el que sepa mucho considerará que estás diciendo banalidades y quiera preguntarte y repreguntarte ocho veces. Y en cambio hay otros que hace mucho rato que han dejado de escuchar lo que cuesta mucho encontrar ese término medio para que el que no sabe siga y el que sabe no se aburra. Solución para el sistema de pesos que no te importe, ¿no? O sea, simplemente intentar fluir eh como se dice ahora y y esperar que no que en que la audiencia sea benevolente. Exactamente.

Entonces, hemos hablado de todo esto. ¿Para qué sirve la IA en su estado técnico actual? ¿Cómo crees que modificará la vida humana y el sistema productivo, la economía en concreto y la vida humana?

Mira, en en general, yo creo ahora mismo está produciendo cambios importantes en tres vectores. A mí me gusta decir y yo creo que a veces los mezclamos y eso lleva un poco un cierto desconcierto. Vector número uno, automatización de procesos. Luego entramos. Vector número dos, cambio de productividad individual. Vector número tres, disrupción. Y creo que son tres cosas distintas que si las mezclamos nos vamos a marear un poco. [grito ahogado]

El primero es una cosa, yo diría, bastante clásica. Eh, luego hablaremos del otro que es un poco más complicado. Automatización de procesos es lo que toda la vida hemos intentado hacer cada vez que tenemos una tecnología nueva, sea una tecnología industrial, sea la informática, sea lo que sea. Yo estaba haciendo una cosa a mano, repitiendo tareas sistemáticamente, que era un rollo que no aportaba valor, etcétera. Ahora tengo una tecnología nueva que me permite automatizarlo, escalarlo, hacerlo barato, rápido. Perfecto. Esto es lo que dice el manual y eso está empezando a pasar. Yo diría quizá menos de lo que parece porque hay mucha gente hablando y luego implementando menos porque esto es muy complicado.

Y esto está provocando, y bajo un poco en este y luego si quieres recuperamos los otros vectores. Esto está provocando una discusión para mí ni mucho menos cerrada sobre cuál va a ser el impacto laboral de esto. La lógica primera dice, "Oye, la automatización masiva de tareas que va a provocar esa tecnología implicará tal disrupción del mercado laboral que habrá un montón de gente que se va a quedar sin faena y ahí vamos entonces a las historias de la renta universal, de no sé cuántas cosas más." Yo ahí soy un poco escéptico, aunque tengo colegas que respeto intelectualmente muchísimo, que están convencidos de ello. Y de momento me quedo en qué está pasando ahora mismo. Y ahora mismo lo que está pasando es que, excepto en cosas muy concretas, la captura del valor que se genera es más por incremento de productividad que por decremento de personas.

Intento explicarlo bajando mucho al mundo real. Ah, desde un punto de vista empresarial, ¿no? Yo les digo, cuando haces trabajo con alguna empresa, les digo, la IA es un gran generador de tiempo, es un gran liberador de tiempo, si quieres decirlo así, ¿no? Entonces, tú tendrás que tomar como empresario o como empresaria una decisión importante. Vamos a hacer un ejemplo. Tienes N personas que hacen unas cosas, automatizas con IA y resulta que liberas el 40% del tiempo. Imaginemos, ¿vale? Perfecto. ¿Qué puedes hacer para capturar el valor generado? Algo tienes que hacer porque si no de momento te has gastado dinero con la IA y no ha pasado nada más. Puedes hacer básicamente dos cosas, una combinación. Una, si me liberan el 40% del tiempo, echo al 40% de la gente. Es fácil y es como muy simple. Capturo el valor porque tengo menos gasto en mi cuenta de resultados y aquí me quedo. No voy a capturar más valor porque ya lo tengo todo. La otra visión que es un poco más sofisticada y compleja es no. Yo lo que voy a intentar hacer es esta liberación de tiempo convertirla en más negocio, en más clientes, en más producto. Es decir, si te miras la cuenta de resultados de una empresa, en lugar de reducir por abajo, voy a incrementar por arriba. Esto es más complicado que el anterior, pero diría que el Upside, la potencialidad es mucho más elevada. [grito ahogado]

Y empezamos a ver empresas primero donde han habido despidos que se han echado para atrás porque, o sorpresa, los costes de la IA quizá no son los que parecían. Y empezamos a ver compañías y recientemente han salido dos o tres estudios bastante serios donde hay una correlación bastante positiva entre las compañías que son muy intensas en inteligencia artificial y aquellas que incrementan personal. Y esto es un poco contraintuitivo, pero me lleva a lo que se conoce como la paradoja de los radiólogos, que esto es algo que introdujo, bueno, es el efecto Heavons, ¿vale? Elevons, ¿no? Es decir, el el automatizar las tareas te permite ser tan productivo que de repente levantas mucha más demanda. Y es conocido el caso de los radiólogos, ¿no? Y es obvio que hay algoritmos que lo hacen muy bien a la hora de interpretar placas de radiología, pero tú sigues teniendo radiólogos y lo que has conseguido con la tecnología es multiplicar por muchísimo la cantidad de pruebas diagnósticas que haces, que tiene muchísimo valor porque diagnosticas antes, mejoras tratamientos, etcétera.

Entonces, empezamos a ver muchas compañías donde han sido capaces de superar la tentación de capturar el valor sacando a gente y empiezan a capturar el valor siendo mucho más productivas por arriba, ¿no? Esto es una de las cosas que está pasando.

La segunda, y voy de cosas más fáciles a más difíciles, es el cambio de paradigma en la productividad individual. Es lo que yo a veces llamo la agentización del puesto de trabajo, ¿no? Que en parte estabas comentando ya. En parte sí, pero aquí hay una derivada superior que es la automatización estricta. La pienso con inteligencias artificiales de las que hacíamos hasta ahora. La agentización del puesto de trabajo para mí aparece cuando llegan los agentes que en el fondo son IAs que no responden solo a tus preguntas, sino que tienen voluntad propia para hacer cosas. Tú les puedes delegar cosas y hacen muchas veces en voluntad propia con unas constricciones, unas limitaciones que tú les marcas.

Esto, mi hipótesis es que va a cambiar profundamente nuestro modo de trabajo y que todos y cada uno de nosotros en cualquier puesto de trabajo tiene que pensar en dejar de ser un ejecutor de tareas muchas veces secuenciales. Ahora una, luego otra, luego otra, luego otra. Para pasar a ser orquestadores de agentes. Esto no no es muy raro. Cualquiera que tenga equipo en su empresa sabe que tiene un equipo, tiene colaboradores y que parte de su trabajo es coordinarlos y delegarles tareas y que mientras tú haces una cosa, tu equipo está haciendo otras cosas. Bueno, ahora el cambio de paradigma es que aparte de tener equipo humano, empezarás a tener equipo agéntico y todos tendremos IAs que trabajan 24x7 que tendrán una cierta voluntad propia y que harán cosas, ¿no?

Yo pongo últimamente el ejemplo de la compañía de trabajo en Invivo Partners, que es una gestora de capital riesgo. Llevamos fondos de inversión, hacemos inversiones en temas de tecnología profunda y tenemos una IA que hemos programado, una cosa bastante compleja que cariñosamente la llamamos "Moder", ¿no? Cada uno tiene sus frikadas, nosotros tenemos esta. Y es muy interesante discutir en qué momento todos, yo el primero fuimos conscientes de que esto no era un chat a quien le preguntabas, "Hoy te mando un documento, hazme un resumen." Sino que esto era un agente, algo que tenía voluntad. ¿Y sabes cuál fue el momento? Cuando le dimos email. Cuando le dimos un email, ah, claro, eso es distinto, porque ahora resulta que yo le puedo enviar un email y me contesta y como tiene una cierta voluntad, a veces me envía emails, "Oye, he visto esto, creo que te puede interesar." Y el siguiente paso, porque a frikis no nos gana nadie, ha sido ponerle voz, que [resoplido] no es muy difícil. Y claro, si le pones voz y le das un número de Telegram, pues ya puedes chatear y llamarte. Entonces, de repente te das cuenta que ya no es un chat al que le preguntas y te responde, que puede llegar a ser un colaborador más.

Este cambio de mindset de "yo tengo un trabajo que consiste en unas tareas que yo voy a hacer" a "yo tengo un trabajo que consiste quizá en unas tareas que yo voy a supervisar como mis colaboradores agénticos las hacen". Para mí este es el nuevo reto que hay a nivel laboral. Es mucho más fácil decirlo que hacerlo, obviamente, porque esto estoy diciendo yo, es muy complicado implementar y en una compañía de 15 personas es fácil, en una de 3.000 ni me imagino cómo lo van a hacer, pero para mí el segundo eje fundamental es es cómo está cambiando cómo va a cambiar el puesto de trabajo con la agentización masiva.

Y el tercer vector, ¿no?, automatización, agentización. Para mí el tercer vector es la disrupción, que no es voy a hacer cosas más rápidas que antes, más eficientes que antes, es voy a hacer cosas que antes no podía hacer. Y ese es el cambio fundamental para la disrupción y eso es todavía más complicado. De hecho, yo diría que el único campo donde hoy se está viendo realmente este impacto es en el campo de la ciencia. La manera como está cambiando la actividad científica por la entrada masiva de la inteligencia artificial y como esto está permitiendo llegar a hacer cosas que nunca nos habíamos imaginado que serían posibles. Ah, esto marca un antes y un después en la actividad científica en todos los campos de conocimiento. Y esto, mi hipótesis es que empezará a llegar cada vez más al mundo real, a la empresa, etcétera, pero que es como de más simple, más complicado, ¿no? Automatizar procesos, lo llevamos haciendo décadas con otras tecnologías, agentizar el puesto de trabajo será algo que va a costar. Llegar a comprender esto para disruptar cómo haces las cosas va a ser algo todavía mucho más complicado.

Yo creo que esto, perdón que me he alargado un poco, es más o menos lo que hoy está empezando a pasar. Bueno, claramente lo tenías preparado. ¿Ya lo has contado esto? Bueno, lo he Sí, lo cuento. No sé si tan estructurado, pero lo he contado alguna vez. Sí, está muy bien, está muy bien explicado.

Te iba a preguntar eh por e vuestra experiencia en Inv Partners. Eh, dices que le habéis dado email, número de Telegram y voz a la a la IA. Concretamente, ¿qué qué LLM utilizáis o en fin, qué tipo de qué montaje tenéis? El montaje lo tenemos publicado en un paper en LinkedIn que porque además el conocimiento cada vez más es abierto y mi Luis Paras es nuestro managing partner. Si alguien lo busca en LinkedIn encontrará un artículo reciente en que ha publicado toda la arquitectura. Es café para los muy cafeteros, eh, o sea, una cosa con formulación matemática, algo duro. Y lo contamos todo, excepto un detalle. Básicamente es un sistema que opera en lo que se llama un sistema de consenso. Entonces tú tienes ah una IA que opina, que hace, con otra que le critica y una tercera que busca el consenso. Esto es un sistema muy habitual en este tipo de de cuestiones. Lo que no hacemos el disclosure es exactamente qué IAs están detrás de cada uno de estos sistemas. ¿Por qué no? Bueno, porque por acuerdos que tenemos acceso a algunos modelos que todavía no son públicos y aquí se opos [resoplido] con modelos cerrados y de hecho esta es una tendencia que empezaremos a ver en muchas compañías y bridar. Hay cosas por cuestiones de coste. Por cuestiones de coste y porque la distancia entre lo que te puede hacer un open source y lo que te puede hacer un comercial sigue manteniendo constante en 6 12 meses de delay. Es decir, si tú necesitas algo, hacer algo que OpenAI o Anthropic te lo permitir hacer con un cloud o un chat GPT, un Gemini o lo que sea de hace 12 meses, tú ya tienes hoy un modelo de pago que te lo puede hacer. Entonces, aquí hay un ahorro de costes y una cuestión de privacidad de datos porque lo instalas en local, que para negocios como el nuestro es muy importante.

No sé si hay que explicar todo esto o se entiende. Yo creo que se entiende bastante bien, ¿no? Yo creo que yo no lo sé, no tengo ni idea. Eh, sí, creo que sí. Por tanto, habéis creado un sistema de consenso en local que tiene acceso [carraspeo] a IAs eh open source y a IAs eh privadas. Y que hemos entrenado, que habéis entrenado con vuestros datos, con nuestra experiencia de inversión, con nuestras tesis de inversión, ¿sí? Y que está 24x7 leyendo y aprendiendo continuamente de información que para nosotros es interesante, por ejemplo, artículos científicos por un tubo, etcétera, etcétera. Tiene, por tanto, una eh función que tiene que ver con el desarrollo intelectual, por así decir, la actualización intelectual permanente continua de vuestra organización.

Entiendo [carraspeo] que también estará metida en los procesos de selección, evaluación y selección de Claro, ahora estamos aprendiendo, somos una empresa como cualquier otra, estamos aprendiendo en todos los procesos en cuáles tenés sentido que se involucre y por qué. El caso de análisis de inversión es un caso me gusta mucho comentar, ¿no? Este agente es capaz de hacer análisis de propuestas de inversión con una calidad y un tiempo de respuesta. que es imposible que un humano lo haga literalmente. Eso quiere decir que esta es una capa en que no necesitamos humanos. No, eso quiere decir que gracias a esta tecnología, vuelvo al ejemplo de radiólogos, podemos atender muchas más propuestas, las podemos analizar mucho mejor y podemos dar un servicio, entre comillas, y un feedback de mucho más valor. Por tanto, yo como gestora de capital riesgo gano dos cosas. Una, analizo muchas más oportunidades que antes y por tanto incremento mi probabilidad de encontrar la buena. Y dos, intento como mínimo que el feedback que doy al emprendedor sea de mucha más calidad.

Y no habéis creado un fondo gestionado directamente por este sistema de consenso solo por por espíritu científico básico, por tener una experiencia, es que no sé cómo decir, experiencia testimonial. Ah, no. Y es que déjame volver a lo que decíamos al principio, es que la combinación óptima es algoritmo más humano. Sí, dice Nature hace unos meses. Espérate, espérate a que, espérate a que otros digan otras cosas porque esto esto es eh con las sillas que tenemos ahora, insisto en lo de antes de la abducción, hay ciertas cosas que tienen que ver con la temperatura en una sala, con el carácter de la persona. Hay cuando tú te dedicas a la inversión, llevo muchos años como business angel de muchos negocios, hay un algo que nadie sabe definir y que le ves al emprendedor cuando entra por la puerta que es importante. Hay una respuesta prácticamente corporal a ciertas preguntas que es muy importante. Hay un feeling personal que es muy importante, hay una intuición sobre esa evolución tecnológica que te permitirá llegar a un sitio. Todo esto son cosas que yo no sé muy bien por qué los humanos ahí funcionamos muy bien y la IA todavía no.

Cuando intentáis que vuestro sistema de consenso aprenda o se actualice 24/7, ¿hacéis también que os ayude a actualizaros a vosotros o descorrelacionáis su proceso de aprendizaje del vuestro? No sé si me estoy explicando, pero seguro que sí. Es es un es un círculo virtuoso continuo. ¿Cómo os informa a vosotros o ella a vosotros? Bueno, por ejemplo, yo que sé, cada lunes por la mañana nos envía un email con un resumen priorizado y muy bien analizado sobre los deals que han habido en los espacios de inversión en que nosotros trabajamos. [grito ahogado] O por ejemplo, esto nos pasó hace unos meses, te puede llamar un domingo por la tarde diciéndote, "Oye, se acaba de publicar un press release en que esta compañía acaba de comprar a esta otra y creo que te interesa porque esta otra opera en un espacio de inversión donde nosotros tenemos alguna compañía invertida y eso te permite inmediatamente aprender, no solo aprender, sino reaccionar muy rápido."

Hay una pregunta eh que no sé si vosotros os hacéis de la misma forma que se la hacen otras organizaciones, que es la siguiente. ¿Para qué me voy a matar, a ganar 6 o 12 meses haciendo esto? si dentro de 6 o 12 meses esto lo habrá hecho otro y lo habrá convertido en un servicio mucho mejor eh para un servicio para mi empresa mucho mejor que el prototipo que el experimento que yo me voy a montar internamente. Esto es muy posible, pero yo creo que probarlo, hacerlo y jugar tiene dos virtudes. Una, desarrollar pilotos MVPs, llámale como quieras, te lleva a un proceso de maduración y pensamiento sobre el negocio que no tiene precio. El solo hecho de tener que hacerlo te plantea preguntas sobre el negocio que quizá antes no te habías planteado nunca. Y el otro elemento es en ciertos negocios 6 12 meses es una ventaja brutal respecto a la competencia. Yo ya sé que pronto Anthropic alguien sacará quizás un modelo que sea capaz de hacer evaluación de compañías de Deeptech para que todas las gestoras del mundo lo utilicen. Quizás sí. Oye, quizás no. O quizás un nicho donde no hay suficiente negocio para hacer, pero aunque lo haga, yo llevo 6 o 12 o 18 meses de ventaja. Todo lo que he hecho este tiempo no me lo quita nadie y todo lo que he aprendido pues una buena oportunidad para montar encima de esto la siguiente generación. Es muy duro ir siempre 6, 12 meses por delante cuando te persiguen porque tienes que meterle mucho esfuerzo. Pero nuestra tesis es que el esfuerzo tiene todo el sentido del mundo. Ah, a veces hay compañías pequeñas que me dicen esto, "Oye, mira, yo esto de la IA pasó bastante, dejo que me vayan trayendo productos y ya lo implementaré." [resoplido] Bueno, esto es una visión que confunde un poco la IA con la última actualización de Microsoft o del Windows o del software más básico. No es solo esto, es algo más. Intentar desarrollar con IA cosas del negocio no es un upgrade de software, es preguntarse sobre el negocio y esto tiene mucho valor a nivel empresarial.

Pero también es cierto que hay muchas empresas de software eh o vaya eh muy como la tuya, quizás muy relacionadas con el mundo de la tecnología y de la ciencia y de la investigación que pueden agotarse creando experimentos eh permanentes en torno a la IA y de hecho es eh muy difícil sostener un ritmo, es muy difícil seguirle el ritmo a al al presente, ¿no? Perseguir el presente o el futuro es cansadísimo, ¿no? Yo aquí te diría que la ventaja de esta tecnología es que el primero, el coste de fallar es prácticamente nulo porque la tecnología es baratísima, fallas no pasa nada y la posibilidad de hacer algo útil en el corto tiempo es muy alta. Por tanto, aunque luego decidas que no sigues por esa línea, es que vale mucho la pena porque gastas muy poco tiempo. Lo que no puedes hacer es convertirte en un eterno innovador de pilotos. y nunca bajar a producción, pero dedicar siempre una parte del tiempo a estar estos 3 meses por delante por si eso que hago aporta un cierto valor, yo creo que vale mucho la pena.

¿Crees que la pone en peligro el SaaS? Creo que mi opinión es que menos de lo que parece por las mismas razones en realidad que estás comentando ahora. No es que una cosa es hacer un piloto y otra escalarlo a producción. Una cosa es hacer algo que aparentemente sustituye eso que me venden como un SaaS y otra cosa es implementarlo, integrarlo, orquestrarlo, hacer el mantenimiento, estar seguro que cumple todos los principios de ciberseguridad y además hacer updates a tal ritmo que sea igual que el que el que me provee el SaaS puede hacer. Entonces, para mí hoy en día la capacidad que tenemos de hacer cosas es brutal. Esto es muy bueno para MVPs, para pilotos, para hacer todas esas historias tremendas que siempre habías querido hacer y nunca habías tenido el tiempo ni el proveedor para hacerlas. Pero de aquí a meter en producción algo que hoy en día te está dando un SaaS, [suspiro] yo creo que todavía estamos un poco lejos de ahí y no sé si vamos a llegar por todo lo que no tiene que ver con la tecnología de desarrollo estricto.

Estoy de acuerdo. [risas] Estoy de acuerdo. Y y por eso también es interesante experimentar. Claro, claro. Pero una cosa es experimentar. Te pongo el ejemplo, es muy conocido el ejemplo del CTO de Mercadona, ¿sí? Que hace no mucho publicó en su blog a un buscador en su tienda online que habían hecho con un fin de semana dos personas, ¿no? Que era una cosa espectacular. Decía, "Funciona mejor, funciona muy bien, está implementado. Perfecto." ¿Cuál es el debate que ha continuado ahí? Precisamente este, hacer algo de nicho que te funciona mejor implica necesariamente llevarlo a producción y discontinuar el el contrato con el que había antes. Bueno, quizás no. Quizás necesitas un plan B, quizás necesitas alguien que te asegure unos términos y condiciones determinados. No sé si tendrás la capacidad tener un equipo de mantenimiento que te lo actualice. Entonces, una cosa hacer pilotos, probar, jugar y hacer cosas increíbles que te permiten ver hacia dónde ir. Y otra cosa es hablar del software de producción empresarial.

Y además la mayoría cuando empresas como la tuya, pero vaya, yo creo que muchas empresas están haciendo lo mismo, intentan introducir IA en sus actividades clave, en su en su core business, están haciendo precisamente eso, ir a las capas del negocio que tienen mayor valor añadido e intentar entender cómo la IA contribuye a todo eso. Lo que no vas a hacer como organización es divertirte a transformar un montón de capas o de herramientas que no tienen tanto que no están en tu core business. divertirte a transformar todo eso que está bien hecho, pues eso, ¿no?, con esas características, seguridad informática, [resoplido] eh estabilidad, etcétera, etcétera, que estabas comentando por un conjunto de de de codex o de lobables o de no sé qué que te has montado. A nosotros tenemos la suerte de trabajar en un terreno donde digamos que el contexto, la regulación es relativo, pero ahora intenta pensar en esto en un banco, en una aseguradora, en una compañía que que tiene supermercados y que cada día en el lineal tiene que haber exactamente lo que tiene que haber experimentos con gaseosa en estos campos, con lo cual una cosa son los pilotos y demás y la otra es el escalado a producción industrial en campos donde además hay mucha regulación, que esto es algo para mí muy distinto.

Hablemos un poco de geopolítica y antes del tema del estado actual, del desarrollo industrial de la IA o del desarrollo de la IA como industria. ¿Cuáles son los cuellos de botella actuales? ¿Los recursos materiales o naturales, la energía, el talento, la financiación, otros? Yo diría sobre todo la energía, que es muy obvio. Estos grandes centros de datos son infraestructuras brutales bajo las cuales hay una capa de energía sin la cual no puedes tirar. Energía implica dos variables que a menudo nos olvidamos de una de ellas. Energía implica producción, pero también distribución. Hay mucho megawatio que se lo tienes que mover mucho de un sitio a otro, no es trivial y hay países que ahí no están muy bien preparados. Por tanto, energía es un cuello de botella absolutamente fundamental.

Hay otro cuello de botella desconocido que empieza a sonar mucho en el mundo industrial, que es toda la parte de electrónica de potencia que uno necesita dentro de un centro de datos, la mayoría de la cual, por cierto, se está produciendo en China o sorpresa, empiezan a estreñirse algunas cadenas de distribución de este tipo de tecnología. Por tanto, ahí hay otra hay otro cuello de botella. Otro cuello de botella puramente tecnológico. ¿Cuántos chips podemos producir hoy en día en el mundo versus la demanda que hay? No es trivial que esto esté casando y además obviamente cada vez es más difícil miniaturizar más los transistores, ir a hacer chips más potentes, más eficientes, etcétera.

Y hay otro cuello de botella para mí es muy importante y que nos olvidamos de él, que es el propio modelo de negocio de las compañías que te dan este servicio. Ah, hoy es muy obvio que el precio que tú pagas para acceder a esa tecnología va por debajo del coste que tiene desarrollar esa tecnología o servírtela. Y esto se ve porque todas estas compañías, OpenAI, Anthropic, etcétera, básicamente pierden dinero a expuertas, pierden billions ahora mismo. Y lo que esperan es que la adopción masiva más un cierto incremento de precios les lleve a grandes beneficios en el futuro, ¿no? De y y creo que hay algún cuello de botella, pero yo principalmente diría que industrialmente hay hay estos de todos. Ah, a mí me preocupa mucho el último porque esto va a funcionar si se cruza bien la curva, es decir, si consiguen bajar el coste de producir la energía, la demanda tuya utilizando IAs no crece mucho, pueden incrementar mucho el número de usuarios y clientes y además pueden empujar un poquito para arriba el precio y que la combinación de todo esto les dé para modelo de negocio. Pero ahora mismo con el coste de producción, el número de usuarios y lo que todos pagamos, los números es obvio que no salen y por eso el déficit tan grande que tiene año tras año y por eso necesitan estas rondas de financiación y algún día eventualmente salir a bolsa. Para mí estos son los tres o cuatro puntos más importantes.

Ahora se está hablando justamente de la salida a bolsa de estas empresas y hay dos hipótesis al respecto, ¿no? Una eh que eh el capitalismo eh se ha civilizado, el capitalismo estadounidense se ha civilizado y ahora por fin quiere compartir eh sus ganancias con con el pueblo. y otra más escéptica o cínica directamente que considera que en realidad esto va a ser la mayor pasada de patata caliente de la historia del de vosotros a a todos nosotros, ¿no? Digamos de de los inversores profesionales al al retail investor. ¿Dónde estás? No lo sé. Y quiero ver cómo salen estas IPOs si acaban pasando, que de momento todavía es ya más adelante, más adelante, más adelante. Me preocupa menos, entre muchas comillas, el reparto de beneficios. Me preocupa más la gobernanza de estas compañías. Estén en mercado o no estén en mercado, parcialo. Totalmente.

Déjame hacer un paso atrás. Quizás la primera vez en la historia, quizás no, eh, pero déjamelo decirlo así. en que la investigación de frontera en una disciplina, en este caso la inteligencia artificial, en que el empuje de la frontera del conocimiento humano, se está dando no en la academia, sino en el mundo privado. [grito ahogado] Esto es un cambio de paradigma brutal. Hasta ahora, en cualquier campo científico, en cualquier disciplina, lo más avanzado se producía en una institución académica, un centro de investigación, una universidad, un hospital. Y eso tenía muchísimas virtudes. Primera, que el conocimiento era siempre abierto y publicable. Segunda, que el paso de la academia al mercado era lento y, por tanto, había tiempo para pensar en las cosas. Y tercero, que la capacidad de influencia gubernamental era relativamente alta. Ahora, en esta tecnología, en esta disciplina, la frontera del conocimiento la están empujando las compañías privadas por primera vez y eso provoca una cuestión de discusión sobre beneficios puramente económicos de esta tecnología, pero para mí todavía más importante provoca una discusión de gobernanza y para mí es muy interesante lo que ha pasado últimamente en Estados Unidos, donde los extremos se tocan un poco, ¿no? Y confieso aquí que no acabo de tener una posición muy cerrada sobre lo que dicen. Bernie Sanders, ¿no? El senador demócrata de Vermont, que yo creo que es lo más de izquierdas que se puede ser en Estados Unidos, dice, "Vamos a el 51% de la propiedad de estas compañías, el estado, porque tenemos que repartir los beneficios entre los ciudadanos." Y JD Vance, el vicepresidente norteamericano, que debe ser el otro extremo político más extremo, sale y dice, "Pues no me parece mal la idea de Bernie Sanders, aunque yo no lo haría por un tema de socializar beneficios, entre comillas, sino por un tema de control gubernamental, porque la tecnología que se está desarrollando empieza a ser de impacto importante en seguridad nacional."

Cuento esto porque en el momento en que los dos extremos políticos de un sitio como Estados Unidos empiezan a decir estas cosas, inmediatamente OpenAI ha salido diciendo, "Bueno, bueno, oye, si hace falta nosotros un 5 o un 10% quizá lo podríamos ceder a manos gubernamentales para que estén implicadas en el desarrollo de la tecnología." Todo esto lleva un punto que es, estoy de acuerdo que la discusión sobre los beneficios es compleja y para mí me preocupa más la discusión sobre la gobernanza.

Antes has mencionado a Fable, el nuevo modelo de Anthropic, ¿no? Repasemos un momento qué ha pasado con Fable y con Mizos. Anthropic en abril dice, "Acabo de entrenar un nuevo modelo que es Mizos preview que está en bestia en algunos temas como ciberseguridad que no lo puedo sacar al público. Hago un consorcio que se llama Glasswing. Meto dentro una docena de compañías tecnológicas americanas que luego abro a una cuarentena de compañías de ciberseguridad americanas y nosotros vamos a probar cómo funciona este modelo. Buscar todos los "jujuros" de ciberseguridad para parchearlos todos y dejarlo todo bien hecho. [suspiro][grito ahogado] Cuando tengo esto hecho, le dice al gobierno americano, "Oye, saco una versión mini que es Fable de este Mizos, que en el fondo es lo mismo, pero si alguien le pregunta sobre ciberseguridad, el modelo dirá que no le puede contestar con estas capacidades y será el modelo menor y así será, digamos, menos problemático." Lo sacan. Los ingenieros de Amazon se ponen a intentar reventar este guardarrail. Creo que en 4 horas lo consiguen. Se comunican con el gobierno norteamericano. El gobierno norteamericano en 2 horas avisa a Anthropic. Anthropic saca el modelo del mercado. Pasan tres o cuatro semanas, lo vuelven a sacar con muchas más limitaciones. En paralelo, OpenAI saca el Tierra, Sol, Luna, no sé cómo lo llaman los nuevos modelos y dicen, "Lo hemos sacado. La nota de prensa es muy bestia." Y después de un productivo y tranquilo diálogo con la administración norteamericana, hemos decidido sacarlo solo a un pequeño grupo de primeros usuarios seleccionados.

Todo este rollo, ¿para decir qué? Para decir que ya estamos en el momento en que nosotros no vamos a poder utilizar el último modelo con las máximas capacidades posibles, porque la tecnología y ha llegado a un punto en que puede tener impacto sobre temas que van más allá del mundo empresarial. ciudadano y entran en temas de seguridad nacional y demás. Y por tanto que ahora por primera vez en esta tecnología los gobiernos, los gobiernos de los países donde están compañías dicen, "No, no, no. Antes de que tú uses un modelo, yo lo voy a mirar y decidiré cuáles capacidades de este modelo te voy a dejar utilizar y cuáles las dejo cerradas para un cierto grupo de empresas, de gobiernos, o de lo que sea." Y a mí esto me lleva a preguntarme si estamos viendo, si hemos visto la última vez en que tú o yo podremos tener acceso al último modelo sin ningún tipo de cortapisa. Y quizás ya no. Quizás el futuro que nos espera es un futuro donde las futuras más potentes serán más o menos limitadas para un uso científico, gubernamental, de seguridad, llámale como quieras. Y el uso empresarial y cotidiano será en otros modelos, quizá con menores capacidades para para ciertas cosas, con eh autentificaciones eh para el uso de ellas especialmente potentes, ¿no? Tampoco parece tampoco parece malo para el business model de estas de estas empresas y para la sostenibilidad de la industria de la IA en general, que eh el calor, el el calentamiento masivo que ha habido con el ritmo de gasto, de inversión, de crecimiento, de crecimiento de capacidad de cálculo, de todos estos modelos, que este calentamiento se enfríe un poquito, en principio parece bueno porque debería permitir, pues no sé, a la gente del mundo de las finanzas y del marketing y a las autoridades regulatorias y demás, empezar a pensar justamente, ¿no?, en la sostenibilidad de la industria.

Sí, tiene otra derivada y es que si esto se consigue hacer, que ya veremos, porque tú puedes hablar con OpenAI y con Anthropic y con Google y con Microsoft, pero no con un grupo que está encerrado no sé dónde, haciendo cosas de código abierto. Si esto se consigue, podría ser una especie de regulación bottom-up un poco improvisada de cómo vamos a conseguir un cierto control de que esa tecnología no sea utilizada para ciertos usos, porque directamente para ciertos usos la tecnología ya no mostrará sus capacidades. Y de esto va el trabajo que está intentando hacer Naciones Unidas, que veremos si lo consigue, de establecer una especie de pseudomarco no regulatorio, sino más bien de gobernanza, de quién debería decir cosas sobre qué capacidades de estas IAs. Me parece que no es una mala idea, no es tanto un tema regulatorio como de gobernanza y decidir quién va a desarrollar a partir de ahora, para qué tipo de usos y qué instancias gubernamentales pueden tener capacidad de gobernar este tipo de tecnologías.

Sobre el cuatro hablábamos de los cuellos de botella, dicho energía, electrónica de potencia, chips, producción de chips y business model de las compañías de IA. Sobre todavía sobre el business model, sobre el modelo de negocio de de estas compañías, ¿se sabe cuánto cuesta generar un token y o digamos cuánto

Dinero se está perdiendo realmente por token generado? Mira, de memoria te diré, por ejemplo, Open AI presentó, creo recordar, un plan financiero en 2024 que es público y ha corrido por ahí y que, por ejemplo, considera que antes de llegar a Break even, que creo que eran 2028, 2029, creo que preveían quemar unos 45 billions, por ejemplo, que es una cantidad muy bestia, pero que teniendo en cuenta el tamaño de mercado, si consigues llevar a Break even y beneficios puede ser un modelo de negocio razonable y por eso los inversores que invierten se lo creen, ¿no?

Otra cifra interesante y esto salió hace no mucho, ah, hubo alguien que cogió las [carraspeo] tres licencias de Chat GPT, la de 20, la de 100 y la de 200 al mes, y las tres de Antropic, que cuestan exactamente lo mismo, se puso a quemarlas a lo bruto, es decir, a pedirles tokens y tokens y cosas hasta que le dijeron, "Oye, ya vale, no, para hoy se ha acabado." Intentó calcular los costes equivalentes de producir todo esto y el resultado era simplificando mucho que el coste de producción al máximo de que una licencia te permite cre recordad que eran entre 10 y 50 veces mayor que el precio que tú pagas por esa licencia. Es una barbaridad. Y entonces te das cuenta que en parte ahí está el problema, pero en parte ellos también se basan de que casi ninguno de nosotros quemamos las licencias que tenemos. Bueno, claro, por supuesto. Es como es un gimnasio donde hay gente que está todo el día y hay gente que no va nunca. Hay gente que no va nunca. Pues es exactamente lo Y supongo que también voy al tres, ¿vale? a la producción de chips. Decías, hombre, eh está costando eh miniaturizar eh aún más los transistores porque ya estamos en cuatro o 5 nanom, 3 nanómetros, pero yo tenía entendido que justamente la ley de Mor había explotado, ha explotado de manera sintética por la combinación algoritmia más datos, más es decir, estamos creciendo mucho más rápido que lo que la ley de Mur preveía, porque al impacto de la ley de More le estamos añadiendo otras cosas. Okay, pero no por eh que la el diseño de los chips haya evolucionado. De hecho, yo diría que en los últimos años vamos un poquito así cumpliendo la ley de Mur. El señor de IBM ya va a tener dejar razón. Bueno, hemos bajado a 3 nanm. Sí. Ah, se están construyendo infraestructuras para intentar bajar a 1.8 2 nanm. Pero es que no vamos a poder ir mucho más abajo. Es que si vas más abajo no te caben los átomos de silicio. Con lo cual hay un montón de generación de investigación para conseguir arquitecturas distintas. Hay gente que trabaja, por ejemplo, en tres dimensiones. Si hacemos así, ¿porque no los hacemos también así? Hay gente que trabaja en lo que se llama el post silicon, porque no hacemos chips con combinaciones de otros materiales que tengan otras propiedades. Y obviamente hay gente que trabaja en computación cuántica o o nanotecnológica como Sonia Contera, por ejemplo. Sí. Bueno, que es al final un transistor mide 3 nanómetros como mínimo. Esto es la escala nanotecnológica, pues la gente que hace nanotecnología, ¿qué materiales y qué disrupciones puede aportar para que podamos o seguir bajando el tamaño o sin bajar el tamaño incrementar la capacidad de ese dispositivo? Y hay muchísima investigación hoy porque la capacidad en sí mismo de los chips, bueno, se ve que sigue incrementando, pero que hay unas limitaciones físicas obvias, ¿no?

Esto es una cosa. Otra cosa relacionada con esto que te las he mezclado, es la dificultad de que la oferta sirva a la demanda. Es decir, ¿cuántos cuántas GPUs, por decirlo de alguna manera simple, Nvidia a Nvidia le pedimos cada año? ¿Y cuántas GPUs Nvidia puede producir? Digo Nvidia, AMD, IBM o quien sea. Y hoy en día la demanda de chips, por simplificar, es mayor que la oferta que estos grandes gigantes pueden llegar a proveer, lo cual cosa también explica su valoración en bolsa, etcétera, etcétera. Vale, entonces déjame volver un momento al cuatro. Eh, decimos que están eh sirviendo tokens con pérdidas, pero también es cierto que los tokens creo que en los últimos dos o tr años han han bajado muchísimo de precio, ¿no? En el sentido de que a ellos les cuesta un 98, un 99% menos producirlos que hace dos o tres años, igual que tú hablabas de la supercomputadora del 2001, que ahora cabe en un bolsillo, pues a ellos les está pasando eso mismo, ¿no? Por tanto, realmente no está claro si estas empresas son un desastre o si al contrario van a poder reventarlo todo de una forma. Si estuviera claro, ningún inversor le seguiría. Claro, claro. Si han si han bajado un 98, 99% pueden volver a bajar un 9. Si bajen el coste de producción en uno en uno o dos órdenes de magnitud más, estarías ya ganando dinero ah por cada token que tú pagas con tu cuota mensual, por ejemplo. Con este precio. Con este precio. Otra cosa es que luego además suban precios. o depende del uso o tú ahora estás pagando un tanto por mes y hay empresas que empiezan a recibir emails de compañías que proveen tecnología que les dicen, "Oye, lo de tanto al mes lo vamos a cambiar, vamos a pasar a un a coste a un precio de tanto por token, a tanto por uso." Pues yo creo que sea una mezcla de todo esto en los que se basa su modelo de negocio y futuro.

Al respecto de la energía o qué es la electrónica de potencia. Electrónica de potencia, por simplificarlo, me refiero a, oye, maquinotas gordas que se ponen dentro de este tipo de infraestructuras, por ejemplo, para gestionar todo el flujo eléctrico que tiene que alimentar a todo el CPD, a todos los armarios donde tú pones todas las GPUs, todo esto que hay alrededor de lo que es estrictamente el ordenador y que hace que el CPD funcione. Todo esto es lo se llama electrónica de potencia y son aparatejos que no es computación en sí mismo, pero que sirve para que todo esto funcione. Por ejemplo, estas máquinas hay que enfriarlas, ¿no? Si no se enfrían te pondrías 70 80 gr y obviamente habría un incendio, ¿no? ¿Cómo se enfrían hoy? Sobre todo con lo que se llama el DLC, el direct cooling, es decir, con circuitos de líquido de agua, agua a veces glicol, que pasa físicamente por encima del chip y por tanto llego a la cerquita. El chip provoca calor y ese agua fresquita se lleva al calor y marcha más caliente, ¿no? Esto que en el chip es un circuito muy pequeñito de una goma negra que se ve encima del chip cuando ves una placa. Al final de todos los chips acaba una instalación de refrigeración que es una instalación industrial con tubos, aguas, temperaturas, chillers enfriando. Ahí hay un montón de electrónica de potencia, electrónica industrial que requiere montarse y que sin esto un centro de datos no funciona. Entonces, parte de esa electrónica, parte de toda esa maquinaria industrial, en parte nos viene de China, en parte nos viene de mercados, están muy tensionados porque la petición, igual que para las GPUs, pedimos más de las que pueden producir, pues para este tipo de dispositivos pasa exactamente lo mismo. He dich hecho, en Estados Unidos alguna de las grandes compañías que montan data centers empieza a decir que les preocupa más la provisión de estos mecanismos que no de las GPUs que Nvidia o AMD les puede llegar a servir, porque deben ser cadenas de valor eh poco estratégicas y por tanto eh muy concentradas en China, claro, de aparatejos que se han utilizado siempre, pero nunca tanto como ahora. No es obvio incrementar capacidades de producción, no es obvio si alguien está haciendo geopolítica con esta cadena de valor y por tanto ahí hay una nueva incógnita a medir en todo este tipo de de hecho hay una estadística que se leciona mucho de los centros de datos anunciados nuevos en Estados Unidos ordenados por la fecha en que van a estar operativos, cuáles en el 27, en el 28, en el 30 y al 100 había una columna que es cuales no se sabe cuándo van a estar operativos. Esta columna era la más alta de todas y a la pregunta de por qué la mayoría de respuestas era porque lo que tiene que ver de la electrónica de potencia alrededor de energía, eh, no era más este cuello de botella que el de energía. El cuello de botella energético es que yo no sé si hace falta comentarlo porque es muy ente, ¿no?

Entonces, decía antes que íbamos a hablar de geopolítica. Ahora has explicado muy bien los cuellos de botella que estructuran el desarrollo de la industria a día de hoy. A todas estas estamos en España, en Barcelona, y estamos todos cagados con con la ventaja técnica que nos están sacando los estadounidenses y los chinos en el ámbito de la IA. [resoplido] ¿Esto es así o vaya? Intenta explicar eh como español, como catalán, eh cómo deb cómo pensar e este tema en términos geopolíticos. Mira, primero, en términos geopolíticos no tiene sentido pensar nada que no sean lógica europea. Cualquier dimensión inferior a la europea es una dimensión que no tiene masa crítica suficiente para hacer ningún impacto en el mundo. Cuando pensamos algo en cualquiera de nuestras escalas políticas, yo defiendo que solo tiene sentido pensarlo, en tanto que contribución a una estrategia europea. Punto número uno. [resoplido] Punto número dos, para comparar cómo estoy Europa versus otras partes del mundo. Esto de la IA es muy genérico. A mí me gusta pensar en el stack de la IA que le llamamos, ¿no? El stack. Los informáticos hablan del stack porque hablan de una pila de cosas. Yo lo simplifico de la siguiente manera. Cuando tú utilizas una IA, una aplicación, un chat GPT, un Copile, un Gemini, lo que sea, tú ves la aplicación que es la capa de arriba. Esta aplicación se ha programado sobre unos modelos, unos LLMs que se han entrenado en una infraestructura y esta infraestructura necesita una capa que está debajo que es la energía para funcionar. Entonces, a mí lo que me interesa, primero, me gustaría que Europa fuera autónoma y soberana en todo el stack. Mi opinión es que a medio plazo esto es imposible. Medio plazo, ¿qué son tres? una [resoplido] que sea imposible a medio plazo no quiere decir que no tengas que correr para conseguirlo. Y además mi visión es que de este stack deberíamos ser hábiles y seleccionar aquellas pequeñas partes del stack donde sí que podemos ser autónomos y soberanos y en aquellas partes en que no hacer algún tipo de alianza bilateral o multilateral con el mundo. Por ejemplo, en la capa de energía, Europa tiene que poder ser soberana. Tiene suficiente dinero, capacidad, recursos naturales, territorio, masa crítica, llámale como quieras, como para poder llegar a ser soberana. En la capa de infraestructura, perdona, ¿quieres? Bueno, si no luego te preguntaremos. En la capa de infraestructura puede ser soberana en tener infraestructuras que provean el servicio, no será soberana en tener propiedad intelectual de la tecnología que hay dentro de estas infraestructuras como mínimo a medio plazo. En la capa de los modelos, yo no veo a una compañía europea que pueda atrapar a los grandes del mundo, pero en cambio en la capa de las aplicaciones tenemos todo el tejido tecnológico, empresarial, industrial. como para que sobre todo en el B2B podamos ser soberanos. Entonces, para mí hay como dos pasos, ¿no? Primero, tener la visión de dónde sí y dónde a medio plazo donde sí tenemos que proteger esta ventaja competitiva sí o sí, donde todavía no hay que hacer una carretera de doble carril. Por un carril circulas intentando ser soberano, mientras por el otro carril lo que haces es intentar un acuerdo con alguien para que mientras tanto puedas entrar en la tecnología. Esto no es tan simple, pero yo creo que es la estrategia un poco se debería cometer.

Cuando hablabas de la IP de la infraestructura o que corre por dentro de la infraestructura, ¿a qué te referías? No, no me refería a los chips, por ejemplo, ¿no? Ah, en Barcelona tenemos un gran ordenador, el Marostrum 5, por ejemplo, ¿no? Y otras infraestructuras que hay en España y en el sur de Europa, ¿vale? [resoplido] Son ordenadores propiedad de instituciones europeas. Fantástico, que están abiertos a usuarios europeos en diferentes maneras, científicos, empresas. Vale, perfecto. Somos soberanos en la provisión del servicio, en la propiedad de la infraestructura. Sí. El chip que hay dentro me lo puede ofrecer una compañía europea no hay una compañía europea que sea soberana en el diseño de ese chip para que en el futuro, aunque sea fabricándolo en otro sitio, me lo pueda ofrecer a corto medio plazo. No, tengo que abandonar esta carrera, no. tengo que ser suficientemente hábil para generar compañías en Europa que sean muy buenas diseñadoras de chips y esto está empezando a pasar para que en 10 años compitan con quien haga falta y a la vez tengo que tener un acuerdo geoestratégico, en este caso con Estados Unidos, para que yo pueda acceder a la tecnología de AMD, de Nvidia, de Intel y llenar esta infraestructura de la mejor tecnología factible. Eso es exactamente lo que ahora se está haciendo en Europa. ¿Hay algún Ahora te pregunta, ahora intentaré resumir lo que has dicho, pero hay alguna empresa europea que sea líder mundial? Es decir, ¿hay algún ámbito en el que Europa esté claramente por delante de China y o de Estados Unidos? ASML del mundo, ¿no? Es decir, dejo a SML un poco al margen, ahora lo comentaré. En todo lo demás, tú puedes tener compañías o instituciones académicas que tengan capacidades iguales a No tienes compañías o instituciones académicas que tengan capacidades superiores a El único caso extremadamente singular es ASML. Para que la gente lo entienda, es muy simple. Cuando yo fabrico chips y hoy en día estos chips de alta capacidad es un día estos chips se fabrican solo, no me acuerdo de olvidar nada, Taiwán, Corea, Estados Unidos. básicamente TSMC, Samsung e Intel. [resoplido] El proceso de fabricación se hace por litografía. Litografía. Y a veces lo comparo. Eso que hacíamos de pequeños en la escuela, que nos daban una lámina linum y que con una especie de pincho íbamos sacando las cosas y quedaba un dibujito, pues la litografía es algo parecido. Si quieres hacer esto a 3 nanómetros de ancho, necesitas una litografía de ultraviolado extremo, que hay una sola compañía en el mundo que tenga la cap de hacerlo, que es ASML, que es una compañía neerlandesa, es una compañía europea. Yo creo que es el único caso en el que pasa y a mí me resulta siempre muy frustrante este ejemplo porque entonces la gran pregunta es, ¿y cómo puñetas los europeos no hemos sido capaces de utilizar el hecho de ser los únicos que tenemos esa tecnología para construir alrededor todo en un ecosistema que vaya desde el diseño hasta la fabricación? Bueno, esto no hemos sido capaces de hacerlo. La siguiente década lo deberíamos poder hacer como mínimos sabemos que tenemos este asset que tiene una tecnología que no es fácil de reproducir y que llevamos muchos años con sobre todo China intentando llegar a este nivel y sin poder hacerlo. Para mí es un aset europeo alrededor del cual construir todo el resto del ecosistema. El liderazgo de ASML es muy particular, tiene una cultura eh corporativa muy distinta de la que yo creo que hace falta para intentar conseguir un cler. Ahora han invertido mucho dinero en Mistral, pero bueno, seguro que les habrán obligado porque no han hecho nada de moto propio en los últimos años. Por no hacer no han ni subido precios, no han negociado. Es una cosa [risas][carraspeo] muy curiosa. Una compañía muy singular. Es una compañía muy singular.

Vale, por tanto, a la problemática geopolítica estratégica de la inferioridad tecnológica europea, en el ámbito de la IA, tú dices soberanía y alianzas. Del lado de la soberanía deberían quedar la energía, la producción de energía, eh la capacidad para la infraestructura, la capacidad para ofrecer servicio de infraestructura y algunas aplicaciones en particular en terreno del B2B. Y en cambio del lado de las alianzas, al menos a corto medio plazo, en menos de una década, los modelos, la IP, bueno, los chips, la o la IP de todo lo que está dentro de la infraestructura o de algunas de las partes de la infraestructura y eh los propios modelos, no sé si los he citaré, sobre todo modelos y infra y lo que hay dentro de la infraestructura en el ámbito de la energía, ¿te refieres? Me me ha sorprendido que pongas la energía del lado de la soberanía porque claramente Europa está del lado de las alianzas. Es decir, eh si hablamos de electricidad, aún si hablas de energía, evidentemente la mayor parte de la energía eh que consume Europa no la produce. Yo creo que no es tanto así, pero en todo caso para estos usos, o sea, el petróleo, el carbón y el gas eh bien fuera en parte de fuera, pero estás creciendo mucho con renovables en terreno propio. Creo que hemos parado, yo diría por suerte, ciertos planes de desnuclearización y como mínimo para estas infraestructuras y para estos usos, yo creo que hay capacidad suficiente como para garantizar una una soberanía en este campo. Y tú conoces muy bien el ámbito de la energía o o hablas del o en realidad te estás refiriendo a la a la energía en relación con IA, con infraestructuras de IA. Energía en relación con estas infraestructuras. Para mí es fundamental llegar a ser autónomo y soberano en este campo. Yo entiendo que el ser totalmente autónomo para los 400 millones de habitantes de Europa es una película. Esta es otra película que sí que es factible. Es tener una política más pro Energy en estas infraestructuras. Por tanto, podrías aplicar la misma lógica de soberanía más alianzas a la energía y al y al mix de consumo energético. Hay algunas industrias que requieren de un consumo soberano y a lo mejor hay otros usos energéticos que no requieren de críticos y no hay problema.

Imaginemos que tienes que redactar un informe estratégico e que contribuya o vaya que que le sirva a Europa para avanzar en esta dirección. ¿Cuáles son los pilares de ese informe? Bueno, este informe lo tienen hecho y existe y y te voy a decir cuál es para mí el problema fundamental para su implementación, pero los pilares del informe son uno, garantizar la provisión energética para estas infraestructuras, pero esto, insisto, es posible, no necesita un no tiene una gran dificultad. Dos, desplegar toda la política que se llama de gigafactorías, es decir, lo que todavía nos falta, que son estos grandes data centers para la provisión de servicios de IA a grandes compañías, sector público, etcétera. Yo diría que es factible en el medio plazo una gran inversión en el desarrollo de modelos de IA y este tipo de tecnologías con compañías como Mistral que trabajan en sí mismo en el desarrollo de IAS o con compañías como Multiverse que trabajan en servicios alrededor de estas IA, por ejemplo, y toda la política que hay de soberanía y autonomía en el diseño de chips y de toda la parte microelectrónica también se está invirtiendo mucho. Mi diagnóstico, que como siempre es sesgado y parcial porque cada uno tiene su experiencia es que el problema de Europa no son los planes, están bien, no es el dinero, hay suficiente. No es el talento, nadie nos gana en esto. Casi te diría que no es el consenso político entre los Estados miembros porque aquí hay mucha alineación. Es nuestra dificultad como europeos para ser capaces de tomar la velocidad que todo esto requiere. fundamentalmente por las limitaciones que nos autoponemos desde el sector público. Pongo un ejemplo que es muy particular, eh, pero me va bien para ilustrarlo. Las gigafactorías, ¿vale? Gigafactorías son o serán grandes centros de datos de centenares de miles de GPUs que deberían dar autonomía absoluta a Europa en la provisión de servicios de IA para sector público y sector privado, sobre todo en temas estratégicos. El en febrero del 2025, Vlen anuncia las gigfactorías con un plan de inversión superambicioso, con un planteamiento técnico que yo diría que es muy razonable y anunciando que habrá mínimo cinco en Europa en los próximos años. Todo sonaba magníficamente bien. Febrero 2025, en julio 2026 todavía no ha salido la convocatoria para que Bruselas decida dónde van a ir. cuando se empiecen a construir. Si vamos a este ritmo, ah, no podremos competir con nadie. Oí el otro día una metáfora que me gustó mucho, que decía, "Por fin Europa ha despertado, pero todavía no se ha levantado de la cama." Bueno, pues ahí estamos. ¿Hay un plan? Sí, es adecuado. Me parece que sí. La gente que está detrás es supercetente. Hay dinero. El problema hoy de Europa creo que no es el dinero. Hay el talento. Nadie nos supera el talento. ¿Qué nos falta? la rapidez de ejecución que sí están teniendo otros países, sobre todo desde el sector público. Si no resolvemos esto, no conseguiremos esta autonomía en los campos donde la podemos conseguir y la perderemos ahí donde la podemos tener por culpa estrictamente nuestra.

¿Por qué crees que han pasado 18 meses sin que se haya convocado una convocatoria, valga la redundancia? Cuesta trasladar la sensación de urgencia y porque el sector público administrativo europeo es tremendamente lento y no está preparado para esto. Está preparado para ser el el sector público en Europa debe ser el mejor del mundo. El estado de bienestar de Europa es el mejor del mundo. Es garantista, es es fair, es es lógico, es universal de acceso. Es muy difícil que alguien te diga que se vive mejor que en Europa respecto a todo este tipo de cosas. No hay nada que decir. Nos gustaría que fuera más rápido. Vale, de acuerdo. El problema es que ahora ha aparecido un tema que son todas las tecnologías estratégicas, que ya no es una cosa de cuatro científicos locos, es que es la base sobre la cual tu competitividad como continente se va a construir, que va a un ritmo que si lo intentamos meter dentro del marco donde se mueve todo lo demás no funciona. Entonces, alguien deberá tener el coraje político y no es evidente hacerlo para decir explícitamente que hay que sacar estas tecnologías de las limitaciones habituales que son razonables en todo el resto del sector público. No digo que no, pero que en este tipo de cosas no se pueden tener estas limitaciones.

Tú tuviste un cargo de mucha responsabilidad en la Gene, en la Generalitan de Cataluña. ¿Cómo un poco de responsabilidad? Un poco de responsabilidad o mucha. Poco. Yo fui director general de investigación. ¿Y consideras que es poca responsabilidad? No, o sea, hombre, me lo pasé muy bien y era una cosa muy interesante, pero no, pero te lo pregunto en serio, ¿era o poca responsabilidad? Yo tenía responsabilidad sobre ciertas cosas interesantes, pero encima mío tenía varias capas de autoridad donde estaba realmente la responsabilidad. Y tu experiencia, claro, tú como director eh de ¿Cuál es el de investigación? De investigación en todos los ámbitos. Investigación. Sí, sí, sí. No trataba solo el tema de la IA. Lo que estás diciendo es que en ese cargo no tuviste problemas para drivear, para generar para para acompañar los procesos de innovación en distintos ámbitos. Lo que estás diciendo es que ese problema se da de manera muy específica en IA porque yo que sé, porque el mundo se ha vuelto loco en este campo, pero que en realidad en el resto de campos Europa sí que logra seguir, superar a veces el mundo académico en Europa, por ejemplo, cuando tú miras las grandes publicaciones científicas, la generación de conocimiento, ¿sí? Europa compite muy bien con Estados Unidos y China, compite muy bien y eso que la inversión por habitante y por PIB y tal tampoco es muy espectacular, pero compite bastante bien. Hay talento, hay buena calidad de vida, hay muy buenas organizaciones académicas, hay políticas científicas razonables en la mayoría de los gobiernos, hay una cosa, hay mejoras para hacer, pero es muy razonable, pero funciona bien. Funciona bien. ¿Por qué? Porque la academia tiene unos ciertos ritmos a los cuales la lentitud propia del sector público, hombre, no digo que le ayude porque nos gustaría ir mucho más rápido en algunas cosas, pero no es un drama que determina que pierdas el tren mundial. También mis colegas en el laboratorio de Chicago tenían un dolor de cabeza tremendo para conseguir hacer un expediente de no sé qué historia. Pero ahora no hablamos de esto, no hablamos de generación de conocimiento, no hablamos de academia, no hablamos del sector público. Hablamos de que hay una tecnología o un conjunto de tecnologías con un impacto sobre el futuro de nuestra sociedad en todos los niveles absolutamente brutal y que tener o no autonomía en esas tecnologías determinará el futuro del continente y que esas tecnologías se desarrollan y se implementan a un ritmo con el cual no casan las restricciones que nosotros mismos en el sector público nos hemos impuesto. Y o esto lo resolvemos y lo cambiamos. O iremos quedando atrás, atrás, atrás, atrás, atrás, sin darnos cuenta porque no teníamos dinero, ¿no? Porque teníamos mal planes, ¿no? Porque no había talento, ¿no? Porque no fuimos capaces de poner en marcha un funcionamiento mucho más ágil en las cosas en que se requerían. Esto es más fácil de decir que luego de hacer, eh, se entiende, pero para mí es el problema fundamental que tiene ahora mismo Europa. Y no me estoy inventando nada. Informe Leta, informe Dragi, tú te los lees y todo el informe Dragi es un canto a la flexibilización administrativa de todo lo que tiene que ver con las tecnologías estratégicas.

Déjame hacerte una pregunta sobre el tema de la disrupción. Em, la ciencia ha dependido del descubrimiento humano, lógicamente, de qué tiene que depender. Si no, en el futuro, la IA puede hacer ciencia, está haciendo ciencia. Está haciendo cen demostrar un teorema. La IA puede aportar demostraciones de términos matemáticos. Esto está pasando a teoremas que nunca nadie había resuelto sin que ningún humano entienda la solución que propone la IA. Ahí discrepo un poco. No, yo no lo afirmo, te [risas] lo pregunto. Yo no tengo ni idea. Yo eh e estas estos tweets misteriosos, a eso me refiero, donde a veces hay gente que dice, "Hola, ahí ha resuelto un problema y no entendemos cómo lo ha hecho." Sí. Bueno, y ahí soy un poco escéptico. Se entiende bastante bien cómo lo hace. simplemente explora caminos que hasta ahora no se habían explorado, o sea, exactamente igual que en la ajedrez, pero en la resolución de un teorema es una muy buena es una muy buena metáfora, una muy buena comparación. Sí, de hecho, por ejemplo, tú escuchas a Magnus Carlsenoy, el campeón mundial de ajedrez, y te dice que él juega mejor ajedrez que antes, porque trasteando con la I descubierto otras estrategias en las que no había pensado, simplificándolo mucho. Esto en ciencia están pasando un par o tres de cosas a la vez, ¿eh? Una la que tú dices, hacer de ping pong con una te permite que aparezcan caminos de exploración que a ti no se te habían ocurrido. Punto número uno. Bien. Punto número dos, te permite simular computacionalmente cosas que antes solo podías hacer en el laboratorio físico y por tanto escalar a dimensiones nunca antes conseguidas porque la realidad física es la que es. Si yo hago un experimento con unas células que tardan unas horas en hacer no sé qué y que puedo hacer solo 10 en mi laboratorio, si puedo simular computacionalmente esto, puedo hacer tantos como capacidad computacional tenga. Y tres, además me está permitiendo acelerar el ciclo propio de la investigación científica, el ciclo normal de Ah, y parecerá algo muy simple, es muy complejo. Eh, yo tengo una idea con mi grupo, la trabajamos, vamos al laboratorio, experimentamos, probamos, testeamos, parece que una idea puede tener sentido, escribimos, publicamos, volvemos a todo este ciclo propio de la investigación que tenía varias etapas, cada una de ellas antes era muy lenta, ahora algunas de ellas pueden ser tremendamente aceleradas y eso está permitiendo que, claro, si haces más ciclos por unidad de tiempo, la capacidad de aceleración, el descubrimiento puede ser mucho más alta. Entonces, todo esto que digo combinado está implicando que en algunas áreas científicas podamos hacer cosas que antes no se habían hecho nunca.

¿Qué grandes descubrimientos esperas tú que la IA pueda generar en las próximas décadas? Descubrimientos que la IA genere, no estoy seguro que sean muchos. Descubrimientos que podamos hacer impulsados por la IA, creo que van a ser muchísimos. Ahí me gustaría pensar que resolveremos algunos de los mayores problemas de la humanidad. Por ejemplo, me gustaría pensar que la IA nos ayudará definitivamente a resolver la fusión nuclear y a poder tener generación de energía prácticamente infinita, limpia, barata, etcétera, etcétera. [resoplido] De aquí a poder enchufar algo ahí pasarán décadas. Eh, pero claramente si uno piensa en los problemas fundamentales de la humanidad, la generación de energía limpia y casi infinita y prácticamente gratis es claramente un problema de la humanidad. ¿Por qué crees que la contribuirá a resolver la fusión? Bueno, porque la fusión, igual que la computación cuántica o otros otras tecnologías de este tipo, son tecnologías que a nivel teórico las tenemos resueltas. Ya sabemos que es posible, sabemos que eso va a acabar pasando. Hazlo que hay es un problema de ingeniería, un problema tremendamente complejo de ingeniería. Entonces, para resolver todas las problemáticas que hay en la implementación de esa idea de hacer la realidad, la IA nos acelera muchas de estas cosas, ¿no? Por ejemplo, ah, hay un campo de investigación muy interesante que tiene que ver con saber cómo se comporta el plasma dentro de un reactor de fusión cuando te vas a centenares de miles de grados. Esto es evidente que mejor que en el laboratorio no lo pruebes que no puedes. De hecho, la primera vez que lo construyas es la primera vez que experimentes con ello, ¿no? Simular esto computacionalmente es superclejo. La IA está ayudando a muchos grupos de investigación a ir más rápido, encontrar una solución de qué materiales, de qué geometría, de qué va a pasar, etcétera. Entonces, estas cosas que hasta ahora no las podías hacer, la IA te permite acelerar para hacerlas. Por tanto, volvemos a la automatización de procesos y al aumento de la productividad individual. Sí. Y en este caso aplicado organizaciones que se dedican a la investigación. Esto por una parte y por otra parte hacer saltos a cosas que tú no podrás hacer nunca porque quizá experimentalmente no lo puedes hacer porque las condiciones no son simulables, pero en cambio computacionalmente sí que lo puedes trabajar. Para mí la [resoplido] generación de energía es un campo claro. Otro campo claro es la simulación climática a gran escala, tanto en pequeña escala espacial y en larga escala temporal. Ahí se están haciendo progresos muy espectaculares y yo creo que en los próximos años veremos resultados superinesantes a nivel de predicción de clima y el impacto que esto puede tener en aseguradoras, en transportes, en movilidad, en infraestructuras, en un montón de cosas. Creo que habrá cambios que a mí se me escapan un poco porque no vengo de esta disciplina brutales en en biomedicina y las cosas que yo veo en vivo partners y a mi alrededor de nuevas terapias que aceleran gracias al uso de la IA son absolutamente espectaculares. la capacidad que ahora empezamos a tener de probar cosas en lo que se llaman cortes virtuales de pacientes, es decir, pacientes virtuales construidos con IA a partir de datos reales de pacientes nos pueden dar luz a cosas que hasta ahora no hemos podido comprobar. Y yo creo que ahí relacionado con el tema de longevidad veremos cambios importantes en el medio plazo. Me gustaría pensar que en temas de recursos naturales, alimentación y demás también habá disrupciones. Es decir, yo creo, escuchaba hace no mucho entrevista al vicepresidente de ciencia de Open AI. Esto es una cosa muy interesante. Ahora las grandes compañías tecnológicas tienen una posición que se llama Vice President for Science, de alguien que se ocupa de mirar qué disrupciones en ciencia provocarán la tecnología que están desarrollando, ¿no? Y este hombre básicamente decía, si todo va como creemos que va, la IA nos permitirá, era un titular muy muy escandaloso, eh, pero el titular era la IA nos permitirá hacer en 2030 la ciencia que esperábamos para 2050. Y creo que en algunas cosas esto es cierto. Cosas que le vemos todavía 25, 30 años para que lleguen como algunas de las que he contado. La inteligencia artificial nos puede ayudar a llevarlas mucho antes en términos de tiempo.

Muy bien. Esto hemos hablado todo el rato de algunas oportunidades, pero también de algunas amenazas. Esto para mí es la gran oportunidad de la humanidad. la productividad empresarial, la automatización, el puesto de trabajo, todo esto está muy bien, pero sí conseguimos resolver los tres, cuatro, cinco grandes problemas materiales de la humanidad gracias en par de esta tecnología a su combinación con la ciencia, para mí esta es la gran oportunidad en las próximas décadas. ¿Cuál es el peligro? Entonces, el peligro es la falta de gobernanza como con cualquier tecnología. Ah, los humanos hemos mostrado que podemos tener tecnología que nos puede destruir varias veces en un mismo día, pero a la vez la podemos regular y hay tratados de no proliferación de bombas nucleares y cosas de este tipo. Esta es una tecnología que podría llegar a tener consecuencias muy malas para la humanidad. La parte de ciberseguridad que ahora está tan en por el tema de mizos tan encima de la mesa es una parte obvia. Si dejamos de escapar uno de estos modelos, cualquiera podría llegar a generar ataques ciber de ciberseguridad muy complejos y esto podría afectar desde los sistemas de pago bancarios hasta la red eléctrica pasando por mil otras cosas. Cuando para mí el gran peligro a corto medio plazo el gran peligro es la gobernanza de esa tecnología. [resoplido] A largo plazo, mi interrogante y no sé si es un peligro es si conseguimos llegar a inteligencias artificiales que vayan mucho más allá de lo que ahora tenemos. Y eso para mí plantea otras preguntas que no sé casi ni formular, más a nivel de especie humana, de qué significa ser humano y de cómo vamos a vivir en un mundo donde convivamos con cosas que son mucho más inteligentes que nosotros. Pero antes de llegar ahí, que todavía no estamos, a corto medio plazo, para mí el punto fundamental es la gobernanza de la tecnología.

Muy bien, Pep. Pues vamos a ir terminando. No te he preguntado por algunas cosas muy interesantes y al principio, antes de empezar hemos hablado de religión y de espiritualidad. Quizá otro día hablar de todo esto, otro día de historia de la ciencia, que es un tema muy interesante. Sí, que me me gustaría preguntarte una última cosa antes de nuestra pregunta de cierre, que es e la siguiente. ¿Cuál es tu opinión eh al respecto de la relación entre IA y libros? Los libros son lenguaje. La IA es muy buena en todo lo que es lenguaje o código. Eh, todo el mundo que se dedica a trabajar con lenguaje o código está bastante acojonado. Eh, no sé si la expresión es correcta. Eh, sustituirá la IA a los libros como la industria editorial debe pensar el tema de la IA. No sé si está muy bien planteada la pregunta, pero ya me entiendes. Sí, yo diría la IA podría sustituir a los libros. Sí. lo va a hacer. Creo que no. Intento hacer el símil. en los 80 yo soy muy afeccionado a la ajedrez y durante muchos años jugué cuando era joven federado y me lo pasaba muy bien. Yo viví una época que eran finales de los 80, primeros de los 90, que entonces tenía 14, 15, 16 años, donde sistemáticamente todos intentábamos afirmar con mucho convencimiento que nunca un ordenador iba a ganar a un humano jugando ajedrez, porque teníamos la percepción general de que si esto pasaba se acababa el tema. ¿Qué sentido tendría jugar si una máquina ya nos puede ganar? En el 90 y tantos Deep Blue gana Kasparov. Kasparov tiene esa reacción en la tercera partida. Creo que es reaccionó mal porque la IA hizo una jugada que él creía imposible si no había un humano detrás. Y 20, 25, 30 años después nos hemos dado cuenta de dos cosas muy interesantes. Una que es obvio que cualquier chorraalgoritmo nos gana cualquiera de los humanos. Eso ya está superadísimo. Dos, que con eso hemos aprendido a jugar mucho mejor ajedrez. Y tres, que no solo no hemos dejado jugar ajedrez, sino que jugamos mucho más. Por tanto, que una tecnología haga mejor que un humano una cosa, que fundamentalmente es creatividad intelectual, no significa que el humano deje de hacerlo. Igual que hay impresoras en 3D que son capaces de hacer el David perfecto, seguimos yendo todos a Florencia, a la academia, cada vez que vamos a Florencia a ver esa maravilla, porque hay algo por el hecho de haber sido hecho por un humano con una historia detrás en un momento determinado de la humanidad que lo hace especial. Creo y espero que con los libros pase algo parecido. Claro que habrá IA que me generarán textos magníficos, fantásticos y que me van a distraer un montón. Igual que hay algoritmos que juegan mucho mejor ajedrez, pero eso no quiere decir que haya dejado de jugar ajedrez y eso no quiere decir que vaya a dejar de leer libros hechos por humanos porque hay algo especial en leer un mensaje que una persona concreta me está enviando a mí. Yo hace tiempo hablaba con un editor, una editora, y le decía, "¿Te has dado cuenta que, por ejemplo, Amazon debe estar así de sacar un producto que sea un escritor para ti y que tú en lugar de estar en Amazon y pedir un libro, simplemente tengas tu autor, tu escritor a quien le digas, oye, mira, viernes por la tarde, estoy muy cansado la semana, oye, hazme una novela corta de policial que pase en Barcelona, que se muera no sé quién. que yo sea el protagonista y qué tal. Te vas a pegar una ducha, te preparas algo para cenar y la tienes en el kindel para leer. Eso técnicamente es posible y si no lo es hoy, lo será mañana. Eso quiere decir que disruptará la industria editorial hasta el punto que dejaremos de escribir libros y de leer libros escritos por humanos. Yo estoy convencido que no, porque en todas las disciplinas donde se hauc disciplinas artísticas, intelectuales, donde se ha producido una tecnología que mejore a los humanos, seguimos valorando lo hecho por los humanos. Hay robots que pintan cuadros mejor que no sé quién, pero seguimos teniendo en los museos robots hechos por grandes figuras del arte. Hay máquinas que juegan mejor ajedrez que yo. Hay impresoras 3D que hacen esculturas perfectas, pero seguimos admirando la obra humana. Al final, mientras la literatura sea transmitir un mensaje de humano a humano, yo creo que la literatura, los libros seguirán teniendo su espacio. Absolutamente. Muy bien. Dentro de unos años me dirás si he sido un optimista o si realmente hemos ido por ahí. Bueno, el libro tiene el culo pelado de que de que lo entierren. Exactamente. Algún día alguna deberá enterrarlo, eh, pero por el camino lo habrá pasado muy bien con tanto vaticinio erróneo.

Bueno, siempre cerramos así. ¿A quién te parecería interesante invitar al podcast? Mira, te diré un invitado nuevo y un invitado para volver a invitarlo, que creo que ya le invitasteis una vez. Yo de invitado nuevo te sugeriría Cristian Cantón. Cristian es la persona que me sustituyó en el BSC en el Barcelona Supercomputing Center. Es un individuo excepcional que tiene una trayectoria además empresarial en Estados Unidos muy interesante. Él es uno de los firmantes de los artículos en que Meta acaba sus modelos de lenguaje son los Lama. Por tanto, entiende mucho de esta tecnología y puede contar muy bien qué está pasando hoy, no solo en Europa, sino también en Estados Unidos. Y me gustaría proponerte, creo que ya lo invitaste una vez a José Ignacio la Torre. Vuelve, vuelve en unos meses. Venga, pues perfecto. Por José Ignacio, que es una persona que aparte de de fue profesor mío en la facultad y tengo un cariño tremendo por sus clases, muy buen recuerdo. Soy físico, mantenemos una una muy buena amistad y nos vemos de tanto en tanto. Sencio tiene un discurso muy bien trabajado sobre cómo esta tecnología va a afectar a un nuevo contrato social y cómo la manera como nos organizamos como sociedad puede ser que cambie debido a esta tecnología. y creo que las cosas que dice vale la pena escucharlas.

Muy bien, Pep. Pues muchísimas gracias, superinesante. Espero que te hayas [música] sentido a gusto. Muy divertido. Ha sido un placer. Yeah.