Gran parte de lo que sucede hoy en la industria de la IA es extremadamente inhumano. >> Pero esto es yo jugando al abogado del diablo. Y lógicamente, podría ser el caso que la civilización que acelere su investigación con IA sea la civilización superior. >> No, no lo es. Esta es una predicción que estás haciendo, ¿verdad? >> Haciendo que Zuckerberg esté haciendo. >> ¿Y sabes cuál es la característica común de todos ellos? Se benefician enormemente de este mito. Sabes, tengo todos estos documentos internos que muestran que están tratando a propósito de crear ese sentimiento en el público para poder extraer y explotar y extraer y explotar. Entonces, ¿qué hacemos al respecto? >> Necesitamos romper los imperios de la IA. >> Sabes, he estado cubriendo la industria tecnológica durante más de 8 años, he entrevistado a más de 250 personas, incluidos ex o actuales empleados y ejecutivos de OpenAI. Y puedo decirte que hay muchos paralelismos entre los imperios de la IA y los imperios de antaño, ¿verdad? como Lelay reclamó la propiedad intelectual de artistas, escritores y creadores en la búsqueda de entrenar estos modelos. Segundo, explotan una cantidad extraordinaria de mano de obra, lo que rompe la escalera profesional porque alguien es despedido y luego trabaja para entrenar los modelos en el mismo trabajo del que acaba de ser despedido, lo que perpetuará más despidos si ese modelo desarrolla esa habilidad. Y cuando hablan de que se crearán nuevos trabajos que ni siquiera podemos imaginar, muchos de los trabajos que se crean son mucho peores que los trabajos que existían. Y luego está la crisis ambiental y de salud pública que estas empresas han creado y cómo también pueden gastar cientos de millones para intentar aniquilar cada posible pieza de legislación que se interponga en su camino y censurarán a los investigadores que sean inconvenientes para la agenda del imperio. Pero lo que estoy diciendo no es que estas tecnologías no tengan utilidad. Es que la producción de estas tecnologías en este momento está causando mucho daño a las personas. Pero tenemos investigaciones que muestran que las mismas capacidades podrían desarrollarse de una manera diferente que no tenga todas estas consecuencias no deseadas. Así que hablemos de todo eso. Esto es súper interesante para mí. Mi equipo me dio este informe para mostrarme cuántos de ustedes que ven este programa se suscriben. Y algunos de ustedes nos han dicho según esto que se han dado de baja del canal aleatoriamente. Así que un favor que les pido a todos ustedes. Por favor, ¿podrían verificar ahora mismo si han presionado el botón de suscribirse si son espectadores habituales del programa y les gusta lo que hacemos aquí? Nos estamos acercando a un hito bastante significativo en este programa en términos de número de suscriptores. Así que si hubiera una cosa simple y gratuita que pudieran hacer para ayudarnos, a mi equipo, a todos aquí a mantener este programa gratuito, a mantenerlo mejorando año tras año y semana tras semana, es simplemente presionar ese botón de suscribirse y verificar dos veces si lo han presionado. Lo único que les pediré, ¿tenemos un trato? Si lo hacen, les diré qué haré. Me aseguraré de que cada semana, cada mes, luchemos más y más y más para traerles los invitados y las conversaciones que quieren escuchar. Me he mantenido fiel a esa promesa desde el principio de D de Sio y no los decepcionaré. Por favor, ayúdennos. Realmente lo aprecio. Sigamos con el programa. Karen, has escrito este libro que tengo aquí delante llamado "Empire of AI: Dreams and Nightmares in Sam Alman's Open AI". Supongo que mi primera pregunta es, ¿cuál es la investigación y el viaje que emprendiste para escribir este libro del que vamos a hablar y los temas que contiene hoy? >> Tomé una ruta extraña hacia el periodismo. Estudié ingeniería mecánica en el MIT y, por lo tanto, cuando me gradué, me mudé a San Francisco, me uní a una startup tecnológica, me convertí en parte de Silicon Valley y básicamente recibí una educación sobre de qué se trata Silicon Valley porque a los pocos meses de unirme a una startup muy impulsada por la misión que se centraba en la construcción de tecnologías que ayudarían a facilitar la lucha contra el cambio climático. La junta despidió al CEO porque la empresa no era rentable. Y esto, en retrospectiva, fue un momento muy crucial para mí porque pensé, si este centro está finalmente orientado a la construcción de tecnologías rentables y muchos de los problemas del mundo que creo que necesitan solución no son problemas rentables como el cambio climático. Entonces, ¿qué estamos haciendo realmente aquí? ¿Cómo llegamos a un punto en el que la innovación no está trabajando necesariamente en beneficio público y a veces incluso socava el beneficio público en busca de ganancias? En ese momento, tuve una pequeña crisis en la que pensé, bueno, acabo de pasar 4 años tratando de prepararme para esta carrera para la que ahora no creo que esté hecha. Y pensé, bueno, podría intentar algo totalmente diferente. Siempre me ha gustado escribir y así es como, después de 2 años, conseguí un puesto en MIT Technology Review cubriendo IA a tiempo completo y eso me dio un espacio para explorar todas estas preguntas de quién decide qué tecnologías construimos, cómo el dinero y la ideología también impulsan la producción de esas tecnologías y cómo finalmente nos aseguramos de que realmente reimaginemos el ecosistema de innovación para que funcione para una amplia base de personas en todo el mundo. Y así es como me embarqué en este viaje de escribir un libro. No me di cuenta de que estaba trabajando para escribir un libro, pero a partir de 2018, cuando acepté ese trabajo, fue esencialmente el momento en el que comencé a investigar la historia que documento en él. >> Un momento muy oportuno para empezar a trabajar en inteligencia artificial. Para cualquiera que no lo sepa, este es el momento previo al lanzamiento de ChatGPT de OpenAI que sacudió al mundo. Pero al escribir este libro, entrevistaste a mucha gente y fuiste a muchos lugares. ¿Puedes darme una idea de cuántas personas has entrevistado, a dónde te ha llevado por el mundo, etc.? >> Entrevisté a más de 250 personas. Así que más de 300 entrevistas, más de 90 de esas personas eran ex o actuales empleados y ejecutivos de OpenAI. Así que el libro cubre la historia interna de la primera década de OpenAI y cómo finalmente llegó a donde está hoy. Pero no quería escribir un libro corporativo. Sentí muy firmemente que para ayudar a la gente a comprender el impacto de la industria de la IA, también tendríamos que viajar mucho más allá de Silicon Valley. Estas empresas nos dicen que la IA beneficiará a todos y esa es su misión. Pero realmente empiezas a ver que esa retórica se desmorona cuando vas a lugares que no se parecen en nada a Silicon Valley, que no hablan como Silicon Valley, y que tienen una historia y una cultura que son fundamentalmente diferentes también. Y ahí es donde empiezas a comprender realmente la verdadera realidad de cómo se está desarrollando esta industria a nuestro alrededor. >> Karen, a menudo intento dirigir las conversaciones, pero en esta situación, siento que probablemente sea mi responsabilidad seguir. Así que, teniendo esto en cuenta, voy a preguntarte, ¿dónde comienza este viaje y por dónde deberíamos empezar si hablamos de los temas de "Empire of AI", la inteligencia artificial en general y también, diría, una cosa que realmente me interesa hacer en esta conversación, que a menudo veo que se omite en las conversaciones, es asumir que nuestros espectadores no saben nada sobre IA. >> Sí. Así que no saben qué son las leyes de escalado o las GPU o la computación o lo que sea, y tratemos de mantener esto lo más simple posible en términos de lenguaje o explicar todo el lenguaje complicado para que podamos incluir a tantas personas como sea posible. >> Sí. >> ¿Por dónde empezamos? >> Creo que deberíamos empezar por cuándo comenzó la IA como campo. Esto fue allá por 1956 y un grupo de científicos se reunió en la Universidad de Dartmouth para iniciar una nueva disciplina, una disciplina científica para tratar de perseguir una ambición. Y específicamente, un profesor asistente en la Universidad de Dartmouth, John McCarthy, decidió nombrar a esta disciplina inteligencia artificial. Este no fue el primer nombre que intentó. El año anterior intentó llamarla Estudios de Autómatas. Y la razón por la que algunos de sus colegas estaban preocupados por este nombre fue porque vinculaba la idea de esta disciplina a recrear la inteligencia humana. Y en aquel entonces, como hoy, no tenemos consenso científico sobre qué es la inteligencia humana. No hay una definición de psicología, biología, neurología. Y, de hecho, cada intento en la historia de cuantificar y clasificar la inteligencia humana ha sido impulsado por motivos nefastos. Ha sido impulsado por el deseo de demostrar científicamente que ciertos grupos de personas son inferiores a otros grupos de personas. No hay porterías para este campo y no hay porterías para la industria cuando dicen que finalmente intentan recrear sistemas de IA que serían tan inteligentes como los humanos. ¿Cómo definimos siquiera lo que eso significa? ¿Y cuándo llegaremos allí si no sabemos cómo definir el destino? Y lo que eso significa efectivamente es que estas empresas pueden simplemente usar el término inteligencia artificial general, que ahora es el término para referirse a este ambicioso objetivo de recrear la inteligencia humana. Pueden usarlo como quieran y pueden definirlo y redefinirlo según lo que les convenga. Así que en la historia de OpenAI, lo ha definido y redefinido muchas veces. Cuando Sam Altman habla con el Congreso, la IAG es un sistema que curará el cáncer, resolverá el cambio climático, curará la pobreza. Cuando habla con los consumidores a los que intenta vender sus productos, es el asistente digital más increíble que jamás tendrás. Cuando hablaba con Microsoft, ya sabes, en el acuerdo que OpenAI y Microsoft cerraron donde Microsoft invirtió en la empresa, se definió como un sistema que generará cien mil millones de ingresos. Y en el propio sitio web de OpenAI, lo definen como sistemas altamente autónomos que superan a los humanos en la mayoría de los trabajos económicamente valiosos. Esto no es una visión coherente de una tecnología. Son definiciones muy diferentes que se pronuncian en voz alta a la audiencia que necesita ser movilizada para evitar la regulación o conseguir más aceptación del consumidor en la búsqueda de la industria o para obtener más capital y más recursos para continuar en este viaje con definiciones ambiguas. Quiero decir, hablando de diferentes definiciones a lo largo del tiempo, en 2015, en una publicación de blog que Sam Altman escribió antes de que se anunciara oficialmente OpenAI, describió explícitamente el riesgo existencial diciendo: "El desarrollo de inteligencia de máquinas sobrehumana es probablemente la mayor amenaza para la existencia continua de la humanidad. Hay otras amenazas que creo que son más seguras de que ocurran, por ejemplo, un virus diseñado, pero la IA es probablemente la forma más probable de destruir todo" >> en general. Cuando Altman escribe para el público o habla para el público, no solo tiene al público en mente, hay otras personas a las que intenta motivar o movilizar cuando dice estas cosas. Y en ese momento en particular, Altman estaba tratando de convencer a Elon Musk para que se uniera a él en la cofundación de OpenAI. Y Musk, en particular, pasaba todo su tiempo dando la alarma sobre lo que veía como una gran amenaza existencial que la IA podría plantear. Y así, en esa publicación de blog, si miras el lenguaje que usa Altman junto al lenguaje que Musk usaba en ese momento, refleja todas las cosas que Musk decía >> idénticas. Quiero decir, hace 10 años, Musk iba a podcasts diciendo, tuiteando, lo que fuera, que el mayor riesgo existencial para la humanidad era la IA. >> Sí. Y así, ya sabes, como su paréntesis, hay otras cosas que podrían suceder, como virus diseñados. Es porque hasta entonces Altman solo había estado hablando de virus diseñados. Y ahora que necesita pivotar para hablarle a una audiencia de uno, a Musk, necesita resolver la contradicción entre lo que ahora eleva como su nuevo miedo central para ser el mismo que el nuevo miedo central de Musk con lo que había dicho anteriormente. Por eso dice: "Creo que esto es ahora, aunque antes dije esto" >> ¿Y estás diciendo que Sam Altman manipuló a Musk porque Elon terminó donando una gran cantidad de dinero a um OpenAI y cofundándola, creo, con Sam Altman? Elon Musk terminó cofundándola con Altman. Y ciertamente desde la perspectiva de Musk, se siente manipulado porque siente que Altman estaba diseñando su lenguaje de una manera que haría que Musk confiara en él como socio en este empeño. Y, por supuesto, luego Musk se va. Y a través de algunos de los documentos que salieron a la luz durante la demanda en la que Musk y Altman están involucrados ahora, ha quedado claro que hubo un grado en el que Musk fue un poco presionado. Y es por eso que se queda con esta intensa vendetta personal contra Altman, diciendo que de alguna manera Altman lo engañó para que formara parte de esto. Así que en 2015, Sam Altman está escribiendo estas publicaciones de blog diciendo que esta es, ya sabes, una de las mayores amenazas existenciales. Al mismo tiempo, en 2015, Musk está dando algunos discursos muy famosos en ese momento en el MIT, dijo que la IA era la mayor amenaza existencial y comparó el desarrollo de la IA con invocar al demonio. Y lo que estás diciendo aquí es que estás diciendo que Sam Altman solo estaba reflejando el lenguaje que Elon estaba usando para involucrar a Elon en OpenAI. Y más tarde parece, y de nuevo, hay un caso legal en curso ahora, que Sam podría haber presionado a Elon en cierta capacidad. >> Sí. Sabemos por la demanda y los documentos que han salido en la demanda que Ilia Sgver, que era el científico jefe de OpenAI en ese momento, y Greg Brockman, el director de tecnología en ese momento, cuando decidían si mantener OpenAI como una organización sin fines de lucro porque originalmente se fundó como una organización sin fines de lucro. Decidieron, de acuerdo, necesitamos crear una entidad con fines de lucro, pero la pregunta era quién debería ser el CEO de esta entidad con fines de lucro. ¿Debería ser Musk o debería ser Altman? porque eran los dos copresidentes de la organización sin fines de lucro. Y en los correos electrónicos, quedó claro que Ilia y Greg primero eligieron a Musk para ser el CEO. Pero a través de mi reportaje, descubrí que Altman apeló personalmente a Greg Brockman, que era un amigo suyo que se conocían, se conocían desde hace muchos años en la escena de Silicon Valley, y dijo: "¿No crees que sería un poco peligroso tener a Musk como CEO de esta empresa, esta nueva entidad con fines de lucro, porque, ya sabes, es un tipo famoso. Tiene muchas presiones en el mundo. Podría ser amenazado. Podría actuar erráticamente. Podría ser impredecible. ¿Y realmente queremos que una tecnología que podría ser súper poderosa en el futuro termine en manos de este hombre? Y eso convenció a Greg y Greg luego convenció a Ilia, creo que hay un punto aquí. ¿Realmente queremos darle tanto poder a Musk? Y es por eso que Musk se va, porque entonces los dos cambian sus lealtades. Dicen: "En realidad, queremos que Altman sea el CEO". Y entonces Musk dice: "Si no soy CEO, me voy". >> Entonces, parece que Sam, de nuevo, logró persuadir a alguien para que hiciera algo. >> Mhm. >> Supongo que esto plantea la pregunta, ¿qué piensas de Sam Altman? >> Creo que es una figura muy controvertida. >> Hiciste una pausa interesante. Es una pausa en la que alguien intenta elegir sus palabras. Bueno, esto es esto es esto es lo que es tan interesante de esas entrevistas es que la gente está extremadamente polarizada sobre Altman. Nadie tiene sentimientos intermedios sobre él. O piensan que es el mejor líder tecnológico de esta generación, comparable al Steve Jobs de la era moderna, o piensan que es realmente manipulador, abusivo y mentiroso. Y me di cuenta, porque entrevisté a tanta gente, que realmente se reduce a cuál es la visión del futuro de esa persona y cuáles son sus objetivos. Así que si te alineas con la visión de Altman del futuro, pensarás que es el mejor activo que jamás hayas tenido de tu lado porque este hombre es realmente persuasivo. Es increíble contando historias. Es increíble movilizando capital, reclutando talento, obteniendo todos los insumos que necesitas para hacer que ese futuro suceda. Pero si no estás de acuerdo con su visión del futuro, entonces empiezas a sentir que te está manipulando para que apoyes su visión, incluso si fundamentalmente no estás de acuerdo con ella. Y esta es la historia especialmente de Dario Amadei, CEO de Anthropic, que originalmente era un ejecutivo en OpenAI. Así que para la gente que no lo sabe, Dario ahora dirige Anthropic, que es el creador de Claude. Mucha gente probablemente está más familiarizada con Claude. >> Sí. Y es uno de los mayores competidores de OpenAI. Y Amadei, en ese momento, cuando era un ex ejecutivo de OpenAI, pensó que Altman estaba en la misma página que él y luego, con el tiempo, comenzó a sentir que Altman estaba en la página exactamente opuesta a él y sintió que Altman había utilizado la inteligencia, las capacidades, las habilidades de Amadei para construir cosas y traer una visión del futuro con la que en realidad no estaba fundamentalmente de acuerdo. Y es por eso que la gente termina con este mal sabor de boca. Y así, ya sabes, he estado cubriendo la industria tecnológica durante más de ocho años y he cubierto muchas empresas. He cubierto Meta, Google, Microsoft además de OpenAI. Y OpenAI y Altman es la única figura con la que he visto este grado de polarización, donde la gente no puede decidir si es el mejor o el peor. >> Mencionaste a Dario allí y encontré que realmente, lo que encontré realmente interesante es ver cómo evolucionan las citas de las personas con el tiempo y sus incentivos. Estuve mirando todas las cosas que han dicho públicamente en podcasts y en sus publicaciones de blog para ver cómo ha evolucionado con el tiempo y Dario, que fue el ex vicepresidente de investigación de OpenAI y ahora se ha mudado a Anthropic, que está adoptando un enfoque ligeramente diferente para desarrollar IA, dijo en 2017, mientras todavía estaba en OpenAI, que esta es una cita: "Creo que en el extremo está el estilo de miedo de Nick Bostrom de que una IAG podría destruir a la humanidad. No veo ninguna razón en principio por la que eso no pudiera suceder. Mi probabilidad de que algo salga catastróficamente mal a escala de la civilización humana podría estar entre el 10% y el 25%". Y también mencionaste a Ilia, que fue cofundador de OpenAI y luego se fue. Supongo que la primera pregunta que haría es, ¿por qué se fue? >> Es una gran pregunta. Estuvo instrumental en intentar que Sam Altman fuera despedido y es otra de las personas que con el tiempo sintió que estaba siendo manipulado por Altman para contribuir a algo en lo que no creía. Y para >> ya sabes >> porque entrevisté a mucha gente, Ilia en particular tenía dos pilares que le importaban profundamente. Uno es asegurarse de que lleguemos a la llamada IAG y el otro es asegurarse de que lleguemos a ella de forma segura. Y sintió que Altman estaba socavando activamente ambas cosas. Sintió que Altman estaba creando un entorno muy caótico dentro de la empresa donde estaba enfrentando a equipos entre sí, donde estaba diciendo cosas diferentes a personas diferentes. >> ¿Alguna vez hablaste con él? >> Sí. Así que, así que lo entrevisté en 2019 para un perfil que hice de OpenAI para MIT Technology Review >> y allá por 2019, tiene una cita donde dice: "El futuro será bueno para las IA de todos modos. Sería bueno si también fuera bueno para los humanos. No es que odie activamente a los humanos o quiera hacerles daño, sino que será tan poderoso. Y creo que una buena analogía sería la forma en que los humanos tratan a los animales. No es que odiemos a los animales. Creo que los humanos aman a los animales y tengo mucho afecto por ellos. Pero cuando llega el momento de construir una autopista entre dos ciudades, no le pedimos permiso a los animales. Simplemente lo hacemos porque es importante para nosotros. Y creo que por defecto, ese es el tipo de relación que habrá entre nosotros y las IA, que son verdaderamente autónomas y operan en su propio nombre. Y eso fue en 2019, el año en que lo entrevistaste. >> Una de las cosas que creo que deberíamos dar un paso atrás para examinar es volver a esta idea de qué es incluso la inteligencia artificial y qué queremos decir con inteligencia. Y una gran parte de las opiniones de las diferentes personas y las citas que estás leyendo se derivan de una creencia específica que cada uno tiene en esta pregunta de qué es la inteligencia, qué constituye la inteligencia. Para Ilia, a lo largo de su carrera de investigación, ha sentido que en última instancia nuestros cerebros son modelos estadísticos gigantes. Esto no es algo que realmente sepamos, pero esta es su propia hipótesis, también la hipótesis de su mentor Jeffrey Hinton, que también estuvo en este podcast. Es por eso que tienen una convicción tan fuerte en la idea de construir sistemas de IA que sean modelos estadísticos y que este enfoque en particular conduzca a sistemas inteligentes como somos inteligentes. Es una hipótesis que tienen. No es algo que la ciencia haya demostrado. Y algunas personas discrepan vehementemente con ellos en este punto en particular. Pero si te pones en su lugar y asumes esa hipótesis y asumes que es cierta, que nuestros cerebros son de hecho motores estadísticos y que estos sistemas que están construyendo también son motores estadísticos, que los están haciendo cada vez más grandes hasta que se convierten en el tamaño del cerebro humano. Por eso dicen que hacer esta comparación donde el sistema será igual a la inteligencia humana y luego quizás superará la inteligencia humana es relevante en su marco. Y um Ilia dio una charla en un momento dado en esta conferencia de investigación de IA muy importante que se celebra cada año llamada "Neural Information Processing Systems". Es un trabalenguas, pero dio esta conferencia magistral donde muestra un gráfico del tamaño de los cerebros y la inteligencia de una especie. Y es aproximadamente lineal. Cuanto mayor es el tamaño del cerebro, más inteligente es la especie. Y así, para él, piensa que está construyendo un cerebro digital porque cree que los cerebros son solo motores estadísticos. Entonces, a partir de esa lógica, es como, de acuerdo, si luego construimos un motor estadístico más grande que el cerebro humano, entonces, según este gráfico, será más inteligente y luego estaremos sujetos al mismo tratamiento que hemos sometido a los animales. Pero es realmente importante entender que estas son hipótesis científicas de individuos específicos dentro de la comunidad de investigación de IA y hay mucho, mucho debate sobre si este es realmente el caso y algunos de los mayores críticos dicen que es muy reduccionista pensar en nuestros cerebros como meros motores estadísticos. >> ¿Por qué, por qué importa conocer el mecanismo? ¿No es solo importante conocer el resultado, que es que podrá hacer un video para mí o los agentes podrán hacer el trabajo que yo hago? ¿Realmente importa que conozcamos el mecanismo detrás de esto? >> Sí y no. Así que importa porque estas empresas están impulsando sus acciones futuras basándose en esta hipótesis. Así que han decidido, creemos que esta hipótesis es cierta, como si deberíamos seguir construyendo modelos estadísticos cada vez más grandes en la búsqueda de la inteligencia artificial general. Y eso está teniendo consecuencias globales, como para poder seguir haciendo eso, están acaparando cada vez más datos. Están construyendo cada vez más centros de datos. Están teniendo, ya sabes, explotando cada vez más mano de obra para poder continuar por este camino. Aquí hay una pregunta que creo que es importante hacer: ¿por qué estamos tratando de construir sistemas de IA que sean duplicados de los humanos? Estamos teniendo esta conversación ahora mismo en la que hemos tomado la premisa de esta industria como algo bueno. Como dijeron que deberíamos construir IAG, decimos que deberíamos construir IAG. Me gustaría preguntar, ¿por qué lo estamos haciendo? ¿Por qué estamos construyendo una tecnología que finalmente está diseñada para reemplazar y automatizar a las personas? Esa no es la empresa de la tecnología. Como deberíamos estar construyendo tecnología y el propósito de la tecnología a lo largo de la historia ha sido mejorar el florecimiento humano, no reemplazar a las personas. Y así, esta es una parte crítica de mi crítica a estas empresas y a estos científicos que simplemente han adoptado este objetivo y lo han perseguido implacablemente y han tenido un capital y recursos enormes para perseguirlo. ¿Es este el objetivo correcto? ¿Qué, por qué lo estamos haciendo? ¿Por qué no podemos simplemente construir sistemas de IA que hagan cosas como acelerar el descubrimiento de fármacos y mejorar los resultados de la atención médica de las personas, que son sistemas que no tienen nada que ver con los motores estadísticos que están tratando de construir para duplicar el cerebro humano? >> Entonces, ¿por qué lo hacen? Quiero decir, has entrevistado a toda esta gente. Creo que son, ¿qué, 300 personas en total, 80 o 90 de ellas de OpenAI, el creador de ChatGPT. ¿Por qué crees que lo hacen? Creo que es porque están impulsados por una agenda imperial. Y es por eso que llamo a estas empresas imperios de la IA. >> ¿Qué quieres decir con una agenda imperial? ¿Qué significa ese término? >> Imperio es la única metáfora que he encontrado para encapsular completamente todas las dimensiones de lo que hacen estas empresas y la escala en la que operan y lo que las motiva a hacer lo que hacen. Y hay muchos paralelismos que ves entre lo que llamo los imperios de la IA y los imperios de antaño. Reclaman recursos que no son suyos en la búsqueda de entrenar estos modelos. Esos son los datos de individuos, la propiedad intelectual de artistas, escritores y creadores. Su acaparamiento de tierras para construir estas instalaciones de supercomputación para entrenar los modelos de próxima generación. Segundo, explotan una cantidad extraordinaria de mano de obra. Contratan a cientos de miles de trabajadores en todo el mundo, incluidos en los EE. UU., para finalmente crear estas tecnologías. Podemos hablar más de eso. Y también diseñan sus herramientas para automatizar la mano de obra, de modo que cuando se implementan las tecnologías, también afecta los derechos laborales porque erosiona los derechos laborales. Y esta es una elección política que tienen. Tercero, monopolizan la producción de conocimiento. Y así, proyectan esta idea de que son los únicos que realmente entienden cómo funciona la tecnología. Y así, si al público no le gusta, es porque en realidad no sabe lo suficiente sobre esta tecnología. Hacen esto al público. Lo hacen a los responsables políticos. Y también han capturado a la mayoría de los científicos que trabajan en la comprensión de las limitaciones y capacidades de la IA. >> ¿Crees que están manipulando al público de alguna manera? >> Lo están. Sí. Entonces, si la mayoría de los científicos del clima del mundo fueran financiados por empresas de combustibles fósiles, ¿crees que obtendríamos una imagen precisa de la crisis climática? >> No. >> Y de la misma manera, emplean y financian a la industria de la IA, emplean y financian a la mayoría de los investigadores de IA del mundo. Así que establecen la agenda de investigación de IA de maneras sutiles simplemente canalizando dinero hacia sus prioridades para que solo se produzcan ciertos tipos de investigación de IA. Pero también censurarán a los investigadores cuando no les guste lo que el investigador ha encontrado. Y así, hablo del caso de la Dra. Timnit Gebru en mi libro, quien fue colíder del equipo de IA ética en Google, cuando fue contratada literalmente para criticar los tipos de sistemas de IA que Google estaba construyendo. Luego coescribió un artículo de investigación crítico que mostraba cómo los modelos de lenguaje grandes, en particular, conducían a ciertos tipos de resultados dañinos. Y en un intento por detener la publicación de esta investigación, Google terminó despidiendo a Gebru y luego despidió a su otra colíder, Margaret Mitchell. Y así, controlan y suprimen la investigación que es inconveniente para la agenda del imperio. >> ¿Tienes un ejemplo de que esto le esté sucediendo también a periodistas que hacen preguntas a los miembros de su equipo? Creo que estaba viendo un video tuyo donde había un joven que decía que alguien se presentó en su puerta, llamó a su puerta y pidió información, correos electrónicos, mensajes de texto, y esta persona era de una de las grandes empresas de IA. >> Eso fue OpenAI. Empezaron a citar a algunos de sus críticos. Sí. Um, como parte de lo que parece ser una campaña de intimidación, pero también lo que parecía ser una campaña para obtener más información y mapear aún más la red de críticos. Pero este era un hombre que dirige una pequeña organización sin fines de lucro de vigilancia y habían estado trabajando mucho durante ese tiempo para hacer preguntas sobre el intento de OpenAI de convertirse de una organización sin fines de lucro a una con fines de lucro. Finalmente, OpenAI tuvo éxito en esa conversión. Pero durante el período en que fue algo existencial para OpenAI completar esta conversión, hubo muchos grupos de la sociedad civil y grupos de vigilancia como MIDAS que intentaron evitar que el proceso ocurriera en la oscuridad. Querían más transparencia. Querían más debate público al respecto porque no tiene precedentes. Y fue entonces cuando hubo un golpe en su puerta y le entregaron los papeles. >> ¿Qué decían los papeles? >> Los papeles le pedían que reprodujera cada pieza de comunicación que hubiera tenido que pudiera haber involucrado a Musk. Así que esta fue como esta extraña paranoia que tenía OpenAI de que Musk de alguna manera estaba financiando a estas personas para bloquear la conversión. Ninguno de ellos fue realmente financiado por Musk. Así que en este caso particular, su solicitud simplemente fue respondida, ya sabes, no tengo documentos porque esto no existe. >> Así que volviendo a este punto de los imperios, decías que uno de los factores de un imperio es la apropiación de tierras y luego el siguiente fue >> fue la explotación laboral >> explotación laboral. El tercero, el control de la producción de conocimiento. >> Y uno de los otros que es realmente importante entender sobre los imperios de la IA en particular es que los imperios siempre tienen esta narrativa de que dicen al público como "somos el imperio bueno" y "necesitamos ser un imperio en primer lugar porque también hay imperios malos en el mundo". Y si nos permiten tomar todos los recursos y usar toda la mano de obra, entonces prometemos que les traeremos progreso y modernidad para todos. >> Les traeremos a este estado utópico similar a un cielo de IA. Pero si el imperio malvado lo hace primero, descenderemos al infierno. >> Y el imperio malvado siendo en este caso, >> en este caso, la mayoría de las veces es China. Pero en realidad, en los primeros días, OpenAI evocaba a Google como el imperio malvado. >> Así que todas sus decisiones fueron sobre "tenemos que hacerlo primero porque de lo contrario Google, esta corporación malvada impulsada por las ganancias, nosotros como una organización sin fines de lucro benévola". Esta es una competencia crítica sobre quién gana. >> ¿Crees que las personas que construyen estas empresas de IA creen que el resultado será todo bueno ahora? ¿Crees que creen que servirá a todos? ¿Será la era de la abundancia? ¿Todo irá bien? ¿Qué crees que creen? ¿Qué crees que cree Sam? >> Entonces, entonces esto es tan gracioso, es una parte central de la mitología que crean alrededor de la industria de la IA que incluye la creencia de que podría salir muy mal. Va de la mano. Como necesitan esa parte del mito para luego decir "y es por eso que necesitamos tener el control de la tecnología porque esa es la única manera de que salga muy, muy bien" y Altman ha dicho públicamente, ya sabes, el peor escenario es "luces apagadas para todos", pero el mejor escenario es que curamos el cáncer, resolvemos el cambio climático y hay abundancia. Y Dario Amadei, el mismo tipo de retórica, dijo: "El peor escenario es un daño catastrófico o existencial para la humanidad, el mejor escenario es el florecimiento humano masivo". Así que esto es como dos caras de la misma moneda. Como tienen que usar ambas narrativas para seguir justificando un enfoque extremadamente antidemocrático para el desarrollo de la IA, donde no debería haber una amplia participación en el desarrollo de esta tecnología. Deben ser ellos quienes la controlen en cada paso del camino. >> Sam Altman hizo un tuit diciendo: "Están saliendo algunos libros sobre OpenAI y sobre mí. Solo participamos en dos de ellos. Uno de Kesh Khaggy, centrado en mí, y otro de Ashley Vance sobre OpenAI". Continuó diciendo: "Ningún libro lo tendrá todo bien, especialmente cuando algunas personas están tan decididas a torcer las cosas, pero estos dos autores lo están intentando". Tú retuiteaste ese tuit de Sam Altman y dijiste: "El libro sin nombre, Empire of AI, es mío". ¿Crees que ese tuit de Sam Altman se refería a tu libro? >> 100%. Porque solo hay tres libros saliendo sobre él. >> Y él se enteró de que tu libro estaba saliendo y >> Él sabía que mi libro estaba saliendo porque me había puesto en contacto con OpenAI desde el principio de mi proceso y le dije: "Estoy trabajando en un libro ahora. ¿Participarán en él?". Y, de hecho, inicialmente dijeron que sí, aunque mi historial con OpenAI, perfilé a la empresa para MIT Technology Review. Me integré en la oficina durante 3 días en 2019. Mi perfil salió en 2020, la dirección estaba muy descontenta. Y en mi libro, de hecho, cito un correo electrónico que recibí que Sam Altman envió a la empresa sobre mi perfil diciendo: "Sí, esto no es genial". Y a partir de entonces, la postura de la empresa hacia mí fue: "No participaremos en nada que hagas. No responderemos a nada de las preguntas que recibas". Y esto fue, ya sabes, cosas que articularon explícitamente. No fue como si yo estuviera infiriendo. >> Así que tuve un colega en MIT Technology Review que también cubría IA. Y en un momento dado, OpenAI le envió este comunicado de prensa diciendo: "Nos encantaría que cubrieras esta historia". Y él dijo: "Estoy muy ocupado. ¿Se la envías a Karen?". Y ellos dijeron: "Oh, no. Tenemos un historial. ¿Entiendes?". Y así, durante tres años se negaron a hablar conmigo, pero terminé en The Wall Street Journal, donde se sintieron un poco obligados, porque era el Journal, a reabrir las líneas de comunicación. Y así, comencé a tener, ya sabes, más diálogo con ellos. Cada vez que escribía una pieza, siempre les enviaba mi solicitud de comentarios. Siempre les preguntaba si se sentarían para entrevistas. Y llegamos a una relación más productiva. Y luego me embarqué en el libro. Así que dejé el Journal para dedicarme al libro a tiempo completo. Y les dije de inmediato: "Estoy trabajando en este libro. Quiero continuar esta conversación productiva donde me aseguro de reflejar la perspectiva de OpenAI en el libro". Y entonces dijeron: "Podemos organizar entrevistas para ti. Puedes volver a la oficina. Organizaremos algunas conversaciones". Y luego, mientras íbamos y veníamos sobre esto, la junta despidió a Sam Altman. Y ahí es cuando las cosas empezaron a ir un poco mal porque la empresa empezó a volverse muy sensible al escrutinio. Y entonces empezaron a empujar, pateando la lata, pateando la lata, pateando la lata. Y yo seguía diciendo: "Oye, ¿cuándo reprogramamos esto? ¿Qué está pasando?". Y luego recibo un correo electrónico diciendo: "No vamos a participar en absoluto. No vienes a la oficina. No haces entrevistas". Y yo ya había reservado mis billetes. Así que ya iba a volar a San Francisco para tener las entrevistas. Y entonces les dije: "Está bien. Todavía participaré en el proceso, les enviaré solicitudes de comentarios extensas, preguntaré a través de mi reportaje, los mantendré actualizados sobre todas las cosas que estoy encontrando para que puedan elegir comentar". Les di 40 páginas de solicitudes de comentarios. Y les di más de un mes para responder a todo eso. Así que esto fue cuando salió el tuit, estábamos haciendo todo este ir y venir tratando de y fue entonces cuando Altman tuiteó esto. >> H >> Y nunca respondieron a una sola de las 40 páginas. >> Sam Altman da muchas entrevistas. >> Sí. >> Ya sabes, da muchas entrevistas todo el tiempo. Ha estado en todos los podcasts. Lo he visto desde Tucker Carlson hasta creo que ha estado en Theo, Joe Rogan, um podcasts de todo el mundo. >> Me pregunto por qué no hace el mío. >> Bueno, tal vez. >> No lo sé. Yo, yo, no lo sé. Creo que soy justa con todos. Solo pregunto, solo hago preguntas que realmente me importan. No vengo con grandes preconcepciones o al menos conozco a la gente por primera vez. Pero he oído de boca en boca que no quiere hacer el mío. Quiero decir, volviendo a lo que decías antes, que con la forma en que OpenAI y estas empresas controlan la investigación, preguntaste, ¿también lo hacen con los periodistas? Quiero decir, sí, la respuesta es sí. Y aparentemente también lo hacen con cualquiera que tenga, ya sabes, una plataforma de comunicación masiva amplia. >> No se trata solo de la conversación que vas a tener con ellos, sino de a quién también eliges dar plataforma. Y hay un gran problema en el periodismo tecnológico donde las empresas saben que una zanahoria muy grande que pueden dar a los periodistas tecnológicos es el acceso. >> Sí. Sí. Sí. >> Y retirarán ese acceso a la primera señal si se enteran de que estás hablando con alguien con quien no querían que hablaras. >> Esto es tan cierto. Y no creo que la persona promedio realmente lo entienda. >> Sí. Entonces, esto suena como teoría, como dices, pero no voy a nombrar nombres aquí porque no creo que sea importante, pero hay una persona en particular en IA que, su equipo básicamente ha estado ofreciendo la zanahoria de que venga aquí durante unos 18 meses. Y yo digo, no tienes que ofrecer la zanahoria. Hablaré con quien quiera, independientemente de la zanahoria o no. Y cuando esta persona venga, si quiere venir, le daré una oportunidad justa, le haré todas las preguntas genuinamente curiosas sobre lo que está haciendo, sus incentivos. No lo atraparé. No tengo un historial de atrapar a nadie. Incluso si no me gusta, incluso si tengo una opinión diferente, haré la pregunta. >> Sí. >> Pero ofrecen zanahorias y dicen: "Bueno, si sabes que lo está pensando, pensemos en una fecha". Y lo que es la estrategia, y no creo que piensen que esas personas no entienden, es que si solo lo ofrecemos el tiempo suficiente, entonces actuarán de la manera que queremos que lo hagan y serán >> serán amables con nosotros. No serán críticos. No darán críticas. >> Nuestras críticas. >> Y creo que gran parte de su juego es solo ofrecer la zanahoria para siempre. >> Sí. Sí. >> Ese es como el resultado óptimo si solo lo ofrecemos. Si solo les decimos, sí, mira, solo estamos mirando el horario. >> Simplemente no funciona. Creo que en el mundo moderno, solo tienes que ir allí y dar tu opinión y permitir el choque de ideas en el foro público, dejar que los espectadores decidan por sí mismos. >> Sí. >> Lo que piensan. >> Sí. >> Um, pero esto es un Sí. Esta es una parte tan importante de su maquinaria es la forma en que utilizan estas tácticas para moldear la imagen pública de estas empresas y asegurarse de que la información que no quieren que salga e incluso las opiniones que no quieren que salgan, salgan. >> Mhm. >> Y así, esto es, ya sabes, me siento muy afortunada ahora de que OpenAI me cerrara la puerta temprano. >> En ese momento no me sentí afortunada. Sentí que me había arruinado. Como periodista, ¿tengo acceso más fácil, verdad? Como, se supone que debes informar la verdad y siempre debes informar en interés del público. Como, ese es el punto del periodismo. Y en ese momento, yo era relativamente joven en mi carrera. Pensé, ¿entendí mal de qué se trata el periodismo? >> ¿Debería haber estado jugando el juego del acceso? >> Mhm. >> Pero ya era demasiado tarde. Me cerraron la puerta, así que tuve que construir mi carrera entendiendo que la puerta, la puerta principal, nunca estaría abierta. >> Sí. >> Y eso en realidad fortaleció mi propia capacidad para simplemente decir las cosas como son, como objetivas. Sí. Y simplemente informar lo que veo que son los hechos que se me presentan, independientemente de si a la empresa le gusta o no. Y la mayoría de las veces a la empresa realmente no le gusta, pero >> puedo seguir haciendo el trabajo. No necesitan abrirme la puerta principal. Todavía pude hacer más de 300 entrevistas. >> Entonces, Sam Altman es expulsado del equipo ejecutivo de OpenAI. ¿Descubriste por qué sucedió eso? >> Sí, hay un recuento escena por escena >> de quién? No recuerdo el número exacto de fuentes, así que no quiero citarme mal, pero fueron alrededor de seis o siete personas que estuvieron directamente involucradas o habían hablado con personas directamente involucradas en el proceso de toma de decisiones. Así que Ilia Satskever está viendo serias preocupaciones sobre la forma en que el comportamiento de Altman está llevando a malos resultados de investigación y malas decisiones en la empresa. Luego se acerca a un miembro de la junta, Helen Toner. Ilia, para cualquiera que no lo sepa, es el cofundador que mencionamos antes. El cofundador de OpenAI que mencionamos antes. >> Sí. Y él hace un poco de caja de resonancia para Helen solo porque Ilia está entrando en pánico. Él ha estado guardando estas preocupaciones durante un tiempo y dice: "Si le digo esto a alguien, esto también podría ser muy malo para mí si Altman se entera". Y así, pide una reunión con Toner y en esa primera reunión, apenas dice nada. Solo está dando vueltas tratando de averiguar si esta es alguien en quien podría confiar para divulgar más información. >> ¿Y cuál era el papel y las responsabilidades de Toner en OpenAI? >> Ella era miembro de la junta. >> Solo una miembro de la junta. >> Sí. Y específicamente una miembro independiente de la junta. Así que OpenAI, cuando era una organización sin fines de lucro, la junta estaba dividida entre personas que tenían una participación, una participación financiera en la empresa y luego personas que eran completamente independientes, y esto estaba destinado a ser una estructura que equilibraría la toma de decisiones para que fuera en beneficio del interés público en lugar de en beneficio de la entidad con fines de lucro que OpenAI luego creó. >> Y Ilia, como miembro no independiente de la junta, se acercaba a Toner como miembro independiente de la junta para tratar de ver si ella estaba viendo o escuchando las mismas cosas que él sobre el efecto que Altman estaba teniendo en la empresa. Esto luego desencadena una serie de conversaciones, primero entre Ilia y Helen, y luego entre Amir Moratti y algunos de los miembros de la junta. Samir Moratti era en ese momento el director de tecnología de OpenAI, donde estos dos altos líderes, esencialmente a través de estas conversaciones y a través de la documentación que están recopilando, como correos electrónicos, mensajes de Slack, etc., transmiten a los miembros independientes de la junta, tres miembros independientes de la junta, estamos muy preocupados por el liderazgo de Altman, está creando demasiada inestabilidad en la empresa y es como si él fuera la raíz del problema. No es que estuvieran tratando de decirles a estos miembros independientes de la junta que el problema no se solucionará a menos que se elimine a Altman debido a la forma en que está enfrentando a los equipos entre sí y creando este entorno donde las personas ya no pueden confiar unas en otras y compiten en lugar de colaborar en lo que se supone que es esta tecnología tan, tan importante. Cuando dices inestabilidad, eso es un término bastante vago. Eso podría significar muchas cosas. Como la inestabilidad podría significar presionar a la gente para que trabaje más duro, >> ¿verdad? >> ¿Qué quieres decir con inestabilidad en términos específicos, tan específicos como puedas? >> Cuando ChatGPT salió al mundo, OpenAI no estaba preparado en absoluto. >> No pensaron que estaban lanzando un producto exitoso. >> Sí. Pensaron que estaban lanzando una vista previa de investigación que les ayudaría a poner en marcha el ciclo de datos, recopilar un montón de datos de los usuarios que luego informarían lo que pensaban que sería el producto exitoso, que era un chatbot que usaba GPT4 y ChatGPT usaba GPT 3.5. Y debido a eso, hubo fallos en los servidores.

todo el tiempo porque ellos ellos no estaban, ellos tuvieron que escalar su, su infraestructura, sabes, más rápido que cualquier compañía en la historia. Y hubo, eh, hubo todas estas interrupciones. Ellos estaban tratando también de contratar más rápido que cualquier compañía en la historia para tratar de tener más personal allí. Y a veces estaban contratando gente de la que decían, "En realidad, cometimos un error. No deberíamos haberte contratado". Así que estaban despidiendo gente a diestra y siniestra. Y la gente simplemente desaparecía de Slack y así era como sus colegas se enteraban de que ya no estaban en la compañía. Y así fue, sí, como muchas compañías de rápido crecimiento, un ambiente muy caótico y un ambiente particularmente caótico porque fue extra rápido, como que tuvieron que acelerar más que cualquier otra startup. Y además de eso, Mirror Morati e Ilasgiver sintieron que Alman lo estaba empeorando, como que él no estaba realmente aliviando eficazmente las circunstancias del caos. Él estaba, de hecho, sembrando más caos, haciendo que estos equipos estuvieran más divididos. Y aquí es donde es importante entender que los ejecutivos y los miembros independientes del consejo están operando bajo la idea de que están construyendo AGI y que la AGI podría ser devastadora o utópica para la humanidad. Y así, no es, sí, es como cualquier otra compañía y no, no es como ninguna otra compañía. No puedes tener, en su opinión, no puedes tener este grado de caos como la olla a presión para crear una tecnología que, en su concepción, podría hacer o deshacer el mundo. Y así, eso es básicamente en lo que los miembros independientes del consejo también comienzan a reflexionar. Tienen estas conversaciones entre ellos donde dicen, "Bueno, basándonos en lo que estamos escuchando sobre el comportamiento de Altman, como si esto fuera Instacart, ¿justificaría despedirlo?" Y concluyeron, "Quizás no, pero esto no es Instacart". Y por eso dijeron, "Bueno, carajo. Quizás esto realmente sí alcanza el nivel en el que deberíamos considerar reemplazarlo porque, en última instancia, estamos construyendo una tecnología que creemos que podría tener impactos transformadores, ya sea en la dirección positiva o negativa". Y así es como sucede. Es como estos dos ejecutivos y luego los miembros independientes del consejo también, ellos estaban escuchando otros comentarios también de sus conexiones dentro de la compañía con otras personas en la industria. En un momento dado, Adam D'Angelo, que es uno de los miembros independientes del consejo y el CEO de Kora, eh, que es, ya sabes, una startup tecnológica en el valle, está en una fiesta en San Francisco, y comienza a escuchar algunos de estos rumores de que hay algo raro en la forma en que OpenAI ha estructurado su fondo de startups de OpenAI, que era este fondo que la compañía había creado para empezar a invertir en otras startups. >> Mhm. Y se da cuenta de que nunca habían visto realmente documentación sobre cómo se había configurado el fondo de startups de Altman. Y finalmente obtienen los documentos y resulta que el fondo de startups de OpenAI no es el fondo de startups de OpenAI. Es el fondo de startups de Altman. Y esto fue algo como una de varias experiencias que los miembros independientes del consejo también estaban teniendo donde decían, hay algo que no está bien en el hecho de que continuamente hay inconsistencias, inconsistencias entre la forma en que Altman está retratando lo que se está haciendo versus lo que realmente se está haciendo. Y así, cuando estos dos ejecutivos se acercan al consejo o a los miembros independientes del consejo, entonces dicen, "De acuerdo, esto coincide también con las experiencias que hemos estado teniendo". Y en ese momento, tienen esta serie de discusiones muy intensas donde se reúnen casi todos los días hablando de si realmente deberíamos considerar remover a Altman. Y al final concluyen, sí, deberíamos. Y si vamos a hacerlo, necesitamos hacerlo rápidamente. Porque estaban muy preocupados de que en el momento en que Altman se enterara, sus habilidades persuasivas harían imposible hacerlo. Y así, terminan despidiendo a Altman sin decirle a nadie. Sabes, no hablan con ningún interesado para ponerlos en la misma página. Microsoft recibe una llamada justo antes de ejecutar la acción diciendo, "Vamos a despedir a Altman". >> Y Microsoft, para cualquiera que no lo sepa, es un inversor principal en OpenAI en ese momento. >> Sí. Uno de los únicos inversores en OpenAI en ese momento. Y eso es lo que luego desata todo porque cada persona que se ve afectada por esta decisión está ahora extremadamente enojada de que no se les involucró. Y eso es lo que luego crea esta campaña para traer de vuelta a Altman. Y luego Altman es reinstalado como CEO días después. >> Esta compañía en la que acabo de invertir, ha crecido como loca. Quiero ser yo quien te cuente sobre ella porque creo que te va a dar una ventaja de productividad enorme. Whisper Flow es una aplicación que puedes tener en tu computadora y en tu teléfono en todos tus dispositivos y te permite hablar con tu tecnología. Así que, en lugar de escribir un correo electrónico, hago clic en un botón en mi teléfono y puedo simplemente hablar el correo electrónico para que exista y utiliza IA para limpiar lo que estaba diciendo. Y luego, cuando termino, simplemente presiono este botón aquí y todo el correo electrónico está escrito para mí. Y me está ahorrando tanto tiempo al día porque Whisper aprende cómo escribo. Así que en WhatsApp, sabe que soy un poco más informal. En el correo electrónico, un poco más profesional. Y además, hay algo realmente interesante que acaban de hacer. Puedo crear frases cortas para hacer el trabajo automáticamente por mí. Puedo simplemente decir Jack's LinkedIn y copia el perfil de LinkedIn de Jack para mí porque sabe quién es Jack en mi vida. Esto me está ahorrando una gran cantidad de tiempo. Esta compañía está creciendo como loca. Y esta es la razón por la que invertí en el negocio y por la que ahora son patrocinadores de este programa. Y Whisper Flow, francamente, se está convirtiendo en el secreto peor guardado en negocios, productividad y emprendimiento. Pruébalo ahora en whisperflow, escrito w i s p r l o w.ai/steven. Será un cambio radical para ti. Hay una fase que muchas compañías alcanzan donde ya no hacen lo más importante, que es vender. Y se atascan mucho con la administración. Y a menudo es algo que se cuela lentamente y no te das cuenta hasta que ha sucedido. Lentamente el impulso comienza a filtrarse. Esto nos sucedió a nosotros y nuestro patrocinador Pipe Drive fue una solución que encontré hace 10 años. Y desde entonces, mis equipos en mis diferentes compañías han seguido usándolo. Pipe Drive es un CRM de ventas simple pero potente que te da visibilidad de cualquier trato en tu pipeline. También automatiza muchas de las partes tediosas, repetitivas y que consumen tiempo del proceso de ventas, lo que a su vez te ahorra tantas horas cada mes, lo que significa que puedes volver a vender. Tomar esa decisión temprana de cambiar a Pipe Drive fue un verdadero cambio de juego, y mantuvo las cosas importantes en primer plano. Mi característica favorita es la capacidad de Pipe Drive de sincronizar tu CRM con múltiples bandejas de entrada de correo electrónico para que todo tu equipo pueda trabajar junto desde una plataforma. Y no somos los únicos que nos beneficiamos. Más de 100,000 compañías usan Pipe Drive para hacer crecer su negocio. Así que, si algo de lo que he dicho resuena, dirígete a pipedrive.com/ceeo donde puedes obtener una prueba gratuita de 30 días. No se requiere tarjeta de crédito ni pago. ¿Cómo es despedido el CEO de una gran compañía por el consejo? Porque los miembros del consejo, hay una cita en tu libro en la página 357 donde dices sobre Ilia diciendo, "No creo que Sam sea el tipo que debería tener el dedo en el gatillo para la AGI". Ahora, yo me hago esta pregunta. Sabes, trabajo con mucha gente aquí. Tenemos 150 personas que trabajan en este negocio y esas personas me conocen mejor. >> Sí. >> Me ven en cámara. Me ven fuera de cámara. Así que si dijeran que no creemos que Steven sea la persona adecuada para presentar el direc >> Sí. >> Llevaría mucho para que dijeran eso. >> Sí. >> Deben haber visto algo fuera de cámara para que dijeran, no creemos que sea la persona adecuada para estar en cámara. Sí. >> O por cualquier razón. Y en el caso de la IA, que es mucho más importante que un podcast que, ya sabes, se filma en mi vieja cocina. Um, casi te da escalofríos pensar que el cofundador de un negocio ha ido al consejo y ha dicho que este no es el tipo para liderar esto, lo cual es importante. Yo, Mirror Marotti, también dije, no creo que Altman sea el tipo adecuado. >> Y luego ambos se fueron más tarde. >> Así que luego Altman regresa y, helo aquí, Ilia nunca regresa. Así que sus preocupaciones sobre el hecho de que Altman se enterara sería malo para él se manifestaron. Él terminó no regresando y Miriam Marotti se fue poco después. >> Bastante gente de estas se va, ¿verdad? Open AAI >> sí. Así que si consideras que una de las historias de origen de Open AI es esta cena que ocurrió en el Rosewood Hotel, que es un hotel muy elegante um justo en el corazón de Silicon Valley que era uno de los favoritos de Elon Musk siempre que venía de LA a la Bahía. Y hubo esta cena allí donde Altman tenía la intención de reclutar al equipo OG que comenzaría OpenAI. Así que les está diciendo a todos que podrían tener la oportunidad de conocer a Musk porque Musk vendrá a esta cena. Y él le envía un correo electrónico a Ilia y consigue que Ilia venga porque, e Ilia específicamente quiere venir porque quiere conocer a Musk. Y también envía correos electrónicos a todas estas otras personas, incluyendo a Greg Brockman, Dario Amade. Todas estas personas terminaron trabajando en Open >> y casi todos ellos, no todos, pero casi todos ellos terminan trabajando en OpenAI >> y se van >> casi todos ellos terminan yéndose específicamente después de chocar con Altman >> e Ilia se fue y lanzó una compañía llamada Safe Super Intelligence. >> Sí. >> Que es, quiero decir, eso es indirecto si alguna vez he escuchado uno. ¿Sabes a qué me refiero? ¿Sabes a qué me refiero? Si alguien cofundara este podcast conmigo y luego se fuera y comenzara un podcast llamado Safe Podcasting, lo tomaría como una ofensa. Tendría gente llamando a su puerta y pidiendo sus textos. Una de las cosas que está sucediendo aquí es >> no es una coincidencia que cada multimillonario tecnológico tenga su propia compañía de IA. >> Mhm. >> Quieren crear IA a su propia imagen y por eso siguen sin llevarse bien. Y de hecho, no es solo que no se lleven bien, terminan odiándose después de trabajar juntos. >> Mhm. Y luego se dividen en sus propias organizaciones. Así que después de que Musk se va, él comienza XAI. Después de que Dario se va, él comienza Anthropic. Después de que Ilia se va, él comienza Safe Super Intelligence. Después de que Meera se va, ella comienza Thinking Machines Lab. Quieren tener control sobre su propia visión de esta tecnología. Y la mejor manera que han derivado de sus experiencias de tratar de poner su visión en la arena es creando un competidor y luego compitiendo con OpenAI y con todas las demás compañías. ¿Crees que algunos de estos CEOs de IA se dan cuenta de que están literalmente invocando al demonio como dijo Elon hace 10 años, pero realmente no les importa porque ser la persona que invocó al demonio te hace importante y poderoso e histórico, incluso si el resultado es potencialmente horrible? Incluso si hay como un 20% de resultado de que sea horrible. Recuerdo que creo que fue Dario, él es el que dijo que hay entre un 10% y un 25% de posibilidades de que las cosas salgan catastróficamente mal a escala de la civilización humana. 25% es una posibilidad de una en cuatro. Si pones balas en un revólver de cuatro cámaras y dices Steven, la ventaja es que podrías convertirte en un multimillonario y ser recordado para siempre. La desventaja es que habría una bala en tu cabeza. No hay ninguna posibilidad de que acepte esa apuesta con un 25% de posibilidad de que las cosas salgan catastróficamente mal. >> Así que, tengo una respuesta muy larga para esto porque, ¿saben si están invocando al demonio? Realmente depende de lo que definamos como invocar al demonio. Y en este caso particular, para volver a lo que decíamos antes, hay una mitología que la industria de la IA utiliza donde invocar al demonio es una parte integral de convencer a todos de que por lo tanto solo ellos pueden desarrollar esta tecnología. >> Lo entiendo. Así que por un lado, tienes que decir, si no lo hacemos nosotros, lo hará China y eso es terrible. >> Sí. Pero si dejamos que alguien más lo haga aparte de mí, entonces estamos igual. >> Exactamente. >> Así que eso significa que tengo que hacerlo yo y tú tienes que darme dinero y apoyo. >> Exactamente. Así que cuando dicen estas cosas, debemos entenderlas no como una predicción genuina basada en lo que están viendo porque, en primer lugar, no predecimos el futuro. Lo creamos. Debemos entender esto como un acto de habla para persuadir a otras personas a creer que deben ceder más poder, más recursos a estos individuos. Y así, ¿saben que están invocando al demonio? Quiero decir, están tratando a propósito de crear esta sensación en el público de que lo están haciendo porque es una parte crucial de su poder. Pero, ¿saben si definimos simplemente si se dan cuenta de que las cosas que están haciendo ya están teniendo impactos muy dañinos en todo el mundo sobre personas vulnerables, comunidades vulnerables, países vulnerables? Ahí es donde digo, quizás sí, quizás no. Y realmente no les importa porque en el marco mental, a veces uso la analogía de que el mundo de la IA es como Dune. >> Dune para cualquiera que no conozca Dune >> épica de ciencia ficción escrita por Frank Herbert y está ambientada en una era intergaláctica donde hay todas estas casas y luchan entre sí por la especia. Así que es una referencia al colonialismo y al imperio y todos intentan controlar la especia. Pero una de las características de esta historia es que hay mitos que se siembran en los diferentes planetas sobre un mito religioso básicamente sobre la venida del Mesías que se utilizan para controlar a la gente. Y Paul Atreides cuando llega al planeta Arrakis, con la intención de, eh, luego luchar contra el imperio y vengar la muerte de su padre. Él entra en un mito que se ha sembrado en este planeta que dice que un día vendrá un Mesías que salvará el planeta. Así que él asume el papel del Mesías y se apoya en esta idea para controlar mejor a la gente y reunirlos detrás de él como líder para ayudar en esta búsqueda. Él sabe que es un mito al principio, pero como vive, respira y lo encarna, se desdibuja un poco en su mente si esto es realmente un mito o si él es realmente el mesías. Y esto es lo que creo que sucede en el mundo de la IA. Por un lado, hay todos estos ejecutivos que participan activamente en la creación de mitos porque, ya sabes, tengo todos estos documentos internos sobre los que escribo en el libro donde son muy conscientes de cómo atraer al público mostrándoles demostraciones deslumbrantes de la tecnología utilizando una misión que sonará muy bien y hará que la gente dé más indulgencia a sus compañías. Así que saben que están creando mitos y también creo que muchos de ellos se pierden en el mito porque tienen que vivir, respirar y encarnarlo día tras día. Y así, cuando Daario dice que cree que entre el 10 y el 25% del futuro podría ser catastrófico o la probabilidad que sea del 10 al 25%, está participando activamente en la creación de mitos, pero también se está perdiendo en el mito. Como creo que si le preguntaras, "¿Realmente crees eso?", él diría, "Sí, realmente creo eso". Porque ha habido una confusión entre cuando dice algo solo para decir algo y cuando realmente cree lo que se le exige creer para poder seguir haciendo las cosas que está haciendo. >> Y esta es toda la psicología de la disonancia cognitiva, ¿verdad? donde el cerebro lucha por mantener dos visiones del mundo contradictorias al mismo tiempo. Así que está incentivado o se esfuerza por descartar una. Así que si, ya sabes, si quisieras ser una persona sana pero también fumadora. Um, y te señalo que fumar es malo para ti. Las primeras palabras que saldrán de tu boca serán sí, pero >> fumar me ayuda con el estrés. Sí, pero solo lo hago cuando creo que no lo sé, lo veo un poco en este momento porque estas compañías tienen que recaudar cantidades exorbitantes de dinero para financiar su investigación de IA y están construyendo todos estos centros de datos. >> Así que cuando están en público, siempre están recaudando fondos. Todas estas grandes compañías están recaudando fondos todo el tiempo en este momento. >> Así que no puedes estar recaudando fondos y diciendo, "Voy a destruir el futuro de tus hijos. Hay un 25% de posibilidad de que tus hijos no tengan una buena vida". Lo cual podría ser la verdad. Quiero decir, eso es realmente lo que dicen, Dario. Esto es lo que famosamente hace Dario Amade. Él dice >> lo hace, pero los demás, Sam no lo hace tanto ya. >> Sí. Y es porque, ya sabes, vuelve a cada uno de ellos distinguiéndose un poco como la marca que necesitan proyectar. >> ¿Crees que alguno de ellos tiene una brújula moral más fuerte que otros? Porque creo que Dario a menudo recibe el crédito por tener más, ya sabes, más columna vertebral y ser más consciente de las implicaciones. >> Recibe mucho crédito por eso. >> Él es de Claude y Anthropic. Para cualquiera que no lo sepa, >> No creo que importe realmente esa pregunta, la respuesta a esa pregunta, porque para mí, >> incluso si intercambiaras a todos los CEOs por alguien que la gente diría que es mejor dirigiendo estas compañías, no soluciona el problema que identifico en el libro, que es que hay un sistema de poder que se ha construido donde estas compañías y las personas que dirigen estas compañías toman decisiones que afectan las vidas de miles de millones de personas en todo el mundo y esos miles de millones de personas no tienen voz en cómo va. >> Esa gente, pueden ir a las urnas, ¿verdad? Así que, si el público está suficientemente educado, pueden ir a las urnas y elegir a un líder que diga que va a legislar o aprobar leyes o intentar aprobar leyes. >> Sí. Pero a la velocidad y el ritmo a los que operan estas compañías y a la escala y tamaño que tienen, también pueden gastar cantidades extraordinarias de dinero, cientos de millones en estas próximas elecciones de mitad de período para intentar matar cada pieza posible de legislación que se interponga en su camino y crear legislación que codifique su ventaja. Y así, para mí, creo que a veces como sociedad, nos obsesionamos un poco con si estos líderes son buenas o malas personas. Y para mí, la pregunta más importante es si la estructura de gobernanza que hemos creado es sólida o si permite una amplia participación o es antidemocrática y ha consolidado este poder de toma de decisiones en manos de unos pocos, porque ninguna persona es perfecta. No me importa quién esté al frente de estas compañías. No tendrán la capacidad de tomar decisiones en nombre de tantas personas en todo el mundo que viven y hablan y tienen una cultura e historia fundamentalmente diferentes de ellos sin que las cosas salgan mal. Y por eso a lo largo de la historia hemos pasado de imperios a democracia. Es porque el imperio como estructura es inherentemente insostenible. En realidad, no maximiza las posibilidades de que la mayoría de las personas en el mundo puedan vivir vidas dignas. >> Voy a intentar ponerme en su lugar. Así que, esto es yo jugando al abogado del diablo. ¿De acuerdo? Pero Karen, si Estados Unidos no continúa acelerando su investigación con IA, en algún momento el modelo de China se volverá tan inteligente que básicamente tendremos que alquilárselo y nosotros seremos, ya sabes, ellos obtendrán los descubrimientos científicos. Descubrirán la nueva era de las armas autónomas y nosotros seremos su patio trasero. Y lógicamente, ese argumento parece ser bastante cierto. >> No, no lo es. >> Si escalamos, si imaginamos cualquier tasa de cambio con esta inteligencia, en algún momento llegaremos a un arma que podría teóricamente deshabilitar, eh, toda la electricidad de Estados Unidos, sus sistemas de armas. Sabría exactamente cómo deshabilitar a Estados Unidos desde una perspectiva cibernética porque sería tan inteligente. Solo tienes que imaginar cualquier tasa de mejora durante cualquier período, cualquier período de tiempo prolongado. Así que esta es una teoría que podría ser cierta y si es cierta >> quiero decir, sí, cualquier teoría podría ser cierta >> pero pero pero pero sabes, de nuevo, volviendo a este punto de como incluso si es un pequeño porcentaje, vale la pena prestarle atención al otro lado del pie. Esta es una teoría de la que la gente habla. Podría ser que la civilización más inteligente sea la civilización superior. Lógicamente, eso es algo bastante sólido de decir. No. >> Así que, hay muchos, muchos fundamentos en este argumento que necesitarían ser ciertos para que este sea un argumento viable. Y vamos a derribarlos uno por uno. Así que el primero es que estos sistemas son inteligentes y que simplemente escalarlos nos traerá más inteligencia. Hasta ahora, tan cierto. >> No, en realidad no es así, porque en primer lugar, de nuevo, no sabemos realmente si estos sistemas son como la inteligencia no es como la analogía correcta casi. Es como, ¿es una calculadora una calculadora puede resolver problemas matemáticos más rápido que un humano? ¿Eso la hace inteligente? >> Tiene una inteligencia estrecha porque están resolviendo un problema estrecho que es como 1 + 1 = 2. Pero >> y estos sistemas, en realidad también son bastante estrechamente inteligentes en el sentido de que, aunque estas compañías dicen que son máquinas que pueden hacer cualquier cosa para cualquiera, en realidad solo pueden hacer algunas cosas para algunas personas. Esta es como la frontera irregular de estos modelos de IA, algunas de las capacidades son bastante buenas, otras capacidades no son tan buenas. ¿Sabes por qué sucede eso? Es porque la compañía solo puede centrarse en avanzar ciertos tipos de capacidades. No puede centrarse literalmente en avanzar todo tipo de capacidades. Tienen que realmente fijarse en avanzar una cierta, reuniendo los datos necesarios para esa capacidad, tomando, eh, ya sabes, consiguiendo un montón de contratistas humanos para anotar y entrenar el modelo para hacer exactamente eso. Y así, escalar estos modelos es en realidad una pregunta perpendicular a si estamos obteniendo más capacidades cibernéticas específicamente y más capacidades militares específicamente. >> Argumentaría que la mayoría de las personas más importantes en IA creen que la inteligencia continuará escalando por un tiempo. Muchos de ellos sí, como Jeffrey Hinton. >> Y de nuevo, es, es volver a su hipótesis sobre cómo funciona la inteligencia humana y cuál es el modelo apropiado del cerebro. Su hipótesis a lo largo de su carrera ha sido que el cerebro es un motor estadístico. >> Pero esa es su hipótesis y no se acuerda universalmente, especialmente entre las personas que no están en el mundo de la IA. Cuando hablas con neurocientíficos y psicólogos, personas que realmente estudian la inteligencia humana en el cerebro humano, es ahí donde empiezas a tener mucho debate y desacuerdo sobre esta visión particular que tiene Hinton. Y así, esto es como una de las cosas es como la IA ya se está utilizando en el ejército y se ha utilizado en el ejército durante mucho tiempo. Pero acelerar específicamente los modelos de lenguaje grandes no es el único camino para obtener capacidades militares. Como las compañías tendrían que elegir específicamente acelerar capacidades militares, no solo inteligencia general. Es como, ¿sabes lo que quiero decir? Como que crean este mito de que realmente están empujando la frontera de todas las capacidades del modelo, pero eso no es lo que realmente está sucediendo internamente y tengo, tuve cientos de páginas de documentos sobre cómo estaban entrenando específicamente modelos, eligen qué capacidades quieren avanzar y, ya sabes, cómo las eligen, se basa en qué industrias y países podrían pagarles más dinero por sus servicios. Así que eligen finanzas, derecho, medicina, atención médica, comercio. En realidad, no es inteligente como un bebé, donde cuanto más crece el bebé, comienza a tener estas habilidades generales. >> Creo que tengo inteligencia irregular. Seré honesto. No iba a decirlo, pero creo que sé un poco sobre, eh, No, sé mucho sobre un poco. >> Sí, pero tú también tienes la capacidad de aprender y adquirir conocimiento por ti mismo. Y también tienes la capacidad de elegir qué vas a aprender y adquirir por ti mismo. >> No es fácil y lleva mucho más tiempo que estos modelos. Parece menos cómputo, pero >> y puedes aprender a conducir en un lugar y luego inmediatamente saber cómo conducir en otro lugar. Estos modelos no pueden hacer eso. Cada vez que un coche autónomo se traslada a otra ubicación, tiene que volver a entrenarse completamente en esa ubicación. Es como todos los coches autónomos. Quiero decir, estamos sentados en Austin ahora mismo y hay todos estos coches autónomos que circulan por Austin. Pero cuando uno de ellos aprende, todos aprenden. >> ¿Cuál es cuál? >> Bueno, es solo porque es un sistema operativo que tiene un modelo de IA como parte de él y estás entrenando el modelo de IA y luego despliegas ese modelo de IA en todos los coches autónomos. >> Una gran ventaja porque si un robot optimista aprende algo en una fábrica, todos lo aprenden y imagina eso, imagina si los humanos, si todos aprendiéramos lo que todos los demás humanos aprendieron, eso nos daría una ventaja competitiva increíble. Quiero decir, una de las formas en que lo hicimos fue a través de la comunicación. >> No podrían, porque podrían estar aprendiendo lo incorrecto, lo que también ha sucedido una y otra vez con estas tecnologías es que todos aprenden lo incorrecto y todos tienen el mismo modo de falla. Quiero decir, parte de la resiliencia de la sociedad humana es que tenemos diferentes experticias y también tenemos diferentes modos de falla. >> Creo que a veces exigimos a los modelos de IA un estándar más alto del que exigimos a los humanos. Y de una manera extraña, porque, eh, escucho en el escenario, estamos en Austin en este momento y escucho a la gente decir, ah, pero sabes, esos modelos de IA, a veces alucinan. Y yo digo, "¿Has conocido a un humano?" Como, yo alucino todo el tiempo. Apenas puedo deletrear o hacer matemáticas. >> Así que, >> sí, pero es, es una vez más como usar esta analogía que fue elegida específicamente en los primeros días del campo como una forma de comercializar estas tecnologías. Como que usamos repetidamente la analogía de la inteligencia y relacionamos estas máquinas con la inteligencia humana como una forma de medir si es buena, digna o capaz en la sociedad. Creo que el resultado es lo que realmente es lo más importante, que es como, bueno, puede tener un cerebro diferente y un sistema diferente, pero ¿llega a la misma capacidad? Como, ¿es capaz de hacer cirugía en el cerebro de alguien? ¿Es capaz de conducir un coche como el mío se conduce solo en Los Ángeles? No toco el volante y puedo conducir durante muchas, muchas horas y aquí en Austin, acabo de ver los nuevos Cybercabs donde han quitado el volante y los pedales. Así que, en realidad, no importa si está usando un sistema diferente, si está navegando por el mundo como un coche, tiene un mejor historial de seguridad que los seres humanos. Entonces, hasta donde yo sé, inteligencia o no, es como >> sí, sabes, >> pero ese no fue el argumento original que hiciste, que fue como que estos sistemas simplemente se volverán más inteligentes en general en diferentes cosas basándose en la predicción. Esta es una predicción que estás haciendo, ¿verdad? Como que y esta es una predicción que todos los de IA >> Ilia está haciendo, Dario está haciendo, Elon está haciendo, Zuckerberg está haciendo, Man está haciendo, Dennis está haciendo. >> ¿Y sabes cuál es la característica común de todos ellos? Que se benefician enormemente de este mito. >> Elon ha encabezado recientemente la construcción de Colossus, una supercomputadora masiva en Memphis que alberga 100,000 GPUs específicamente para escalar sus modelos de API más rápido que sus competidores. Parece que todos han convergido en esta idea de que puedes abrirte camino a través de la fuerza bruta hacia una inteligencia mayor y más generalizada. Han convergido en la idea de que puedes abrirte camino a través de la fuerza bruta hacia modelos que pueden vender a la gente para automatizar ciertas tareas que son financieramente lucrativas. >> Y escuché a Elon decir que si eres cirujano, simplemente no tiene sentido. Dijo, no te entrenes para ser cirujano. Dice que en un par de años, Optimus y la IA en general serán mejores que cualquier cirujano que haya existido. >> Sí. Sabes, >> ¿Crees que estas cosas son ciertas? Bueno, sabes, estoy bastante segura de que fue Hinton quien dijo famosa o infamemente que ya no habría necesidad de radiólogos. >> Ya no habría necesidad de radiólogos y estableció un plazo que ya hemos pasado. No recuerdo cuántos años. La radiología está muy bien como profesión. >> ¿Crees que será en 5 años? >> De acuerdo. Así que, esto vuelve una vez más a esta pregunta de como por qué construimos tecnología y por qué deberíamos construir IA específicamente. De acuerdo. Y para mí, todo el proyecto de desarrollo tecnológico y avance no es avanzar la tecnología por el bien de la tecnología. >> Es para ayudar a la gente. Y ha habido mucha investigación que ha demostrado que, de hecho, los mejores resultados para las personas en un entorno de atención médica es que el radiólogo tenga el modelo de IA en sus manos y que el experto humano utilice el modelo de IA como una herramienta, como una entrada para su juicio. Y es esa combinación la que conduce a los diagnósticos más precisos y tempranos de ciertos tipos de cáncer que luego ayudan a mejorar el pronóstico del paciente. >> ¿Crees que en los próximos años todos los coches, casi todos los coches en la carretera se conducirán solos? >> No. >> ¿No crees? >> Mm-m. >> ¿Por qué? >> Por la forma en que funciona la tecnología. >> Porque porque estos son estadísticos, quiero decir, actualmente la forma en que se desarrollan principalmente los modelos de IA. Son motores estadísticos. Tienes lo que se llama una red neuronal, que es una pieza de software que tiene un montón de nodos densamente conectados y >> como parámetros. ¿Es esto lo que llaman parámetros? >> Sí, prácticamente. Y simplemente le estás metiendo un montón de datos y luego analiza los datos y crea todas estas, encuentra todas estas correlaciones en los datos, encuentra todos estos patrones y luego, a través de esos patrones, la máquina es capaz de actuar de forma autónoma, ¿verdad? Y así, la forma en que entrenan un coche autónomo es que graban todo este metraje y luego tienen decenas de miles o cientos de miles de contratistas humanos que dibujan literalmente alrededor de cada vehículo en el metraje, cada peatón, cada semáforo, cada marca de carril y lo etiquetan exactamente como tal. Para que luego se introduzca en un modelo de IA que pueda identificar todos estos diferentes componentes y luego se conecte a otra pieza de software que no es IA que dice, de acuerdo, si el modelo de IA reconoce al peatón, no atropellamos al peatón. Si el modelo de IA reconoce un semáforo en rojo, nos detenemos. Y así, lo que pasa con los motores estadísticos es que se basa en probabilidades. No se basa en lógica determinista. Así que los sistemas cometen errores todo el tiempo y es imposible. Es técnicamente imposible hacer que dejen de cometer errores. >> Los humanos cometen errores mucho más que >> los sistemas en este caso. Como, ¿el historial de seguridad no es como 10 veces más seguro ser conducido en un Tesla con conducción autónoma que para un humano conducir? >> Depende del lugar. Depende de si el Tesla fue entrenado específicamente para navegar por el lugar en el que estás conduciendo. >> Embriágate >> porque si está en Mumbai, >> en algún lugar de Vietnam, no, no sería más seguro. Preferiría mucho >> que me llevara >> alguien que ha estado conduciendo en ese lugar toda su vida. No estoy discutiendo en contra de que en ciertos lugares donde el coche ha sido entrenado explícitamente para conducir en ese lugar, tiene un mejor historial de seguridad que los humanos que conducen en ese lugar. Pero tú preguntaste específicamente si creo que todos los >> la mayoría de los coches >> la mayoría de los coches del mundo en EE. UU. >> en Estados Unidos porque estamos aquí. >> En realidad no creo que esté inminentemente en el horizonte >> ¿10 años? >> No, no creo. >> Me reuní con Dra de Uber y está bastante convencido de que sus 9 millones de mensajeros serán reemplazados por vehículos autónomos. >> Quiero decir, ¿cuánto tiempo se ha invertido en coches autónomos hasta ahora? Ha sido más de 10 años. Y qué porcentaje de coches son autónomos ahora >> en las carreteras de EE. UU. Quiero decir, entonces, parte de ello es que en realidad no es un problema técnico, ¿verdad? Como que parte de ello es también un problema social, ¿la gente confía en subirse a estos vehículos? Parte de ello es también un problema legal, que es si el coche, el coche autónomo mata a alguien, lo cual ha sucedido. >> Sí, ha sucedido. >> ¿Quién es responsable? Así que, en el caso de LA, fueron tanto Tesla como el conductor porque el conductor dejó caer su teléfono, miró hacia abajo, y esto fue hace un par de años, creo. Um, y fueron a buscar su teléfono y atropellaron a alguien, y así fue a juicio, y ambos fueron declarados responsables, tanto el conductor como Tesla. Um, en cuanto a Tesla, prácticamente todos los que obtienen el coche, viene con autonomía ahora para prácticamente la mayoría de la gente, creo. >> Autonomía parcial. Sí, se llama conducción totalmente autónoma en este momento, donde es como >> quiero decir, sí, se llama conducción totalmente autónoma. >> Conducción totalmente autónoma supervisada, donde tienes que estar mirando en la d. Tienes que estar mirando en la dirección correcta, pero >> Sí. Así que es autonomía parcial. >> Y aquí en Austin, es autonomía total porque no hay volante. >> Sí. >> En el coche nuevo. Um, así que de todos modos no puedes conducirlo. Pero es, ya sabes, el Model Y es el coche de mayor venta indiscutible, el coche de mayor venta en el mundo entre todas las marcas. Bueno, supongo que mi punto aquí es como estas predicciones donde dicen que la IA va a cambiar completamente el transporte y la conducción. Va a cambiar completamente que los abogados no tendrán trabajo. Los contadores no tendrán trabajo. Um, ¿crees que son ciertas? ¿Crees que habrá un desplazamiento masivo de empleos? >> De acuerdo, así que creo que habrá enormes impactos en el empleo y ya estamos viendo esos impactos. No es simplemente porque los modelos de IA estén automatizando esos trabajos. Es específicamente porque los modelos están mejorando en ciertas capacidades basándose en lo que las compañías que los desarrollan eligen mejorar en ellos. Y los ejecutivos de otras compañías están decidiendo despedir o despedir a sus trabajadores porque piensan que la IA puede reemplazar al trabajador, independientemente de si eso es cierto o no. Y, ya sabes, ha habido casos como el CEO de CLA que despidió a un montón de gente pensando que reemplazaría a todos con IA y luego en realidad no funcionó y tuvo que pedirle a algunas personas que volvieran. >> De hecho, le envié un mensaje directo al respecto. Si estás escuchando esto, es porque le envié un mensaje directo a Sebastian y él está de acuerdo con que lo comparta. >> Dijo, "Es genial saber de ti. Um, creo que a veces la gente tiene problemas con que dos cosas puedan ser ciertas al mismo tiempo. Creo que podría ser hora de volver a tu podcast. Para tu punto, esto es que los medios malinterpretan mi tweet. Estamos duplicando la apuesta en IA más que nunca. Cler se está reduciendo con casi 100 empleados por mes debido a la IA. Solíamos ser 7,400 en el pico. Hace un año, 5,500. Ahora somos 3,300. Y para finales de verano, esto fue el año pasado, seremos 3,000 personas. La IA maneja el 70% de nuestras conversaciones de servicio al cliente en este momento. Esto es porque nos hemos dado cuenta de que con la IA, el costo de producción del software se reduce a casi cero. Al igual que la fabricación solía ser artesanal y luego llegaron las máquinas. El código solía ser artesanal hasta hace unos años. Y ahora es producido por máquinas. Y, en última instancia, pagamos a la gente más que nunca por las cosas únicas hechas a mano. China es un banco. La gente querrá conectarse con humanos, no solo con máquinas. Quieren que seamos amables, relacionables, incluso imperfectos. Así que necesitamos asegurarnos de que mientras automatizamos y reemplazamos con IA en paralelo, nos aseguramos de ofrecer una experiencia humana súper disponible. Me alegra mucho que hayas leído esto porque creo que aborda algunos matices realmente importantes de la IA. Sí. Como el impacto que la IA va a tener en el empleo. Así que creo que a menudo hay narrativas binarias. Es como, la IA va a venir por todos los trabajos. >> Mhm. >> O la gente dice, la IA en realidad no está funcionando y no está viniendo por los trabajos. Y como que la realidad es que está viniendo por los trabajos. Definitivamente hay trabajos que se están automatizando debido a las capacidades de sus modelos. Y también hay trabajos que se pierden porque los ejecutivos deciden despedir a los trabajadores, incluso si los modelos no coinciden con las capacidades porque es lo suficientemente bueno. Como que prefieren tener el modelo lo suficientemente bueno por mucho menos. >> O cometieron un error al contratar. Inflaron su equipo y es algo conveniente que decir. >> Exactamente. Como que hay muchas razones, pero claramente ya estamos viendo impactos en el mercado laboral. Como que el informe de empleos de EE. UU. que salió a principios de este año mostró que ha habido una disminución en la contratación, una desaceleración en la contratación en especial en industrias profesionales de cuello blanco. Y viste el informe de Anthropic de esta semana. El TLDDR es que coincide más o menos con lo que decías, donde Anthropic analizó exactamente cómo la gente estaba usando sus modelos y miró como lo que la gente dice. >> Sí. >> Y dijeron que ha habido una reducción del 40% en los trabajos de nivel de entrada en particular y luego hicieron este gráfico que se ha vuelto viral en Internet. El rojo muestra dónde estamos ahora en términos de capacidad y basándose en cómo las personas están utilizando actualmente los modelos, su predicción >> extrapolada, la parte azul serán las partes disruptivas. Esto es lo que dicen que la IA puede hacer ahora, pero la gente aún no se da cuenta. Así que, si lo miras, es como, es como todo lo que esperarías. >> Sí. >> Es el mundo físico real, las cosas humanas >> que los robots quizás puedan hacer algún día, como la construcción o la agricultura, que no están tocadas, pero como la oficina y la administración, um, como las cosas de finanzas, matemáticas, >> y nota que estas son todas las cosas que acabo de nombrar que ellos a propósito >> finanzas, matemáticas, derecho, >> medios y artes. Eso me cocina. >> Sí, oficina y administración. Quiero decir, se centran mucho en el trabajo de asistente y gerencial. >> Así que, pero, pero la otra cosa que dijo el CEO de CLO fue, pero la gente también quiere experiencias humanas. Así que no se trata solo de las capacidades de los modelos. También se trata de lo que la gente quiere. Como algunas cosas para las que recurrirán a la IA y otras para las que no, independientemente de si la IA es capaz de hacerlo o no, sino debido a una preferencia que quieren interacción humano a humano. >> Y así, lo que estamos viendo ahora es, sí, la cosa que sucede con cada ola de automatización, que es que hay un montón de trabajo de nivel de entrada que se automatiza y hay nuevos trabajos que se crean, pero los trabajos que se crean están en una de dos categorías. Hay personas que obtienen trabajos aún más cualificados y lo que él decía, como que pagamos a la gente más por el código hecho a mano ahora. >> Y también están las personas que obtienen trabajos mucho peores. Y así, hubo este increíble artículo en New York Magazine que hablaba de cómo mucha gente está siendo despedida y luego termina trabajando en anotación de datos, que es la mano de obra a la que me he referido a lo largo de esta conversación que las compañías necesitan para enseñar a sus modelos la próxima cosa que las compañías intentan automatizar. Y así, como un profesional del marketing es despedido y luego va a trabajar para una firma de anotación de datos para entrenar los modelos en el mismo trabajo del que acaba de ser despedido, lo que perpetuará más despidos si ese modelo luego desarrolla esa habilidad. Y el artículo hablaba de cómo esto se ha convertido en un gran paraguas para muchas personas que luchan por encontrar oportunidades de trabajo en este momento, incluyendo directores galardonados en Hollywood que en realidad están haciendo en secreto este trabajo de anotación de datos para poner comida en la mesa. Y así, cuando hablan de que habrá desempleo masivo y luego se crearán nuevos trabajos que ni siquiera podemos imaginar, creo que muchas de estas narrativas rara vez hablan de, en primer lugar, por qué desaparecen algunos trabajos. No es solo por las capacidades del modelo, sino también por las decisiones ejecutivas y por la retórica que utilizan si quieren simplemente reducir personal. Um, pero la otra cosa de la que rara vez se habla es de los trabajos, muchos de los trabajos que se crean son mucho peores que los trabajos que existían. >> Y rompe la escalera profesional. Así que son los trabajos de nivel de entrada y de nivel medio los que se ven afectados. Son trabajos de orden superior y luego se crean muchos más trabajos de orden inferior. Y así, ¿cómo progresan las personas en sus carreras? No quedan más peldaños en la escalera. >> En realidad no sé la respuesta a esta pregunta. Y he estado tratando frenéticamente de encontrar una buena respuesta a esta pregunta porque puedo, ya sabes, todo es teoría. Y para mi audiencia, diría que la mayoría de mi audiencia no dirige negocios. Muchos de ellos lo hacen, muchos aspiran a hacerlo, pero no dirigen negocios. Así que, ellos también están en el mundo de la teoría. Están escuchando muchas cosas diferentes. Jack Dorsey tuitea diciendo que está reduciendo a la mitad su plantilla debido a la IA. No saben qué es verdad. No conocen la economía interna de la empresa de Jack y si infló la empresa durante la pandemia y simplemente está usando esto como excusa para que el precio de sus acciones suba siete puntos porque sus inversores ahora piensan que son una empresa de IA o lo que sea. >> Mh. >> Es difícil de atravesar. Así que finalmente digo, ¿qué estoy haciendo? >> Tengo cientos de miembros de equipo, probablemente 70 compañías en las que invierto, quizás cinco o seis en las que soy como el accionista principal. ¿Qué estoy haciendo realmente en el día a día en este momento? Yo, yo también me considero jefe de reclutamiento. >> Pero en el último mes en particular, he conocido candidatos extremadamente capaces en términos de alineación cultural, trabajo duro, ese tipo de cosas, pero he tenido que hacer una gran pausa porque cuando ejecuto el experimento de si puedo conseguir que un agente de IA haga exactamente lo mismo, la respuesta es cada vez más sí. >> Especialmente en un mundo de cláusulas abiertas. >> Y así, lo que me da curiosidad, como >> ahora te enfrentas a esta decisión donde ves que en este corto período de tiempo puedes simplemente elegir el agente de IA y en el período a largo plazo no hay una escalera profesional. Así que, ¿a quién estás promocionando a estos puestos de nivel superior? Como, ¿cómo lo resuelves para tu propia compañía? >> Sí, es una buena pregunta. Así que, hay como dos maneras en las que estoy pensando en ello. Creo que la experiencia realmente profunda es muy, muy valiosa porque si ahora eres el orquestador de potenciales agentes de IA, se trata realmente de >> tener un profundo conocimiento de la pregunta correcta que hacer y y eso es alguien.

quien tiene profunda experiencia en algo. Así que necesito a mi directora financiera >> porque si ella va a orquestar a nuestro equipo de agentes que podrían estar haciendo análisis financiero o lo que sea, necesita entender qué decirles que hagan en nuestra empresa. >> Mhm. >> Y a su vez, los analistas financieros no pueden hacer eso. Necesitan esos 50 años de experiencia que tiene CLA. Por otro lado, necesito a Cass. Cass tiene 25 años. Cass lo sabe todo sobre agentes de IA. Es un joven japonés muy, muy curioso. Sabes, el fin de semana, está construyendo agentes de IA para resolver problemas en mi vida. Necesito esos dos tipos de pensamiento, que son jóvenes que maximizan agentes de alta competencia o no necesariamente tienen que ser jóvenes, sino que se inclinan mucho por la alta curiosidad. Eso está creando un multiplicador de fuerza en mi negocio. Y luego necesito una profunda experiencia. Ahora, todo lo demás fuera de eso es otro grupo en el que he pensado, como personas con habilidades interpersonales (IRL) extremadamente buenas >> porque sí nos encontramos con gente en la vida real. Te saludamos cuando llegas aquí. Te saludamos cuando vamos a almorzar con grandes clientes que tenemos, ya sea Apple o LinkedIn o quien sea. Nosotros, sabes, necesitamos encajar. >> Mhm. >> Y tenemos equipos que, sabes, están en persona en la oficina. Así que hacemos muchas cosas en la vida real (IRL) y cada vez más estamos construyendo comunidades incluso para este programa. Estamos haciendo eventos comunitarios en todo el mundo. Así que necesitamos gente que sea buena en eso también. En la vida real (IRL), unir a la gente y organizar cosas. Esos son los tres grupos de personas que digo, sabes, irremplazables en este momento. Y si tuvieras que reemplazar todos los roles que podrían ser realizados por agentes de IA, ¿crees que todavía tendrías estos tres grupos de personas para contratar y promover en las tres cosas críticas que necesitas a largo plazo? >> Si las cosas continúan a la velocidad actual de trayectoria, >> sí, >> uno podría afirmar que incluso esos roles experimentarían presión. Si simplemente imaginas que la gente piensa en las cosas de forma estática, lineal o exponencial. Sí, >> imaginas una tasa de mejora exponencial, que es algo que he visto. Incluso una tasa de mejora compuesta del 10% en algún momento, >> en algún momento, en algún momento, creo que lo que queda es realmente lo irremplazablemente humano, lo humano a humano, nuestras necesidades maslowianas de estar en persona como estamos ahora no van a cambiar. Necesitamos conexión. Los humanos se enferman mucho cuando no tienen a otros seres humanos en su vida y relaciones fuertes y profundas. 100% de acuerdo. Así que eso va a importar mucho. Tengo esta opinión contraria y extraña de que tal vez esta es la primera tecnología que cumplirá la promesa de hacernos humanos y conectados porque seremos inútiles en todo lo demás que no sea en lo que los humanos son buenos. Porque toda la otra tecnología decía: "Oh, te haremos más conectado, conectando el mundo". Y desconectaron el mundo y aislaron el mundo. Pero tal vez esta sea la única. Es tan inteligente ahora que no nos necesita para trabajar en hojas de cálculo. >> ¿Ves que eso está sucediendo en tiempo real ahora mismo, que nos hace más capaces de estar en persona, conectados unos con otros, teniendo compromisos sociales comunitarios más profundos? >> Sí. >> Sí. >> Y te daré algunos puntos de datos. >> De acuerdo. >> Punto de datos número uno, el Financial Times publicó un informe sobre el uso de las redes sociales. Y lo que vieron es que 2022 fue el pico y se ha estabilizado desde entonces. La generación que se ha estabilizado más rápido y va a la baja es la de las generaciones más jóvenes. Los boomers todavía están en pleno apogeo, ¿verdad? Así que en Facebook y cosas así. Y luego miras la forma en que la Generación Alfa usa las redes sociales. No publican tanto. Lo llaman "publicación cero". A veces hacen scroll, pero están en entornos sociales oscuros como WhatsApp, Snapchat e iMessage. No están actuando para el mundo. También valoran las experiencias en la vida real (IRL) mucho más que cualquier otra generación. No se están emborrachando. Vemos que cada marca tiene un club de corredores. um, quiero decir, las carreras están explotando en todo el mundo y estamos viendo esta realización casi innata de que la tecnología nos ha fallado a un nivel fundamental, como las aplicaciones de citas nos han fallado, las redes sociales nos han fallado, y creo que tal vez estamos viendo una bifurcación de la sociedad donde mucha gente dice: "Quiero volver a lo que significa ser humano". >> Y me imagino que en un mundo así donde la inteligencia es tan sofisticada que ya no necesitamos sentarnos frente a portátiles y creo que el tiempo de pantalla seguirá cayendo. Creo que si entras en una oficina, no verás gente sentada frente a portátiles. Verás algo completamente diferente. Y creo que tal vez, sabes, y luego hablamos de robots y robots Optimus. Elon dice que habrá 10 mil millones de robots Optimus. Elon se ha equivocado con el tiempo antes. Casi nunca se ha equivocado en las cosas importantes, solo que su sentido del tiempo tiene un mal historial. Um, así que creo que probablemente tenga razón. Sabes, creo que he traído a algunas personas de Boston Dynamics y otras grandes empresas como Scale AI, y de hecho están trayendo los robots aquí para mostrar cómo doblan la ropa, lavan los platos. No digo que eso es lo que querría en mi casa, pero creo que el trabajo de fábrica va a cambiar por completo. Creo que gran parte del trabajo manual va a cambiar por completo, y creo que nos veremos obligados a hacer lo que solo nosotros podemos hacer. Um, Sebastian, que es el CEO de Cler, me acaba de llamar. >> Hola, Sebastian. Tienes razón. >> Hola, ¿cómo estás? >> Estoy bien, ¿y tú? Ha pasado un tiempo. >> Ha pasado un tiempo desde que estuviste en el programa. Estaba diciendo que tenemos que volver a invitarte. >> Yo, yo, yo solo tenía un par de preguntas sencillas porque sabes que hago muchas entrevistas y um Clan siempre lo menciona porque creo que los medios han dicho que te doblaste en IA y luego te retractaste porque no funcionó. Así que sé que hablé contigo hace un tiempo e intercambiamos un par de mensajes directos al respecto, pero eso fue hace más de, fue hace casi un año. >> Así que solo quería obtener una actualización sobre el negocio de Cler, los agentes de IA y todo eso, si es posible. En primer lugar, lanzamos temprano um IA para apoyar a nuestro servicio al cliente, lo que tuvo ese beneficio inicial de más llamadas siendo atendidas por IA, lo que a los clientes les gustó porque esas llamadas o mensajes de chat fueron mucho más rápidos y cualitativos. Desde entonces, eso se ha expandido ligeramente. Um, lo que intentamos comunicar también es que creíamos en un mundo donde la IA es barata y disponible, el valor de la interacción humana será considerado más alto. Así que el futuro del servicio al cliente VIP es humano um. Por lo tanto, hemos redoblado nuestros esfuerzos para proporcionar más de eso, pero al mismo tiempo, las ganancias de eficiencia dentro de la empresa han continuado. Quiero decir, solíamos ser alrededor de 6.000 personas y ahora somos menos de 3.000, lo que son 2-3 años desde que dejamos de contratar y al mismo tiempo nuestros ingresos se han duplicado, ¿verdad? Así que puedes ver claramente que la IA nos ha permitido hacer más con menos gente, pero hemos evitado despidos y en su lugar hemos recurrido a la rotación natural cuando la gente se va a otros trabajos. Quiero decir, desde mi perspectiva, continuaremos siendo muy, ya sabes, sin contratar mucho. Quiero decir, contratamos un poco aquí y allá, pero esperamos que esa rotación natural del 10-15% anual continúe y disminuya. Creo que el gran avance fue realmente en noviembre-diciembre del año pasado, donde incluso los ingenieros más escépticos que eran muy reconocidos y apreciados, como el fundador de Linux y cosas así, básicamente dijeron que la codificación se ha resuelto y, por lo tanto, ya no necesitas codificar, y ese fue un sentimiento común. Así que creo que en la codificación, definitivamente hay un trabajo de ingeniería que ha sido un cambio tremendo en los últimos seis meses. >> ¿A dónde va toda esta gente, Sebastian? >> Soy optimista. Quiero decir, creo que obviamente la gente tendrá muchas opiniones sobre este tema, pero todavía creo que nos moveremos hacia una sociedad más rica. Ahora, a corto plazo, podría haber más preocupación sobre qué sucede si la gente no consigue un trabajo y así sucesivamente. Pero creo que a largo plazo, soy optimista sobre lo que significa para la sociedad y la humanidad. >> Muchas gracias, Seb. Hablaremos pronto. Gracias por tomarte el tiempo. Te lo agradezco, amigo. Gracias. >> De acuerdo. De acuerdo. Adiós. Adiós. >> ¿Conoces la pequeña tarjeta SIM tradicional que va dentro de nuestros teléfonos? No han cambiado en absoluto desde que se inventaron en los años 90. Tienes esta pieza física de plástico que significa que estás atado a un operador, una red, y en cuanto cruzas una frontera, ese operador puede empezar a cobrarte lo que quiera. Pero hay alternativas y el patrocinador de hoy, SY, es una de ellas. Es una aplicación eSIM que te proporciona una conexión de datos segura en más de 200 destinos. Todas sus eSIM tienen ciberseguridad integrada, lo que es genial si viajas por trabajo y consultas material confidencial. He estado usando SY siempre que viajo porque la conexión es siempre fiable y me ahorra un montón de tarifas de roaming. También significa que no tengo que lidiar con toda la molestia que rodea la gestión de una SIM en cada lugar al que voy. Si quieres probarlo, descarga la aplicación SY de la tienda de aplicaciones ahora y escanea el código QR en pantalla. Y si quieres un 15% de descuento en tu primera compra, usa mi código DOA cuando llegues a la caja. Eso es DOA para un 15% de descuento. Guárdatelo para ti. Esto es algo que he hecho para ti. Me he dado cuenta de que la audiencia de Dio son luchadores que queremos lograr cosas. Y una de las cosas que he aprendido es que cuando apuntas a un objetivo grande, grande, grande, puede sentirse increíblemente incómodo psicológicamente porque es como estar al pie del Monte Everest y mirar hacia arriba. La forma de alcanzar tus objetivos es dividiéndolos en pequeños pasos. Y llamamos a esto en nuestro equipo el 1%. Y, de hecho, esta filosofía es en gran medida responsable de gran parte de nuestro éxito aquí. Así que, lo que hemos hecho para que tú en casa puedas alcanzar cualquier objetivo grande que tengas, es que hemos hecho estos diarios del 1% y los lanzamos el año pasado y se agotaron todos. Así que le pedí a mi equipo una y otra vez que trajeran los diarios de vuelta, pero también que introdujeran algunos colores nuevos y que hicieran pequeños ajustes al diario. Así que ahora tenemos una mejor gama para ti. Así que, si tienes un objetivo grande en mente y necesitas un marco, un proceso y algo de motivación, te recomiendo encarecidamente que consigas uno de estos diarios antes de que se agoten de nuevo. Y puedes conseguir el tuyo en the diary.com. Y si quieres el enlace, el enlace está en la descripción de abajo. >> ¿Alguna opinión? Bueno, en realidad tenía opiniones sobre algo que dijiste antes de que llamara, >> que es que decías que los Gen Z, como que hay una tendencia a que se desconecten de la tecnología. Así que se vuelven más presenciales. Y luego está esta otra clase de trabajadores que en realidad se inclinan hacia la tecnología, pero luego se vuelven más humanos porque se inclinan hacia la tecnología >> porque se dan cuenta de que en realidad deberían pasar más tiempo haciendo interacciones presenciales en lugar de mirar una hoja de cálculo. Y por lo tanto, ya no escriben, lo que sea. Realmente quiero volver a este artículo de New York Magazine que acaba de salir >> porque lo que describes es cierto para una categoría muy específica de personas, que a menudo son los dueños de negocios y el liderazgo dentro de las empresas que realmente pueden tomar estas decisiones sobre cómo gastan su tiempo y qué hacen finalmente con su tiempo. Pero lo que el artículo habla es de la clase trabajadora, gente como personas que no son dueños de negocios que luego tienen que experimentar ser despedidos y luego trabajar para la industria de anotación de datos, que es ahora uno de los principales trabajos en LinkedIn, por cierto. Um, sí, LinkedIn tuvo un informe que mostró los 10 trabajos con mayor crecimiento en el último año y la anotación de datos está en esa lista. >> Y para cualquiera que no sepa qué es la anotación de datos. >> Sí. Así que la anotación de datos es el proceso de enseñar a estos chatbots o a cualquier sistema de IA a hacer lo que finalmente son capaces de hacer. Así que el hecho de que ChatGPT pueda chatear es porque hubo decenas de miles o cientos de miles de personas que literalmente escribieron en un modelo de lenguaje grande y le mostraron. Así es como se supone que debes responder cuando un usuario escribe una indicación como esta. Antes de que hicieran ese trabajo, ChatGPT no existía. Como, simplemente, le darías una indicación al modelo y el modelo generaría algún texto que no estaba en diálogo con la persona. Generaría algo que estaba relacionado adyacentemente. ¿Es esto lo que llaman aprendizaje por refuerzo, donde le das como un >> es parte del proceso de aprendizaje por refuerzo. Así que haces anotación de datos, que es literalmente um mostrar muchos ejemplos diferentes de cosas que quieres que el modelo sepa, y luego el aprendizaje por refuerzo es hacer que el modelo se entrene iterativamente con esos ejemplos de una manera que luego >> le da al modelo algunas de esas capacidades. Y lo que el artículo de New York Magazine destacó es que muchas, muchas de las personas que están siendo despedidas ahora o que están luchando por encontrar trabajo. Y estas son personas altamente educadas. Son graduados universitarios, graduados de doctorado, graduados de derecho, médicos, um y de nuevo, directores galardonados que están luchando por encontrar empleo en la economía porque la economía ha sido muy reestructurada por la IA. Luego se encuentran sirviendo a esta industria y la industria está diseñada de una manera que es extremadamente inhumana porque las empresas que utilizan estos servicios de anotación de datos, como estos proveedores externos que son firmas de anotación de datos, OpenAI, Google, contratarán a estas firmas para encontrar a los trabajadores para realizar las tareas de anotación de datos que necesitan para estas. Estas firmas, estas firmas externas, están incentivadas a enfrentar a los trabajadores entre sí porque quieren que esta anotación de datos ocurra a gran velocidad y lo más barata posible para que también puedan competir entre sí en esta capa intermedia para obtener la oferta, el contrato del cliente. Y así, todos estos trabajadores que fueron entrevistados para esta historia de New York Magazine hablan de cómo ya no tienen la capacidad de ser humanos porque están esperando en su portátil a ser notificados en Slack sobre cuándo se abrirá un proyecto para la anotación de datos porque han intentado buscar trabajo. Literalmente no pueden encontrar nada más. Esto es lo que les ayudará a poner comida en la mesa para sus hijos. Y hubo una mujer que dijo: "Tengo tanta ansiedad por cuándo vendrá el proyecto, cuándo se irá, que cuando llegó el proyecto, fue justo cuando mi hijo salía de la escuela". Y empecé a trabajar furiosamente porque no sé qué se va a ir y necesito ganar tanto dinero como sea posible en esta ventana de oportunidad. Así que cuando mi hijo llegó a casa e intentó hablar conmigo, le grité a mi hijo por distraerme. Y luego ella dijo: "Me he convertido en un monstruo y ni siquiera se me permite ir al baño o cuidar de mis hijos, y mucho menos de mí misma, porque esta industria que está absorbiendo cada vez más a los trabajadores que están siendo despedidos, está mecanizando mi vida, atomizando mi trabajo, devaluando mi experiencia, y luego cosechándola para la perpetuación de esta máquina que todos estos ejecutivos de IA dicen que luego vendrá por los trabajos de todos los demás". Y así, lo que decías sobre estas clases de trabajadores, los dueños de negocios que pueden volverse más humanos porque hay todos estos modelos de IA haciendo las tareas que ya no tienen que hacer. Es a costa de la gran mayoría de las personas que no son dueños de negocios y que luchan por encontrar trabajo, siendo absorbidas por el trabajo de proporcionar estas tecnologías que los dueños de negocios pueden usar. >> Y en lugar de volverse más humanos, sienten que su humanidad ha sido exprimida y disminuida y no tienen capacidad de control, agencia y dignidad en sus vidas. Creo que esta es una gran pregunta que se relaciona con este gráfico aquí, que es, ya sabes, todas estas personas, si creemos en la predicción de Anthropic de quién será afectado, estas personas en estas industrias como artes y medios, legal, um ciencias de la vida y sociales, arquitectura e ingeniería, informática y matemáticas, negocios y finanzas, y gestión, y también oficina y administración. Estas personas, si creemos en esto, tendrían que reciclarse en algo más y, a diferencia de la revolución industrial, donde podrías tener 10-20 años para reciclarte porque las fábricas tardan mucho en construirse. La capa de distribución en la que se asienta la IA es Internet abierto. Por eso ChatGPT puede conseguir cientos de millones de usuarios en muy poco tiempo y convertirse en la empresa de más rápido crecimiento de todos los tiempos. Um, uno de mis miedos es que esta disrupción ocurra a una velocidad a la que no podamos transicionar. Y eso fue, ya sabes, creo que dijiste esa frase en voz pasiva, la transición ocurriría a una velocidad, pero ¿quién está impulsando esa velocidad? >> Um >> son las empresas >> y su carrera entre sí. >> Sí. Y por lo tanto, están impulsando la transición a una velocidad a la que sería muy difícil cuidar de todas las personas que serían aplastadas por >> esta es una de las preguntas locas que nadie puede responderme cuando me siento con estas personas que son CEOs de IA. Entonces les pregunto: "Entonces, ¿qué pasa con la gente si esto es, si estás de acuerdo en que esto va a suceder a super velocidad?". Sabes, hablé con el CEO de Uber, Dar, que dijo cosas muy similares a lo que estás diciendo, que habrá trabajos de etiquetado de datos, por ejemplo, para los conductores. Pero no todos pueden convertirse en etiquetadores de datos. Y hay una cuestión de significado, propósito y realización. Y eso proviene de perder el sentido de la vida. También me siento aquí con mucha gente que habla de cómo su padre perdió su trabajo en Irán o en algún otro país y vino a Estados Unidos y tuvo que ser limpiador de inodoros, en un caso particular era médico en Irán pero vino a EE. UU. y fue limpiador de inodoros y tuvo que lidiar con la vergüenza que esa persona sintió y la falta de dignidad que eso causó y cómo eso afectó la autoestima de esa persona y la depresión y el alcoholismo que resultaron de eso. um si esto sucede a gran escala en toda la sociedad, habrá un montón de consecuencias como esa. >> Quiero decir, estos son los temas centrales de mi trabajo. Y la razón por la que soy crítico con estas empresas es que están creando tecnologías de una manera que crea los que tienen y los que no tienen en una forma extrema que tenemos. Está exacerbando la desigualdad que ya vemos en el mundo. Como las personas que tienen cosas tendrán muchas más riquezas. Tendrán mucho más tiempo libre. Se les permitirá ser más humanos. Pero las personas que no tienen cosas están siendo aún más exprimidas. Y no es solo desde una perspectiva laboral. Quiero decir, hablo en mi libro también sobre la crisis ambiental y de salud pública que estas empresas han creado, donde están construyendo estas instalaciones colosales de supercomputación. Allí y en comunidades de todo el mundo, y específicamente eligen algunas de las comunidades más vulnerables. Estamos sentados en Texas ahora mismo. Uno de los proyectos de centros de datos más grandes de OpenAI se está construyendo en Abilene, Texas, como parte de la iniciativa Stargate, que fue un esfuerzo anunciado al comienzo de la segunda administración de Trump para gastar 500 mil millones de dólares en infraestructura de computación de IA. Esta instalación consumirá, cuando esté terminada, más de un gigavatio de potencia, lo que es más del 20% más del 20%. Así que esto es en realidad un poco inexacto ahora. Um, esto fue algo que circuló en línea durante un tiempo, pero hay números actualizados. >> Solo para alguien que no puede ver porque está escuchando en Spotify o algo así. Es una imagen del tamaño de esta instalación. >> Así que esta no es la de Abilene, Texas. Esta es una instalación de Meta. Sí. Así que, primero hablemos de la instalación de OpenAI en Texas. Sería del tamaño de Central Park y ejecutaría un millón de chips de computadora y requeriría la potencia de más del 20% de la ciudad de Nueva York. >> ¿Sabes una de las cosas que me pareció confusa, así que me gustaría aliviar la disonancia, es que pensé que decías antes que no creías que las promesas de disrupción laboral fueran reales. No, lo que decía es que cuando hablamos de lo que estos ejecutivos predicen sobre el futuro, necesitamos entender que en última instancia están tratando de influir en el público de una manera que les permita seguir manteniendo el control sobre la tecnología. >> Pero objetivamente, ¿crees que la disrupción laboral de la que hablan donde >> Sí. Sí. Quiero decir, mencioné >> real >> bueno, yo >> no quiero comentar específicamente sobre este gráfico, pero es como si ya hubiéramos visto en los informes de empleo que hay una reestructuración de la economía sucediendo ahora mismo. Sí. >> Pero volviendo a los centros de datos. Así que esta instalación de supercomputación, es una instalación de supercomputación de Meta. >> se está construyendo en Luisiana >> y sería cuatro veces el tamaño de la de Abilene, Texas, y usaría la mitad de la demanda de energía promedio de la ciudad de Nueva York. Así que es del tamaño de Manhattan. Esto hace que parezca casi todo Manhattan, pero sería 1/5 del tamaño de Manhattan. Cuando estas instalaciones entran en estas comunidades, ¿qué sucede? Aumenta la utilidad de la energía, disminuye la fiabilidad de la red. Las instalaciones también necesitan agua dulce para generar la energía para alimentarlas, así como agua dulce para enfriarlas. Y ha habido muchas historias documentadas de comunidades que ya están muy limitadas en sus recursos de agua dulce. Están en sequía cuando llega una instalación y luego hay gente, la comunidad compite con esta instalación por agua dulce. Hablo de una de esas comunidades en mi libro y a veces estas instalaciones, en lugar de conectarse a la red, aparece una central eléctrica al lado. Así que en Memphis, Tennessee, donde Musk construyó Colossus, la supercomputadora para entrenar a Grok, utilizó 35 turbinas de gas metano para alimentar la instalación. Esta es una comunidad de clase trabajadora, una comunidad negra y marrón, una comunidad rural a la que ni siquiera se le informó que serían los anfitriones de esta instalación. Y lo descubrieron porque literalmente olieron lo que parecía una fuga de gas en todas sus salas de estar. Y fue entonces cuando descubrieron que estas turbinas de gas metano les estaban quitando su derecho al aire limpio. Y esta es una comunidad que ya ha estado enfrentando una historia de racismo ambiental. Ya habían tenido muchas luchas para acceder a su derecho al aire limpio. Y ahora hay esta enorme supercomputadora que ha aterrizado en medio de ellos que está bombeando miles de toneladas de toxinas a su aire, exacerbando los síntomas asmáticos de los niños, exacerbando las enfermedades respiratorias de otras personas. Es una de las comunidades con las tasas más altas de cáncer de pulmón y así >> y esas supercomputadoras les quitan sus trabajos >> y luego también tienen supercomputadoras que les quitan sus trabajos. Así que, así es como lo digo: los que tienen y los que no tienen se están separando fundamentalmente aún más. Como si tú, en esta versión del futuro de Silicon Valley, estuvieras en la desafortunada categoría de ser un "no tener", estamos hablando de que ahora consigas un trabajo que es mucho peor de lo que tenías porque podrías estar haciendo anotación de datos. Y podrías ser tratado como una máquina en lugar de como un humano para extraer el valor de tu trabajo para perpetuar esta máquina de automatización que estas personas están construyendo. Podrías estar compitiendo con estas instalaciones por recursos de agua dulce. También están contaminando tu aire. Tus facturas han aumentado. Así que la crisis de asequibilidad está empeorando. ¿Cómo hace eso que la gente sea más humana? >> ¿Qué hacemos al respecto? >> Sí. >> De acuerdo. Así que una de las analogías que siempre uso es que la IA es como la palabra "transporte". El transporte puede referirse literalmente a todo, desde una bicicleta hasta un cohete. Y tenemos conversaciones matizadas sobre el transporte donde siempre decimos que necesitamos transicionar nuestro transporte hacia opciones más sostenibles. Necesitamos una transición hacia, ya sabes, transporte público, vehículos eléctricos. Y nunca decimos que todos deberían conseguir un cohete para satisfacer todas sus necesidades de transporte, ¿verdad? Como estamos en Austin. Si usas un cohete para volar de Dallas a Austin, eso no tendría ningún sentido. Es un uso desproporcionado de recursos para obtener el beneficio de ir del punto A al punto B. Así es como deberíamos pensar sobre la IA. Así que todos los modelos de los que hemos estado hablando, me gusta pensar en ellos como los cohetes de la IA. Utilizan una cantidad extraordinaria de recursos y proporcionan beneficios, algunos beneficios dramáticos para algunas personas, pero también están cobrando un costo extraordinario a una gran parte de la gente debido a los costos de desarrollo de esta tecnología. ¿Por qué no construimos más bicicletas de IA? Estas son cosas como AlphaFold de DeepMind, que es un sistema que predice cómo se pliegan las proteínas en función de las secuencias de aminoácidos. Es muy importante para acelerar el descubrimiento de fármacos para comprender las enfermedades humanas y ganó el Premio Nobel de Química en 2024. Y la razón por la que es una bicicleta de IA es porque utilizas conjuntos de datos pequeños y curados. Solo tienes datos que tienen secuencias de aminoácidos y plegamiento de proteínas. Eso significa que necesitas significativamente menos recursos computacionales para desarrollar el sistema, lo que significa significativamente menos energía, lo que significa menos emisiones, y así sucesivamente. Y proporcionas un beneficio enorme a las personas. >> Parece que el caballo ha salido del establo en este sentido porque ya se han llevado la propiedad intelectual de la gente, se han llevado medios, se entrenan con este podcast. Lo sabemos porque demuestra que lo hacen. Um, creo que en el backend de YouTube ahora hay un botón que te permite hacer clic y dice "Entrenaremos con tu canal de YouTube". Um, así que el caballo ha salido. >> Aquí está la cosa. Si el caballo realmente hubiera salido del establo, no tendrían que entrenar con nada más. ¿Por qué su apetito por los datos se ha expandido? Es porque para construir las próximas generaciones de sus tecnologías, para que las tecnologías sigan siendo relevantes y sigan actualizándose al ritmo de la creación de nuevos conocimientos y la evolución de la sociedad, necesitan entrenar una y otra vez. Y ¿por qué emplean cada vez más y más trabajadores de anotación de datos con el tiempo? Es porque necesitan cada vez más de ese trabajo con el tiempo. Quiero decir, he estado informando sobre el trabajo de anotación de datos durante más de 7 años y no ha disminuido. Ha aumentado. >> ¿Crees que hay alguna posibilidad de que disminuya? ¿Crees que hay alguna posibilidad de que este tipo de enfoque de escalado de fuerza bruta, donde tomas datos, tomas potencia computacional, energía, y, ya sabes, tienes a los etiquetadores de datos y, ya sabes, construyes más y más parámetros para los modelos. ¿Crees que hay alguna posibilidad de que se detenga o vaya en una dirección diferente a la que va ahora? >> Me encantaría reformular la pregunta y decir qué deberíamos estar haciendo en este momento en el que no está disminuyendo, en el que reconocemos que, de hecho, estas empresas en este momento necesitan recursos, insumos y mano de obra continuos para perpetuar lo que están haciendo. >> Sí. porque esto suena a parar >> y siento que parar es como un truco. Siento que, con el gobierno en el poder, están apoyando a estas empresas muchísimo. A nivel mundial, esto está sucediendo. Así que siento que parar no se siente >> Siempre digo que necesitamos desmantelar el imperio y necesitamos desarrollar alternativas y ya estamos viendo un florecimiento de increíbles movimientos de base que están ejerciendo una enorme presión sobre la forma en que el imperio intenta desplegar su agenda. El 80% de los estadounidenses en la encuesta más reciente piensa que la industria de la IA necesita ser regulada. >> Sí. >> ¿Cuándo fue la última vez que el 80% de los estadounidenses estuvieron del mismo lado en un tema? >> No. Sí. Cuando tengo estas conversaciones en el podcast, la sección de comentarios es clara. >> Sí. >> No hay desacuerdo. Nadie dice: "Oh, no, creo que deberían seguir adelante". >> Sí. Decenas, decenas de protestas contra centros de datos han estallado por todo este país y en EE. UU., en todo el mundo. >> Entonces, ¿qué hacemos al respecto? >> Así que estas son personas que están haciendo algo al respecto. De hecho, están reafirmando su agencia y ejerciendo una contención democrática contra las formas en que los imperios llevan a cabo sus negocios. >> ¿A qué objetivo deberíamos apuntar? Así que si le dijera a mi audiencia, Janet en casa, porque esto es más o menos lo que veo en los comentarios, es la desesperanza. Es como, ¿qué puedo hacer? Soy solo un >> Sí. Bueno, bueno, bueno, el objetivo no es que eliminemos por completo esta tecnología. El objetivo es que estas empresas dejen de ser imperios. Y la forma en que defino un negocio típico frente a un imperio es que los imperios se basan en la idea de que no tienen que proporcionar un intercambio justo de valor con los trabajadores que trabajan para ellos o las personas que los utilizan o todas las demás personas involucradas en la cadena de suministro de producción y despliegue de estas tecnologías. Pueden extraer y explotar y extraer y explotar y obtener más valor del que ofrecen. Mientras que los negocios típicos, hay un intercambio justo. Compras un servicio, sientes que obtuviste la misma cantidad de valor que el servicio que proporcionaste. Pero, por ejemplo, para estos trabajadores de anotación de datos, no sienten de ninguna manera que se les pague el mismo valor que proporcionan a estas empresas. Así que ese es para mí el norte: deberíamos presionar y responsabilizar a estas empresas cuando operan de manera imperial. Y eso es lo que hemos visto con todas estas personas que ahora protestan literalmente en las calles contra los centros de datos y que tienen un efecto enorme, por cierto, de hecho, paralizando proyectos de centros de datos y también prohibiendo por completo el desarrollo de centros de datos en sus localidades. Estamos viendo eso con artistas y escritores que demandan a estas empresas por infracción de propiedad intelectual y creando una gran conversación pública sobre qué es lo que realmente queremos, cómo queremos proteger nuestra propiedad intelectual. Es como si hace tres semanas conociera a Megan Garcia, que es la madre de Sul Settzer III, el adolescente de 14 años que se suicidó después de ser acosado sexualmente por un chatbot caracterizado. Y ella, cuando eso sucedió, obviamente estaba increíblemente devastada por lo que le había pasado a su hijo. Ella también decidió hacer algo al respecto. Demandó a las empresas y esa demanda luego impulsó a muchos otros padres y familias que estaban experimentando cosas similares a demandar a estas empresas también. Eso ha creado una conversación pública enorme sobre lo que estas empresas están haciendo realmente cuando explotan y extraen. ¿Cuál es el costo para las vidas de las personas en todo el mundo, incluidos los niños? Entonces, ¿qué crees que debería hacer mi audiencia si están de acuerdo con todo lo escrito en tu libro, Age Empire of AI, Dreams and Nightmares, y Open AI de Sam Altman? Si están de acuerdo con todo lo que se ha dicho aquí, si están de acuerdo con todo lo que hemos discutido hoy, les preocupan sus hijos, no quieren que todos se conviertan en etiquetadores de datos, no creen que sea una solución particularmente buena. ¿Qué pueden hacer realmente? >> Cuando estaba escribiendo el libro, el único discurso que estaba ocurriendo era que esto es lo mejor desde que se inventó el pan. >> Mhm. >> porque de todas las acciones de estas personas, como decir que no están contentas con las cosas que estas empresas están haciendo. Ahora tenemos el 80% de los estadounidenses que quieren regular esta industria. Y así, le diría a la gente, piensen en todas las formas en que su vida se cruza con los recursos y que la industria de la IA necesita para perpetuar lo que hacen y también los espacios que necesitarían para desplegar estas tecnologías para continuar teniendo una adopción generalizada. >> en su trabajo. Así que eres un donante de datos para estas empresas. Podrías retener esos datos. Y eso es lo que están haciendo esos artistas y escritores. Como, están demandando a estas empresas para retener, para tratar de crear mecanismos por los cuales esos datos serían retenidos. Probablemente tengas un centro de datos apareciendo cerca de ti. Si estás en un entorno escolar o en un entorno empresarial, probablemente estés teniendo una discusión en esos entornos en este momento sobre cuál debería ser la política de adopción de IA. Y estas empresas, como hablaba con algunos empleados de OpenAI el otro día y me decían que se entiende internamente que los objetivos de ingresos de la empresa son extraordinarios y que necesitan que todo salga a la perfección para que todo funcione. Y así, necesitarían que cada persona adoptara esto, cada espacio adoptara esto. Necesitarían poder construir sus centros de datos a la velocidad que intentan construirlos. Y así, lo que le diría a todos sus espectadores es que no hagamos que salga a la perfección si no estamos de acuerdo con lo que están haciendo. >> Ah, de acuerdo, te entiendo. >> Y luego construyamos alternativas. Porque la cosa es que lo que estoy diciendo no es que estas tecnologías no tengan utilidad. Es que específicamente la economía política que ha surgido para apoyar la producción de estas tecnologías en este momento >> está cobrando mucho daño a las personas. Pero tenemos investigaciones que muestran que las mismas capacidades podrían desarrollarse con métodos mucho más eficientes y con mucho menos consumo de recursos. Y tenemos muchos otros sistemas de IA a nuestra disposición que son como las bicicletas de IA que también sabemos que proporcionan un beneficio extraordinario a muy bajo costo. Así que rompamos el imperio y forjemos nuevos caminos de desarrollo de IA que sean ampliamente beneficiosos para todos. >> Es extraño. Estoy bastante, creo que me he entrenado para lidiar con dicotomías en mi cabeza. Y esto para mí es una dicotomía tal que yo, como CEO y como fundador, como emprendedor y alguien que ama la tecnología, creo que es increíble. Es absolutamente increíble la IA. Es simplemente asombrosa e increíble las cosas que me ha permitido hacer y crear. >> Sí. Porque está diseñada para permitir a personas como tú. >> Y mi coche conduciendo por la mañana y siendo más seguro. Increíble. Um, creo que, ya sabes, los mil millones de personas que usan herramientas de IA o chat o lo que sea, probablemente dirían que ha añadido valor a sus vidas. Pero, y esta es la parte que la gente encuentra confusa, es que es posible pensar que eso es cierto y también pensar que hay consecuencias no deseadas significativas que la historia de la tecnología debería habernos enseñado a tomarnos un momento para pausar y hablar sobre porque >> Creo que esto es absolutamente, puedes tener ambas cosas en tu cabeza y lo que estoy diciendo es que esta tensión no tiene por qué ser una tensión porque podríamos preservar la utilidad y los beneficios de estas tecnologías, pero desarrollarlas y diseñarlas de una manera diferente que no tenga todas estas consecuencias no deseadas. >> Sí. Y creo que necesita haber una gran conversación social, que es por lo que tengo tantas conversaciones sobre IA en el programa, como que necesita haber una gran conversación social sobre ser intencional sobre el impacto social, el impacto social y ambiental, y esa conversación no se está teniendo en el gobierno. Por lo que puedo ver, la conversación tiene lugar en la industria y, de hecho, tratar de sacarla de la industria y abrir las mentes de las personas a ella es, con suerte, lo que hemos estado haciendo en los últimos meses con este tema porque >> Creo que en realidad ha estado sucediendo en todas partes fuera de la industria y para los gobiernos locales y estatales ha habido enormes conversaciones sobre esto en todas partes. Como he estado de gira de libros, he estado en docenas de ciudades de todo el mundo. La gente está teniendo estas conversaciones cruciales en todas partes. No he ido a una sola ciudad. >> Sí. En todas partes. Incluso aquí en South by. >> Sí. No he ido a una sola ciudad donde la sala no esté abarrotada y la gente no esté lidiando con las mismas preguntas exactas que cualquier otra persona en cualquier otra sala en la que he estado. >> Hablando de salas abarrotadas, sé que tienes que irte porque tienes que hablar hoy. Así que voy a, tenemos una última pregunta que es la tradición de cierre en este podcast. ¿Cómo diferiría tu consejo a un amigo con un diagnóstico terminal de lo que tú harías? >> Esa es una gran pregunta. >> ¿Diferiría de lo que tú harías? >> Oh, Dios mío. Yo le diría que disfrute, que viva la vida para sí mismo. Um, tú no lo harías >> y tómalo con calma. Y sí, yo, yo no me lo tomo con calma. >> Bueno, creo que es bueno que no te lo tomes con calma porque estás liderando una conversación que es increíblemente importante. Y creo que esa es la cosa. Creo que la conversación es lo importante. Y así, ya sabes, debido a los algoritmos y las cámaras de eco, es muy raro tener una conversación. >> estos días, especialmente una de formato largo. Estoy de acuerdo. >> Como esta. Así que creo que son tan importantes. Y tu libro es para cualquiera que tenga curiosidad sobre >> Creo que mucha gente habrá aprendido muchas cosas hoy porque me siento aquí y entrevisto a gente de IA todo el tiempo y he aprendido muchísimo hoy. De leer tu libro y la perspectiva objetiva y extensa que toma tu libro, puedes desentrañar todas estas historias que a veces vemos en tweets y no sabemos si son ciertas o no porque has conocido a la gente y has hecho tu investigación y eres una persona increíblemente inteligente, extremadamente inteligente que claramente tiene los intereses de la humanidad como tu estrella polar y eso se refleja en todo lo que haces y todo lo que dices. Así que por favor, sigue luchando de la manera en que lo haces, porque es increíblemente importante. Gente como tú es la que, creo, está galvanizando al mundo para tomar la acción colectiva que estamos empezando a ver en todas partes. >> Sí. >> Empire of AI: Dreams and Nightmares in Sam Alman's Open AI de Karen How. Lo enlazaré abajo para cualquiera que quiera leer este libro. Lo recomiendo encarecidamente. Es un bestseller del New York Times por una buena razón. Karen, gracias. >> Muchas gracias, Stephen. >> YouTube tiene este nuevo y loco algoritmo donde saben exactamente qué video te gustaría ver a continuación basándose en la IA y todo tu comportamiento de visualización. Y el algoritmo dice que este video es el video perfecto para ti. Es diferente para cada persona que está mirando ahora mismo.

Get Our Mobile App

AI Whistleblower: We Are Being Gaslit By The AI Companies! They’re Hiding The Truth About AI!

Transcription