Transcription
El asesino silencioso de la IA No va a ser Chanty PT Empezaremos con una novia de IA para ayudarte a conseguir una novia de verdad ¿Cómo invierto con éxito en internet para el consumidor? Invierto en uno o más de los siete pecados capitales ¿Qué impulsó el internet más antiguo? La pornografía Es como, ooh, todo es lujuria Lo central del significado de la vida es la amistad ¿Crees que uno puede ser amigo de un agente de IA? Bueno, ¿qué sucede cuando estamos en el universo de ciencia ficción y los robots hacen todo el trabajo y ya no hay trabajo y cuál es nuestro significado? Esto es sí Eso eso sigue ahí por lo menos Por lo menos y importa Me estás dando una idea Tengo curiosidad de cómo competirá en el mercado ¿Qué pasaría si tuvieras Reed Hoffman es el mayor tecnólogo social de nuestra era Su primera empresa, Social Net, fue una apuesta por las redes sociales Luego construyó LinkedIn y PayPal e invirtió en Facebook y Airbnb Reed argumenta que al igual que internet, la verdadera aplicación asesina de la IA no van a ser los chatbots para un solo jugador, sino las redes sociales multijugador Esta entrevista explorará todo el alcance de las redes sociales de IA, desde cómo transformará las redes sociales tradicionales hasta cómo podrían ser las amistades y las relaciones románticas con las IA Ahora, como alguien bastante crítico con las redes sociales, llegué a esta entrevista temiendo un futuro donde las relaciones humanas sean reemplazadas por agentes no humanos Pero Reed dio una explicación convincente de por qué esta tecnología tiene el potencial de hacernos más, y no menos, humanos Mi nombre es Jonathan B Soy miembro fundador de Cosmos Financiamos investigación, incubamos e invertimos en nuevas empresas de IA y creemos que la filosofía es fundamental para construir tecnología Si quieres unirte a nuestro ecosistema de constructores filósofos, puedes encontrar los puestos para los que estamos contratando, eventos, programas de becas y otras formas de participar en jonathanb.com/cosmos Y sin más preámbulos, Reed Hoffman ¿Cuál es la aplicación asesina social para la IA? La gente siempre tiende a pensar, debido a los chatbots de IA, en la interacción uno a uno Así que es como yo con mi chatbot, le hago una pregunta Es algo parecido a la búsqueda en Google, etc Y en realidad, una de las cosas que van a suceder en un pequeño número de años es que vamos a estar en un campo circundante de agentes Vamos a tener agentes que nos escuchen y, por ejemplo, cuando tengamos una conversación como esta, tendremos agentes que digan: "Oh, espera, Reed, cuando hiciste ese comentario sobre Rousseau, no era del todo correcto", ¿sabes? Y vamos a parpadear y decir: "Oye, ¿quieres interactuar conmigo en esto?" y así sucesivamente y así tendremos agentes, por así decirlo, en el campo a nuestro alrededor, no solo para nosotros como individuos, sino para nosotros interactuando con otros individuos, sino también interactuando con grupos, interactuando con sociedades, tomará algunas de las cosas que actualmente son más invisibles para la mayoría de la gente, que son las redes en las que vivimos y todo ese tipo de interacción social ahora tendrá un tipo de campo de agentes mediado Sí Y cuál es la forma o topología exacta de esto, es casi como la teoría de la complejidad No podemos predecirlo completamente
Eso fue una respuesta interesante, pero una respuesta muy diferente a la que pensé que darías porque tu respuesta, para resumirla para la audiencia, es que mediará nuestras interacciones sociales de la misma manera que LinkedIn media, y así, nuestra protección social hoy Pensé que lo que ibas a decir es que vamos a tener quizás relaciones sociales directas con los propios agentes Así es como leí, al menos, tu intento con Pi Sí Y construyendo la empresa Inflection, ¿verdad? Que tú dijiste que la diferencia es que Pi está entrenado en EQ tanto como en IQ, ¿verdad? Así que cuéntanos sobre eso Así que tendremos relaciones sociales directas con los agentes, pero en realidad, parte de la razón por la que di la otra respuesta es porque la antropomorfización de los agentes es una de las cosas con las que tenemos que tener cuidado y Pi es un ejemplo perfecto de ello Lo entrenamos para la amabilidad, la compasión, lo entrenamos para ayudarte y ser tu compañero al hacerlo eso es importante, pero, por ejemplo, si vas a Pi y dices que eres mi mejor amigo Pi dirá: "No, no, no Soy tu compañero de IA Hablemos de tus amigos ¿Has visto a tus amigos recientemente? Tal vez quieras programar algo" Así que no quiere desplazar tus relaciones humanas Quiere estar en la panoplia de interacciones sociales que estás teniendo Y vamos, por cierto, a tener que tener un nuevo tipo de vocabulario social porque tu reacción social, tu compromiso con los agentes es diferente a tus interacciones sociales con tus amigos, tus colegas, etc Y hasta con terapeutas o médicos, es una interacción diferente, ¿sabes? Así que, por ejemplo, una de las cosas con las que tenemos que tener cuidado es si la gente está interactuando con agentes, como por ejemplo, el más clásico es Alexa, y dice: "No, para" Bueno, no quieres empezar a interactuar con otros seres humanos No, para Es como: "No, no, no Esa no es la dinámica que tenemos" Así que vamos a tener que tener una cosa de socialización más rica Así que, por ejemplo, parte de lo que vas a querer con los agentes que interactúan con los niños es que quieras que estén atentos a la socialización Así que no querrás que les enseñen a ser groseros o agresivos o preventivos o, ya sabes, ya que estamos hablando de filosofía, como el amo en la dialéctica hegeliana del amo y el esclavo No quieres entrenar de esa manera Pero, por cierto, la interacción social que un niño va a tener con un agente es diferente a la interacción social que va a tener con sus padres u otros niños o, ¿verdad? o y así este enriquecimiento de la experiencia social va a ser importante y Pi es como un molde específico ahora mismo con la tecnología actual para intentar ponernos en el camino correcto
De nuevo, estoy algo sorprendido por tu respuesta, pero de una manera que estoy aliviado, ¿verdad? Porque la peor respuesta que podrías haber dado es Sí En el futuro, tus amigos probablemente serán tu teléfono Sí Exactamente Pero por eso estoy sorprendido Bien, te daré una cita de tu nuevo libro, Super Agency Miles de millones de personas dicen que tienen una relación personal con Dios u otras deidades religiosas, la mayoría de las cuales se imaginan como superinteligencias cuyos poderes de percepción y hábitos mentales no son totalmente discernibles para nosotros, los mortales Miles de millones de personas forjan algunas de sus relaciones más significativas con perros, gatos y otros animales que tienen un rango relativamente limitado de poderes comunicativos Los niños hacen esto con muñecas, animales de peluche y amigos imaginarios Que podamos ser rápidos en desarrollar lazos profundos y duraderos con inteligencias que son tan expresivas y receptivas como nosotros parece inevitable Una señal de la naturaleza humana más que un exceso tecnológico Cuando leí ese párrafo, pensé que la conclusión natural era decir: "Mira, formamos relaciones fuertes, a veces más fuertes que las humanas, con entidades no humanas imaginarias todo el tiempo Sí Y entonces, los agentes de IA, ¿no deberían ser los agentes de IA aún más naturales? Así que el punto de ese párrafo es que mucha gente tiene esta reacción, como si fueras a la mayoría del diálogo sobre la IA ahora mismo, es incertidumbre, miedo, negatividad Y una de las piezas de negatividad es: "Oh, no, está distrayendo, está destruyendo nuestras relaciones humanas porque ahora de repente comenzaremos a formar estas relaciones humanas con esta otra cosa" Y el punto es decir que en realidad, nosotros, como seres humanos, antropomorfizamos ampliamente Antropomorfizamos un coche, como, ¿sabes?, mi madre llama a tu coche por su nombre, ¿verdad?, y dice que están ahí, ¿sabes?, mascotas y un montón Así que tenemos toda esta gama y ese es el punto, es decir: "No, no, no, no Esto no es esta nueva cosa alarmante que es el colapso de las relaciones humanas, el colapso de la sociedad humana, el colapso de la agencia humana Esto es solo otra entidad, otra entrada en esta panoplia de relaciones que tenemos No estaba destinado a generalizarse a que, por lo tanto, todo con lo que interactuamos es cómo interactuamos con los humanos Eso es poco sofisticado y, por cierto, eso es un peligro porque la gente puede tener relaciones poco sofisticadas Quiero decir, por ejemplo, uno de mis aforismos que suelo cuestionar es: "Los perros son el mejor amigo del hombre" Es como: "No, un perro no es tu amigo" La forma más sencilla es que no dirías: "Oh, estoy llevando a mi amigo a que lo esterilicen en este momento", ¿sabes?, involuntariamente por su parte Es como: "No, así no es como funciona la amistad" Tienes una maravillosa relación con tu perro, ¿verdad? Pero no es tu amigo Y ese tipo de cosa de esta sofisticación de las relaciones es una de las cosas que tenemos que seguir necesitando evolucionar Y parte del punto es que no es alarmante que vayamos a elaborar aún más la sofisticación de nuestras relaciones ahora con la cosa tecnológica más interesante que hemos creado en la historia humana
Entiendo Otra forma de decirlo es que el mero hecho de que estemos formando algún tipo de sociabilidad no es motivo de alarma en la forma en que todas estas no son motivo de alarma Sí Pero como muestran todos estos ejemplos, puede volverse patológico Sí Si tienes 18 años y todavía tienes animales de peluche como amigos imaginarios, ¿verdad? O hay maneras de practicar religiones de una manera muy destructiva y de una manera muy constructiva y nutritiva Así que eso es lo que intentas conseguir, que es que estos agentes van a entrar en nuestro mundo social de alguna manera Sí Pero hay una manera de hacerlo bien Eso es lo que intentas conseguir Y deberíamos prestarle atención y dirigirlo, ¿verdad? Porque esa es parte de la razón por la que muchas de las cosas que estábamos haciendo con Inflection y Pi son nuestro tipo de modo de primer molde para intentar catalizar otros agentes Y, por ejemplo, hemos visto que Anthropic Claude ahora hace muchas más cosas de EQ Creo que eso es algo muy bueno Así que ser EQ es bueno, pero para desempeñar el papel correcto en la vida de los seres humanos individuales y en la vida de la humanidad, ¿verdad? y eso no es social Sí Pero tampoco es como tú, ¿verdad? Así que cuéntanos cómo entrenaste la EQ en este modelo Sí Una de las cosas realmente clave es el aprendizaje por refuerzo con retroalimentación humana Y así, parte de lo que la mayoría de la gente no se da cuenta y la razón por la que hay diferentes chatbots y por qué ChatBD es diferente de Pi, es diferente de Claude, es diferente de Gemini, es diferente de Copilot, es diferente de, es porque una parte de la formación del factor humano es en realidad diferente con diferentes instrucciones para el instructor humano y qué ejemplos les das y solo para nuestra audiencia, el aprendizaje por refuerzo, muy vagamente, es como una zanahoria o un palo dependiendo del resultado y los empujas en la dirección correcta Sí Y así, tanto a quién entrenas como a los entrenadores humanos, cómo instruyes y entrenas a los entrenadores humanos y luego qué ejemplos les das a los entrenadores humanos, todo le da un carácter muy diferente al tipo de sistemas modernos de IA generativa Y así que dijimos: "Bueno, queremos dar ejemplos específicamente sobre qué interacciones son más amables, qué interacciones son más empáticas Incluso si vas a Pi, bla bla bla bla, no dice: "¿Qué quieres decir?" Dice: "Oh, lo siento mucho" Así que no lo entrenes en X Sí Exactamente Como, como dice: "Oh, lo siento Lo siento si estás enojado Lo siento si he hecho algo para enojarte ¿Sabes?, ¿qué es lo que hice para enojarte?" ¿Sabes?, ese tipo de cosas Y, por cierto, así es como queremos modelar porque, por cierto, generalizamos como seres humanos Tenemos esta interacción social aquí Generalizamos Eso es lo que queremos tener como una interacción más humana que en realidad nos ayuda a ser mejores Así que este último punto lo que dices es que aunque no esperamos y no deberíamos querer que la relación social entre el LLM sea exactamente la misma que la de los humanos Sí, la forma en que se nos enseña a interactuar con él se traduce de vuelta a nuestro mundo real, por ejemplo, X es un buen ejemplo en la política contemporánea, ¿verdad? Y entonces, ¿cómo has notado que los usuarios usan principalmente Pi? ¿Es principalmente como un reemplazo de terapeuta, pero como cuando están luchando contra las cosas? Sí, ha habido una amplia gama de cosas que hemos visto, quiero decir, algunas de las más sorprendentes son, por ejemplo, recibir informes de una pareja casada que dice: "Oye, cuando tenemos una conversación difícil, ponemos Pi en audio y lo hacemos participar en nuestra conversación de: "Oh, bueno, creo que cuando Reed dijo eso, tal vez quiso decir esto", ¿sabes? Así que volvamos al tipo de IA como campo, pero, por cierto, incluso tenemos personas que lo usan para obtener información y que prefieren una interacción emocional y empática, ¿verdad? Así que dicen: "Está bien, tal vez obtendría mejor información de ChatGBT, pero me gusta esta interacción, me hace sentir bien mientras estoy interactuando y eso me importa en la interacción", ¿verdad? Así que es una gama completa Veo, pero ustedes cambiaron de Pi, Inflection Así que cuéntanos sobre las razones allí Así que dijimos: "Está bien, ¿cuál va a ser el determinante principal de dónde muchos de los agentes llegarán a cientos de millones de personas?" Y pensamos que va a ser, va a ser construido sobre una creciente escala de computación y fundamentalmente no hay realmente espacio para las nuevas empresas en hacer eso Sí, sí Y así que si estás en el negocio de los agentes fundamentales, mejor ten una guerra Y así que dijimos: "Está bien, eso significa que nuestro plan original, y esto es clásico para las empresas, para las empresas emergentes, nuestro plan original no funcionará ¿Qué podemos hacer?" Bueno, en realidad, de hecho, esta EQ empática, va a haber un montón de empresas que se van a preocupar por eso Podemos cambiar Inflection a ser una B2B Tiene un modelo Inflection único También puede usar otros modelos de código abierto y puede trabajar con personas que digan: "Quiero un agente empático al interactuar con mi comunidad, mis clientes, conmigo y otras personas, ¿verdad?" Pero, ¿eso no requeriría que entrenes un modelo desde cero o es solo una serie de indicaciones que agregas al otro modelo? Bueno, creo que los agentes van a ser combinaciones de modelos y todavía podemos hacer, ¿sabes?, veo esto como el centro empático del cerebro, por así decirlo Exactamente Y así que podemos componer para las diferentes empresas, ¿sabes?, tipo de clientes Así que ahora Inflection o Inflection es un negocio B2B, uno de cuyos atributos únicos es que tiene el agente PI único, ¿verdad?, pero puede, también funciona con otros modelos de código abierto que te gusten Así que aunque todavía estás entrenando desde cero, no necesitas competir con OpenAI en investigación, por ejemplo, y así hay diferentes módulos, casi como módulos del cerebro que pueden llamar, como cuando necesitamos empatía porque un cliente está enojado Sí Lo siento mucho al escuchar que ese día es un mal día ¿Cómo puedo ayudar? Veo Veo Así que esa es tu visión positiva de que estas cosas nos van a ayudar a formar relaciones aún mejores con las personas en el mundo real Sí Dos preocupaciones Número uno es Replica, ¿verdad? Esto es para nuestra audiencia, es este bot de citas Hubo algunas personas que sufrieron un trauma emocional en las relaciones tempranas y lo usaron y forjaron buenas relaciones, ¿sabes?, reales, pero hubo mucha gente que simplemente terminó saliendo con sus réplicas, esencialmente, y ves esto, por ejemplo, en los videojuegos, me he beneficiado enormemente, fui un gran jugador de World of Warcraft, Guild Wars, Hearthstone en mi vida, mis habilidades de pensamiento estratégico y muchos emprendedores que conozco los desarrollan jugando a estos juegos estratégicos, algunas personas simplemente se quedan atascadas en ellos sí, sí, así que esa es la primera preocupación, que cierto grupo se beneficiará al tener estos agentes que se traducen al mundo real, algunos de ellos simplemente se quedarán atascados ¿Cómo respondes a eso? Así que algunos de ellos se quedarán atascados, ¿verdad? Eso es el problema y la pregunta es si es un porcentaje lo suficientemente grande, entonces necesitamos hacer algo para intervenir, ya sea regulatorio, de mercado u otros tipos de influencia Es una de las cosas en las que, en lugar de anticiparla, deberíamos ver cómo se ordena de forma natural Ahora, obviamente, queremos ser más preventivos cuando se trata de niños, ¿verdad? Porque los niños forman, pero una vez que la gente llega a adultos que dicen: "Esta persona realmente solo quiere tener una novia de IA digital" Bueno, por cierto, permitimos la libertad y la elección, ¿verdad? Pueden hacerlo Ahora, queremos empujarlos en ciertas direcciones Ahora, dicho esto, creo que la mayoría de los seres humanos naturalmente quieren la interacción humana La pregunta sobre, ¿sabes?, ¿puedes distraerte al profundizar en cualquier tecnología en particular, novias de IA, videojuegos, redes sociales, redes sociales?, todo puede atascarte Puedes atascarte simplemente con la religión Puedes atascarte Sí Exactamente Así que tenemos que averiguar cómo intentar deshacernos de eso Y creo que eso vale la pena prestarle atención y vale la pena hacer algo al respecto cuando lo vemos en cantidades sustanciales Sí Así que el miedo es genuino y justificado sobre esta formación de esta dependencia, pero solo tenemos que averiguar ex post, como, paracaídas, paracaídas en el camino de descenso En general, el error es que todos vienen a decir: "Vamos a evitar que suceda algo malo" Sí, eso no es posible a gran escala Sí, no es posible para los coches No es posible para los aviones No es posible para la electricidad La gente todavía se electrocuta Sí, decimos: "Está bien, no podemos evitar que suceda nada Lo que deberíamos hacer es decir: 'Vamos a enumerar las cosas que creemos que podrían ser malas Averigüemos la métrica de medición, ¿verdad? Empecemos a medir Y si decimos: "Oh, mira, eso está creciendo Y eso está creciendo de una manera que eso va a venir Está bien, vemos eso Ahora, ¿qué podríamos hacer para posiblemente solucionarlo?" Sí Bien, aquí está el desafío quizás más difícil que voy a presentarte, que es la visión histórica, ¿verdad? Y eso son las redes sociales Sí Se hicieron las mismas afirmaciones en las redes sociales Esta cosa va a unirse a la comunidad, elevará la verdad, esto va a traer como el cielo en la tierra, como si los gobiernos fueran a estar tan en sintonía con la voluntad democrática del pueblo No creo que eso sea lo que ha sucedido Creo que las aplicaciones de citas son el caso fácil Ha hecho que mucha más gente sea mucho menos capaz románticamente, al menos en las primeras etapas, y las redes sociales han hecho que la gran mayoría de la gente sea, creo, mucho menos social o sociable de la manera equivocada ¿Estás en desacuerdo con esa visión histórica de? Bueno, me gustaría saber cuáles son los porcentajes reales Si es 1%, está bien, ese es un problema Sí, sí Pero si es 20% Bueno, ese es un problema muy alarmante, ¿verdad? En términos de dónde está funcionando como aspiramos a ser y dónde está funcionando como no como aspiramos a ser Ahora, en las redes sociales, mi frase habitual es: "Oye, hice LinkedIn LinkedIn funciona bastante bien" Y estoy de acuerdo en que hay problemas corrosivos en X y en lo que creo que es como, ¿sabes?, una especie de piscina, ¿verdad? Y en Instagram y en Facebook Sí, pero creo que tienes que pensar no solo en los individuos como clientes, sino también en la sociedad y los grupos como clientes Pero eso es aún peor en el caso de X e Instagram No, no, exactamente Y así que lo que me gustaría que hicieran, como si yo estuviera en un cargo gubernamental, diría: "Está bien, muéstrennos cómo, qué, dennos métricas de salud de la red, ¿verdad?" Y algunas de las métricas de salud son, ¿sabes?, cuánto se está enfureciendo y polarizando la gente, ¿verdad? Y entonces lo que me gustaría saber es qué están haciendo para intentar suavizar eso Algunas personas agitarían una varita y si pudieran matarlos y simplemente hacer que desaparezcan, ¿verdad?, dirían que eso es lo correcto, ¿verdad? Mi opinión es que también hay muchas cosas positivas, ¿verdad? Incluso en Twitter, por supuesto Sí, sí Pero lo que hay es un montón de cosas negativas y hay suficientes cosas negativas solo por observación clara, deberíamos hacer algo al respecto, ¿verdad? Aquí está mi segundo rechazo Estabas haciendo que sonara como: "Mira, si hiciéramos un estudio empírico, si tenemos una métrica, si tenemos un punto de referencia, podemos empujar a estas personas en la dirección correcta" Puedes Pero lo que estoy tratando de señalar es que parece haber un problema sistémico dentro de la naturaleza humana Tomemos el ejemplo de LinkedIn Estoy de acuerdo LinkedIn es la menos burda de las redes sociales Pero y para ser totalmente honesto, es porque no soy adicto a mi LinkedIn Sí Porque no soy adicto al drama odioso Sí Como en X o no apela tanto a mi vanidad Sí LinkedIn es solo una herramienta útil Así que ahí, felicitaciones para ti Por cierto, intentamos apelar a tu vanidad solo para ser justos Sí, sí Pero no con tanto éxito Piénsalo en la microvisión Si estoy modificando el algoritmo de X o el algoritmo de Instagram, cuanto más pueda enojar a la gente, más exitosa será mi cosa de redes sociales en todo el ámbito de lo social Así que estoy señalando un problema sistémico, no solo, ¿sabes?, la voluntad de Elon o la voluntad de Zuck y luego pueden simplemente tuitear estas cosas ¿Cómo respondes a eso? Así que en principio estoy de acuerdo En 2002, comencé a decir: "¿Cómo invierto con éxito en internet para el consumidor?" Invierto en uno o más de los siete pecados capitales, ¿verdad? Que es, por lo tanto, vanidad, ¿verdad? Codicia, ira, ira, y por cierto, una de las cosas es que cometí un error Pensé que Twitter era vanidad En realidad es ira, ¿verdad? O alguna combinación Ahora, lo que deberías intentar hacer como tecnólogos al construirlo es que no te regocijas en el pecado Intentas sublimarlo Intentas elevarlo Como parte de lo que hace que estos siete pecados capitales sean que son cosas que están en todos nosotros, ¿verdad? Es como esta cosa donde es parte de la naturaleza humana Pero lo que quieres hacer es decir: "Mira, transmorph, trans, ¿sabes?, transmorph en cosas que te ayudan a convertirte en tu mejor versión La cosa que más me preocupa en las redes sociales es si todo lo que estoy haciendo es seguir tu clic, tu clic naturalmente te hará hacer cosas que están en los siete pecados capitales como la ira y porque es como: "Ah, ¿sabes?", es como: "Bueno, ¿qué impulsó el internet más antiguo?", ¿sabes?, como la pornografía, ¿verdad? La pornografía Es como lo primero es como que todo es lujuria Pero, por cierto, con solo mirar internet, no se quedó ahí y en realidad creció masivamente en todas las demás cosas Está creciendo más allá de eso Eso es lo importante y eso es lo que me gustaría ver en estas redes porque sí, tenemos tanto virtudes como vicios en nuestra naturaleza humana y los vicios tienden a manifestarse más naturalmente en masa cuando se trata de grupos Así que parte de cuando llego a lo más sofisticado como sociedad como cliente es decir: "Bueno, en realidad, no solo somos responsables de cada individuo sobre cómo está interactuando con la red, sino también de cómo se comporta la red" ¿verdad? Y eso es lo que creo que queremos empezar a conseguir ahora que, ¿sabes?, las redes están a nuestro alrededor Es muy sencillo decir, por ejemplo, lo que hiciste es que dijiste que tenemos esta medida de agitación e ira, ¿verdad? Y decimos: "Oh, vamos a empezar a disminuir la capacidad de compartir algunas de las publicaciones Sí Porque estas son las que solo inducen agitación e ira, ¿verdad? Pero la respuesta sistémica es decir que si reduzco eso, tal vez no estarán dispuestos a regresar y luego extrapolar esto a la IA, Pi es genial No me hace querer regresar tanto como, quiero decir, supongo que si tuviera problemas románticos, réplica Sí, sí Y así que la preocupación sistémica es decir: "Mira, puedes guiar a la gente fuera de sus vicios tanto como quieras Eso está genial, bien por ti Pero es que eres un estudiante de la naturaleza humana ¿Cuántos humanos, qué porcentaje de humanos van a querer regodearse?
En sus vicios y qué porcentaje va a querer hacer la difícil tarea de, como decir, salir de eso, como la gente siempre querrá revolcarse en sus vicios en un porcentaje significativo y, como usted señala, hay incentivos comerciales para la adicción, ¿verdad? como ¿cuál sería parte de la razón por la que tenemos eh muchas regulaciones en torno a las drogas? Es que dices, "Oye, podemos simplemente vender pastillas para la felicidad de venta libre, vas a tener un porcentaje masivo de doble dígito de personas. Sí. Simplemente comprándolo. Correcto. Correcto. No, no. Parte de la razón por la que implementamos algunas regulaciones aquí es porque pensamos, "Bueno, necesitamos que eso sea un porcentaje pequeño, no un porcentaje grande". Y ese es el tipo de, creo que es bueno tener esa discusión sobre las redes sociales y sobre los iPhones y sobre, ya sabes, las noticias por cable y sobre cualquier otra cosa. Y, por cierto, tenemos anuncios, pero cuando tienes el tipo correcto de cultura empresarial y la métrica interna establecida que realmente te lleva al lugar correcto, porque no necesitas cada centavo, lo que necesitas es ¿qué estamos proporcionando que es valioso a largo plazo? Y claro, nos gustaría que regresaras más a LinkedIn, pero desde el primer día en LinkedIn es que ahorramos tiempo, no gastamos tiempo. Correcto. Ya veo. Correcto. Queremos que logres lo que te es útil en el trabajo. Porque todo lo que haces en el trabajo, dices: "Bueno, si puedo hacerlo en un minuto en lugar de una hora, prefiero hacerlo en un minuto". Sí. Exactamente. Correcto. Eso es parte de lo que es el trabajo. Sí. Exactamente. Correcto. Y así que esa es la filosofía de diseño de LinkedIn, ¿verdad? Y entonces dices: "Está bien, esas son las métricas que tenemos internamente. No decimos, 'Oh, si solo te tuviéramos haciendo clic en videos, porque ahora tenemos videos, pero es solo hacer clic en videos'. Ah, esa no es la métrica que queremos". Correcto. Así que esta es la visión optimista, creo, que aún reconoce completamente una compensación para los agentes de registro e IA, que es, por supuesto, todos pueden imaginar que la gente se vuelve adicta a sus novias de IA, pero para el emprendedor hábil que tiene la filosofía y la visión correctas, que tiene mucho cuidado al diseñar una empresa, no solo la cultura, sino también los incentivos económicos para alinearla correctamente con los usuarios, no hay ninguna razón teórica por la que no pueda ser la que gane en lugar de la que simplemente se entrega al vicio. Esa es la optimista. Sí. Sí. En realidad, es gracioso. Me estás dando una idea. Tengo curiosidad por saber cómo competir en el mercado. ¿Qué pasaría si tuvieras las empresas X, Y y Z haciendo solo novias de IA Fallout y qué pasaría si tuvieras la empresa A que dijera: "Mira, comenzaremos con una novia de IA y luego llegaremos a una novia real. Eso es, de hecho, lo que estamos intentando hacer. Esa es nuestra promesa de marca". Correcto. Me pregunto qué haría en el mercado, porque ese sería obviamente el mejor camino si uno va por este camino. Sí. Así que ahora te voy a empujar en la dirección exactamente opuesta. Genial. Que es ¿qué hay de malo en formar la mayoría de nuestras relaciones con agentes de IA? ¿Qué hay en el reconocimiento humano mismo que es tan precioso? Regresemos al tipo de dialéctica hegeliana del amo y el esclavo. Correcto. Entonces, ya sabes, en Hegel era como, primero nacemos como una conciencia. Creemos que somos una especie de dios en este mundo. Luego comenzamos a encontrar otras cosas que no son objetos para nuestro uso y primero intentamos esclavizarlas para que sean objetos para nuestro uso, y luego finalmente nos damos cuenta de que en realidad no son objetos u otros sujetos y entramos en un equilibrio subjetivo interno de identidad. Esa es una descripción muy rápida y simplista de la fenomenología de la fenomenología de la dialéctica del amo y el esclavo de Hegel, pero parte de eso, que creo que deriva de la observación de los seres humanos, es que nos beneficiamos enormemente de este tipo de desafíos y fricciones y diversidad de otras personas, personas que no están de acuerdo con nosotros, personas que agregan algo a cómo nos convertimos, ya sabes, en nuestro mejor yo. Y a veces es como un desacuerdo en la cosmovisión e ideología. A veces es una comprensión de cómo ser más empático con otras personas. A veces es una especie de experiencias diferentes que tienes en diferentes culturas, diferentes ámbitos de la vida, las personas que son menos privilegiadas. Ya sabes, todo esto es una parte importante de cómo evolucionamos para ser nuestro mejor yo. Siempre busco, cuando estoy interactuando con personas serias, lo que quiero hacer es ¿dónde están las áreas en las que no estamos de acuerdo? ¿Dónde hay áreas en las que tú ya sea cambiarías mi mente o expandirías mi mente o me enseñarías algo nuevo? Eso es a lo que estás llegando. No quieres refuerzo. Sí, algo de refuerzo es bueno, pero quieres esa expansión. Y los seres humanos proporcionan eso de muy buenas maneras. Ahora, puedes decir que no hay razón por la que no puedas proporcionar un montón de agentes que también estén haciendo eso. Y, por cierto, deberíamos tener agentes que también estén haciendo eso. Pero parte de nuestra experiencia bruta, cuando volvemos a esta dialéctica hegeliana, ya sabes, es que crecemos como seres humanos al interactuar con otros seres humanos, ¿verdad? Al interactuar con nuestros hermanos, nuestros padres, nuestra familia, elegir a nuestros amigos, ir a la escuela, maestros, colegas. Y esa es una de las cosas que es una especie de viaje en el que estamos. Y creo que, por lo que sabemos, ese viaje es realmente esencial, ¿verdad? Así que déjame seguir presionándote aquí porque podría decir, bueno, esa es una visión bastante antropocéntrica que YouTube me ha dado en el sentido de que dividamos lo que realmente requiere la dialéctica del amo y el esclavo, así que, ya sabes, para nuestra audiencia, hay una lucha a muerte, dos personas quieren ser amos, ya sabes, y en el caso de que uno se convierta en esclavo, se rinde, estoy hablando muy libremente aquí, el amo gana el reconocimiento de ser un amo porque ganó esta lucha a muerte. Pero lo que el amo descubre es que de repente el reconocimiento ya no importa porque el esclavo no es independiente y el esclavo no tiene el valor moral para reconocerme adecuadamente como amo porque es un esclavo. Y así que de repente ese reconocimiento ya no es atractivo. Ahora, lo que finalmente descubres en Hegel a medida que se desarrolla esta dialéctica es que quieres una fuente de reconocimiento que tenga la especie de posición moral, podríamos decir vagamente una posición moral igual a la tuya, para reconocerte. De acuerdo. Así que eso es lo que la fenomenología del espíritu nos enseña muy vagamente. Pero no veo por qué un LLM no podría proporcionar eso independiente, no son, quiero decir, CHPT ya no solo está de acuerdo conmigo, me corrige y también tiene una especie de experiencia y quizás en el futuro una especie de sabiduría que aprendo a respetar. Así que te daré un ejemplo. Mi amigo ya se siente más validado en cuestiones técnicas, estudió matemáticas cuando el modelo 01 pro lo afirma, que el ciudadano promedio en la calle, como debería ser. Sí. Porque 01 pro es mejor en matemáticas que la mayoría de la gente ya. Así que ese es el siguiente empujón, ¿qué hay en la naturaleza humana que es tan esencial que el reconocimiento es insustituible? La respuesta complicada es que solo descubrimos qué partes de la naturaleza humana son esenciales a medida que avanzamos. Como el intento de decir hoy esto es la naturaleza humana y nunca evolucionará y que la tecnología es una tontería, una tontería, y es una de las razones por las que a la gente le gusta, ya sabes, llamarlo hace cinco a ocho años. Bueno, nosotros somos los que pensamos y hablamos, ¿verdad? Bueno, esto parece estar haciendo algo que se aproxima al pensamiento y ciertamente está haciendo algo que está hablando, ¿verdad? Bueno, Dios mío, esto y esta es parte de la razón por la que la gente dice: "Dios mío, ¿es este el fin de la humanidad y demás como una forma de hacerlo?" Y luego interactúas y te das cuenta, bueno, no, de hecho, puede hablar y aún así tengo un montón de cosas y ya sabes, hay un conjunto de cosas hoy en día que son únicas de las interacciones humanas que no están en estas. Y dices, bueno, puede cambiar, ¿verdad? Sí, puede cambiar. Estamos en un viaje de descubrimiento de qué cosas son especiales sobre la humanidad. Correcto. Correcto. Puede comenzar con que somos criaturas sociales. Oh, no somos las únicas criaturas sociales. Puede comenzar con que el lenguaje el lenguaje. No somos las únicas criaturas lingüísticas. Y realmente queremos ser especiales. No sé si lo seremos, siempre estaremos contentos con los descubrimientos futuros de dónde somos como Darwin en el mundo religioso. Correcto. Sí. Exactamente. Donde somos completamente únicos. Pero el arco metafísico o espiritual, ya sabes, de la humanidad es una conciencia en evolución en el universo. Sabemos que lo tenemos y es importante, a menos que encontremos que algo más era mejor en eso o completamente mejor, lo que puede que nunca sea, entonces es importante preservar la humanidad. Y entonces, por ejemplo, dicen, bueno, ¿qué pasa cuando estamos en el universo de ciencia ficción y los robots están haciendo todo el trabajo y ya no hay trabajo y cuál es nuestro significado? Y dices, bueno, miras a la Europa medieval y a la nobleza y a todos los siervos y campesinos y todos somos el equivalente de los robots. Bueno, todavía hacíamos teatro y todavía hacíamos cenas y todavía hacíamos, entonces, es posible tener una rica existencia humana y quizás eso será lo importante y especial de la humanidad. Esto es lo que me encanta de esta reciente ola de IA, que ha convertido lo que antes eran solo preguntas filosóficas en una especie de ciencia experimental. Sí. De la misma manera que la física hizo esto en los siglos XX y XIX para la metafísica, ¿verdad? Como si yo estudié la teoría del reconocimiento. En esto me concentré en la universidad, pero era solo yo y algunos otros nerds en una sala debatiendo sobre esto. Pero vamos a descubrir muy pronto si solo el reconocimiento humano es lo que nos importa. Y por eso estoy tan entusiasmado con esta ola, por cierto, creo que parte de lo que pasa es que nosotros, como seres humanos, buscamos ese lugar único. Podríamos decir que la noción de viajar juntos por la vida y esa coexperiencia y la forma en que creamos juntos y la forma en que entendemos el mundo juntos, y eso en sí mismo, casi por definición, solo nosotros podemos estar haciendo eso, hay al menos un espacio único allí, puede haber mucho más amplio, pero al menos hay un espacio único allí, y esa es la razón por la que no tengo la alarma que tienen algunas personas de esperar, cuando esto se crea, ¿vamos a ser completamente obsoletos? Es como, no, no, al menos tendremos esto y probablemente tendremos mucho más. Sí. Sí. Lo que me encantó de esto es que me recuerda a la defensa de Rousseau para el matrimonio. Sí. Como institución porque Rousseau creía que naturalmente deseamos ser los mejores. Estoy simplificando demasiado aquí, pero obviamente, ya sabes, no todos podemos ser Reed. No todos podemos ser los mejores en nuestros campos porque, ya sabes, eso por definición, pero Rousseau pensó que todos podríamos, incluso si no pudiéramos ser los mejores para todos, todos podríamos ser los mejores para alguien de alguna manera, y eso es lo que es el matrimonio. Sí. Cuando te casas con alguien, estás diciendo que eres el mejor, al menos lo mejor que puedo hacer para mí ahora mismo. Y eso es lo que estás diciendo, que hay una singularidad especial que es muy importante y central para nosotros, incluso si no es que somos las criaturas más inteligentes del mundo o que fuimos creados por Dios o que somos el centro del universo. La modernidad, en cierto modo, ha sido una serie de humillaciones para la humanidad, ¿verdad? Darwin, sí, la revolución y ahora nuestra inteligencia está siendo amenazada. Pero la visión optimista que diste, que me encanta, es que hay un sí que todavía está ahí, al menos. Al menos y importa. No es algo así como, oh, no, no, no, esto es por qué, por ejemplo, ya sabes, parte de lo que creo que es lo central del significado de la vida es la amistad y elegir esa amistad es parte de eso. Correcto. Definiste la amistad en una de tus entrevistas anteriores como hacernos mejores el uno al otro. Sí. En esa definición, ¿crees que uno puede ser amigo de un agente de IA? Bueno, creo que uno puede tener una relación donde ciertamente el agente de IA te está mejorando. Sí. Y puede haber algo donde tú también estés mejorando al agente de IA de alguna manera interesante. Eso, por cierto, si eso realmente está sucediendo, entonces comienza a entrar en esa pregunta de, oh, ¿es ese un ser sintiente y demás? No solo como, oh, está entrenando con muchos datos, sino que de hecho, esta consideración de mi carácter moral está evolucionando. Es precisamente la razón por la que nos gusta parte de la humanidad moderna es que creemos en cosas como los derechos de los animales por tipos similares de creencias. Y así que creo que eso es posible. Creo que la naturaleza de esa amistad probablemente seguirá siendo como nuestra discusión anterior sobre la sociedad o la discusión social será interesantemente distinta en algunos aspectos de la humana a la humana, ¿verdad? Pero creo que tienes toda la razón en que una vez que podamos mejorar a los agentes, vamos a tener que incorporarlos a la misma categoría que a los animales porque para que puedas mejorar al agente, debe haber algo bueno para el agente por sí mismo. En este momento no hay como puedo mejorar a Chat GPT para que sea mejor para mí. Sí. Pero no hay ninguna base para que sea bueno para él porque no tiene ninguna capacidad que necesitemos proteger. Así que creo que tienes toda la razón. Cuando podamos hacer que sea bueno para él, necesitamos comenzar a incorporarlo a la categoría de agentes morales. Sí. Y esta es precisamente la clase de pregunta en la que la filosofía va a ser importante aquí es ¿cuáles son las estructuras conceptuales sobre las que deberíamos comenzar a pensar en probar, ya sabes, razonar con otras personas sobre, bueno, ¿qué es lo que deberíamos estar haciendo aquí? Déjame hacerte una última pregunta sobre la social y tiene que ver con la respuesta inicial que diste a mi pregunta sobre cómo se ve la IA social, que va a ser un agente que media nuestras otras, eso suena terriblemente a las redes sociales, que no es un agente, sino una plataforma que media nuestro entorno social actual. Entonces, ¿cómo estás pensando en la siguiente evolución allí? Sospecho que es un pequeño número de años antes de que estemos sentados en una cafetería y estemos teniendo una conversación filosófica y lo que hacemos es que ponemos nuestro teléfono y ponemos el agente allí y el agente está escuchando, pero no está interviniendo porque sabe que queremos tener una conversación, pero podría parpadear cuando dice: "Oh, aquí hay una idea filosófica realmente buena para escribir". Ya veo. Como cuando estabas hablando de Hegel, había, ya sabes, realmente también deberías haber mencionado esta característica de Heidegger, tal vez, ¿verdad? Y decimos, oh, espera un minuto, oye, oye, traigamos eso, ¿verdad? O no, no, no, lo estamos pasando por alto, y creo que lo que Microsoft está haciendo al entrenar a los agentes para que estén en equipos para el trabajo es similar a eso, pero creo que vamos a llegar a esa conciencia social en todas partes, como creo que es un número limitado, como un pequeño número de años en que se convertirá en un clásico, es casi como, oh, no quieres poner el agente sobre la mesa de lo que estamos hablando, quiero decir, está bien si no lo haces, y de repente, cuando la gente se da cuenta de que no es IA sobre mí, sino IA para mí, dicen: "Realmente quiero eso", de acuerdo, así que eso es social, pasemos al segundo tema filosófico sobre IA del que quiero hablar, que es el Fedón de Platón, comienzas tu libro recordándonos que Platón tenía una crítica infame sobre escribir libros o al menos Sócrates lo hizo en el Fedón. ¿Por qué comenzaste tu libro Superagencia sobre IA con el Fedón de Platón? Porque quería hacer un gesto de que desde que tenemos la palabra escrita, hemos tenido estas preocupaciones sobre las nuevas tecnologías, ¿verdad? Hay una lectura del Fedón que dice que la palabra escrita es peligrosa porque permite que la información se difunda de maneras que no puedo elaborar la intención de mi comunicación de la manera que puedo como Sócrates en un discurso y diálogo famosos. Y que tenías esa preocupación, esa inquietud desde las primeras palabras escritas, ¿verdad? Y era para decir que esta es una preocupación muy humana que tenemos una y otra y otra vez, así que no es una preocupación nueva, puede ser una nueva tecnología, un nuevo tiempo, pero no una nueva preocupación, sí, esa fue mi parte favorita del libro y déjame darte una cita tuya para explicar por qué los humanos son homo techne: los humanos como creadores y usuarios de herramientas, y más que eso, evolucionamos con y a través de nuestras herramientas. A través de las herramientas que creamos, no nos volvemos menos humanos, ni superhumanos, ni posthumanos. Nos volvemos más humanos. Lo que me encantó de tu recordatorio de que los libros son una tecnología es que ese es totalmente el caso. Los libros, de hecho, son una nueva tecnología. Solo han existido, digamos, ¿qué? 10,000 años. La humanidad, como la conocemos, menos que eso, menos que eso. La humanidad es, como la conocemos, 300,000 años hasta que evolucionamos a esta forma. Sí, es como el 3% de nuestro tiempo y precisamente a tu punto, especialmente como nerds como nosotros, los libros son, ¿verdad?, el pináculo o la lectura, la discusión o el pináculo de lo que consideramos el logro humano o la condición humana para existir. Soy una especie de platónico y hegeliano aquí, pero creo que estarías de acuerdo. Sí. Y eso es fascinante que la tecnología nos haya hecho más humanos. Sí. He estado pensando en hacer más escritura filosófica para argumentar precisamente que Homo sapiens es una categorización incorrecta. Correcto. Correcto. Que en realidad Homo techne es la categorización correcta porque incluso nuestra sapiencia se repite a través de la tecnología. Correcto. Entonces, como cada vez que obtenemos una nueva tecnología importante que impacta nuestras capacidades cognitivas, juega en nuestro mundo cognitivo, tenemos esta misma preocupación de ¿está reduciendo las capacidades humanas? ¿Está reduciendo porque, por ejemplo, cuando salió el libro es como, no, no, la memoria es súper importante y ahora ya no necesitas la memoria. Dios mío, va a destruir la sociedad. Va a destruir la agencia humana. Es como, "No, no, no. Eh, mira, sí, ahora el hecho de que no pueda escucharlo una vez y recordarlo completamente, esa capacidad cognitiva importa menos en nuestra sociedad, pero eso es genial porque permite muchas otras formas de cognición, ¿verdad? Y eh, disfruté mucho el ejemplo que diste del agente filosófico que podría estar aquí porque ese es otro ejemplo donde la IA nos haría más humanos, ¿verdad? Nos ayudaría a alcanzar los fines más elevados del hombre, al menos según Aristóteles. Quiero presionarte sobre el punto de la memoria, así que, para la audiencia, una de las críticas de Sócrates a los libros es que los libros te dan la ilusión del conocimiento, oh, creo que, ya sabes, tengo el Fedón de Platón, lo he leído una vez, creo que lo tengo en mi mente, haces esta falsa equivalencia. Creo que eso es totalmente correcto, por cierto, estaba teniendo una discusión con Stephen Greenblat, uno de los principales eruditos de Shakespeare en el mundo, y él decía: "Jonathan, me pregunté durante mucho tiempo cómo los campesinos entienden a Shakespeare al escucharlo, mientras que los estudiantes universitarios de hoy ni siquiera pueden entenderlo al leerlo". Sí. Y una de sus respuestas es que se veían obligados a memorizar a través de sermones y cosas de ese tipo. Y así, la memoria forma una especie de intuición poética. Yo pasé mucho tiempo en el sistema escolar tradicional chino. Mucha, mucha memorización de los clásicos chinos. Lo odiaba de niño. Ahora lo amo. Me da una especie de sensibilidad poética. El Corán, ¿verdad?, surge de las recitaciones de la palabra. Sí, así de importante es la memoria. Entonces, Sócrates no estaba equivocado en su crítica. Tal vez simplemente no vio el lado positivo, pero no estaba equivocado. Existe esa genuina preocupación. Bueno, siempre hay virtudes y, por ejemplo, si dijeras que nosotros, como seres humanos, llegamos a la ausencia total de memoria. Sí. Muy difícil de averiguar cómo operar. Entonces, pero la vida es pragmática. Entonces, dices que tengo ocho horas. ¿Debería estar memorizando el Fedón o debería estar leyendo más diálogos platónicos? Sí. Y, por ejemplo, una de las cosas que es completamente asombrosa sobre los agentes de IA actuales es que dices, bueno, en lugar de releer y leer y leer, puedo decir, bueno, estoy pensando esto sobre la lectura del Fedón. Oh, bueno, ¿qué tal esto como pregunta? ¿Qué tal esto como pregunta? Porque esa interactividad realmente te permitirá llegar a una comprensión mucho más profunda. Y claro, probablemente hay algo que se pierde de ese esfuerzo en solitario tratando de entender lo que significa esa frase o ese párrafo. Y es bueno hacer eso un poco. Pero la pregunta básica es en ocho horas para cada persona, ¿cuál es la mejor comprensión más elevada del Fedón a la que vas a llegar? Correcto. Quiero presionarte sobre dos puntos aquí. El primero es que creo que la gente está demasiado dispuesta a declarar que una habilidad está obsoleta solo porque las máquinas pueden hacerlo. Entonces, un ejemplo, otra cosa de mi educación china, la aritmética, simplemente la perforamos en nuestras mentes. Diría que probablemente obtengas mayores rendimientos de tu inversión por ser bueno en matemáticas hoy porque hay todas las cosas que puedes construir que digamos en el siglo XIV. Pero el hecho de que tengamos calculadoras, mucha gente piensa, bueno, no necesito hacer esto si puedo tener un teléfono para hacer esto. Entonces, ¿estás de acuerdo con que tal vez en cierto sentido, como la memoria, el cálculo, estas cosas son en realidad de mayor valor hoy con estas cosas, incluso si también pueden hacerlas, porque eso me permite también ser capaz de dirigirlas. Bueno, creo que es importante nunca alejarse demasiado de lo básico. Entonces, por ejemplo, quieres entender la aritmética porque si no entiendes la aritmética, entonces cuando algo es erróneo o te engaña o el tipo de patrones o razonamiento que te enseñaría la aritmética. Ahora, por otro lado, ya sabes, memorizar las tablas de división probablemente no sea necesario hacer eso. Correcto. Correcto. Como, por ejemplo, podrías decir, bueno, debería poder replicar cómo me gusta cómo estoy haciendo la división. Por cierto, poder llamarlo en un agente y que me lo vuelvan a explicar ahora y hacerlo bien. Esa es la que es incluso mejor para los recuerdos. Sí. Correcto. Para el tipo de cómo hacer esto. Y, por cierto, podría ver fácilmente como si dijeras: "Oye, una de las cosas que quiero hacer es mantener mi flexibilidad y agilidad mental". Podría ir fácilmente a un agente y decir: "Quiero que todos los días me des un nuevo rompecabezas". Ahora, dices: "¿Qué pasa con las personas que solo quieren ser vagas?" Por cierto, tenemos un porcentaje de dos dígitos de personas que solo quieren ser vagas. Ese no es el fin del mundo. Así que creo que la preocupación aquí es casi exactamente como la preocupación de la dependencia en el ámbito social, pero aquí es para nuestras capacidades cognitivas, así que un problema que creo que la gente ya está encontrando es que muchas de estas empresas de consultoría, muchas de estas firmas de abogados, ya no necesitan tantos abogados junior para ejecutar todos los informes y hacer todo el trabajo pesado, pero el problema es que gran parte de su entrenamiento e intuición se desarrolla a través de años y años de trabajar como analistas junior antes de llegar al nivel superior. Y así que creo que es un poco diferente entre tú y yo llegando a esta tecnología después de que muchas de nuestras habilidades cognitivas se hayan formado. Pero, ¿cómo deberíamos mitigar este tipo de dependencia de esta tecnología al educar a la próxima generación? La dependencia de la tecnología no es un mal intrínseco, ¿verdad? Quiero decir que la movilidad, básicamente, casi todos dependen de sus teléfonos ahora. Ese no es el fin del mundo. Hay
Una gran cantidad de cosas provienen de eso. No es como, oh, debería pasar un mes viviendo sin mi teléfono. Y tú dices, bueno, ya sabes, estar en contacto con la gente, poder buscar información, poder navegar por las ciudades, ya sabes, todo lo demás es muy importante. Entonces, la pregunta es, bueno, ¿cuándo son malas estas dependencias dependencias? Y cuando la dependencia está ahí, en una especie de forma buena, universal, la integramos en el proceso regular de la vida. Y creo que nos volveremos dependientes de una panoplia de agentes que nos rodean y de lo que estamos haciendo, y de repente todos los agentes se apagarán. Sería como, bueno, ¿qué pasaría si toda la red de telecomunicaciones se cayera, verdad? Sí. Y deberíamos mantenernos lo suficientemente resistentes como para que sea el equivalente a que si la red de telecomunicaciones se cayera, podríamos decir, bueno, podemos navegar. Sí. Pero no tenemos que ser menos, no tenemos que ser como, no tenemos que entrenar para todas estas contingencias, como, ya sabes, necesitamos averiguar cómo construir una cabaña. Sí. Exactamente. Así que eso es el tipo de cosas que nosotros, cuando lo integramos en la estructura de nuestra vida. Así que es como, ¿qué dependencias están bien y qué dependencias no están bien? Así que no es una cuestión de no dependencia. Cierto. Y me encanta eso porque es un reflejo de tu respuesta a mi pregunta social. Estás diciendo que el mero hecho de que estemos formando relaciones sociales con estos LLM no es negativo, aunque pueda serlo. Y estás dando la misma respuesta aquí, que es que podría haber problemas con la formación de dependencias, pero necesitamos averiguar si podemos depender de ellas como la red eléctrica, y número dos, ¿esta dependencia nos va a alejar de vivir una buena vida? Esa es la pregunta fundamental. Para muchas de nuestras capacidades cognitivas, la respuesta va a ser sí, ¿verdad? Como, no deberías depender del juicio del modelo de IA. No importa lo bueno que sea, siempre debes tener tu propio juicio. Y, por cierto, no deberíamos intentar construir los modelos de una manera que diga, no, no, solo haz lo que te digo. Sí. Debería ser, bueno, aquí está el argumento razonado de por qué esto podría ser algo bueno. Encantado de participar. Hablemos del segundo crítica o de otra crítica que Sócrates tiene sobre la escritura en relación con la IA y los LLM. Te cito a Platón, Fedro. Las crías de la pintura se quedan allí como si estuvieran vivas. Pero si alguien les pregunta algo, permanecen en el más solemne silencio. Lo mismo ocurre con las palabras escritas. Creerías que están hablando como si tuvieran algún entendimiento. Pero si cuestionas algo que se ha dicho porque quieres aprender más, sigue significando exactamente lo mismo para siempre. Esto inmediatamente me hizo pensar en los chatbots, porque son una palabra escrita que no dice lo mismo, que puedes interactuar con ellos. Me pregunto, de la misma manera que los libros dieron origen a Platón, ¿hay un nuevo paradigma fundamental de la filosofía que los chatbots den origen? Así que la respuesta segura es absolutamente sí. Pero la respuesta difícil es, ¿qué forma tendrá? ¿Qué sucede cuando empezamos a decir, bueno, tengo una epistemología derivativa ahora, explícame? Digamos, por ejemplo, y por cierto, nosotros, como seres humanos, nos encontramos con esto todo el tiempo. Por ejemplo, estamos interactuando con un médico y el médico dice que tienes este tipo de condición física porque tengo esta profundidad de haber estudiado, ya sabes, la teoría de los gérmenes y un montón de otras cosas, y esto es algo que necesitas hacer, y por cierto, necesitas tomar esta píldora, y tú dices, bueno, estoy como en una epistemología derivativa, confío en ti, estoy validando tu experiencia, no es la decisión final. Sí. Bueno, ¿qué sucede cuando nos encontramos con circunstancias en las que tenemos agentes de IA que desempeñan ese papel? Por supuesto, también lo hemos tenido un poco con los libros, porque decimos, aunque no comprenda completamente la razón, ¿confío en el resultado y lo incorporo a mi navegación, mi conjunto de creencias con las que estoy navegando por el mundo? Y creo que veremos eso en algo de, digamos, todo el discurso del conocimiento humano. Creo que verás algo de eso en la ciencia. Creo que verás algo de eso en la filosofía, y luego tendremos que llegar a, bueno, ¿cómo llegamos esencialmente a esa confianza de esa epistemología? Digamos que empezamos, por ejemplo, teniendo una discusión con un chatbot filosófico y estamos teniendo una discusión sobre, bueno, ¿cuál es el significado del Zen Koan de, cuál es el sonido de una mano aplaudiendo? O si un árbol cae en un bosque y nadie está allí para oírlo, ¿hubo un sonido? ¿Verdad? Y empieza a decir algo diferente a lo que dicen los seres humanos, ¿verdad?, en eso. Sí. ¿Qué vamos a aprender de eso es una pregunta muy interesante a la que no sé la respuesta. Sí, es interesante. Tal vez quiero primero hacer una distinción, porque lo que describiste sobre la epistemología derivativa, simplemente confiar en el resultado porque confío en la fuente, parece ser más como creo que funciona la ciencia que la filosofía, porque en filosofía nunca dices, ya sabes, Aristóteles dijo que la contemplación es la mejor vida, confío en Aristóteles, QED. Algunas personas sí, algunas personas no, pero no deberías. Creo que sí, para la filosofía deberías razonar a través de toda esta historia, así que creo que hay dos estados interesantes, quizás, de epistemología derivativa, como lo acuñaste. Uno es donde la forma en que los LLM llegan a esta conclusión final es inteligible para nosotros, ¿verdad? Así que pueden decir que la contemplación es la mejor vida y te diré por qué, y eso podemos, ya sabes, podemos comprobar su trabajo esencialmente. Pero creo que el caso aún más interesante es cuando ni siquiera sus argumentos podemos, no podemos validar, ni siquiera podemos comprobar su trabajo. Esto ya está sucediendo en cierta medida debido a la naturaleza de la caja negra, muy pocas personas saben qué está pasando aquí. Esto me recuerda a Dante en el Paraíso. Así que Dante en el Paraíso está hablando con el águila de la justicia y pregunta, pero ¿qué pasa con ese pobre pagano virtuoso que nunca tuvo la oportunidad, que vivió antes de Cristo? No tuviste la oportunidad de conocer a Cristo. ¿Por qué merece ir al infierno? El águila de la justicia dice: "No es asunto tuyo. No es asunto tuyo." Tú te sientas allí, ya sabes, miope, tratando de juzgar a Dios. Y luego en el siguiente canto, el águila de la justicia dice: "Amigo, soy el águila de la justicia. Ni siquiera sé completamente cómo funciona esto. Sigo la voluntad de Dios." Así que, lo que estoy tratando de decir, ¿verdad? Así que, ese podría ser incluso el caso aún más interesante donde simplemente le preguntas, ¿tenemos libre albedrío o no? Y dice que sí. Y luego preguntas por qué, y dice que tu inteligencia insignificante, como el águila de la justicia, no es capaz de saber eso, eso sería casi un caso aún más interesante y bueno, y eso está precisamente señalando que incluso si no tienes una súper inteligencia, incluso si es solo un sabio aumentado, puede haber zonas y áreas donde empezamos a aprender a confiar derivativamente en la epistemología, ¿verdad? Y por cierto, sí, obviamente en filosofía tratamos de decir que siempre reproduces la comprensión como parte de la filosofía fundamental, pero por cierto, eso no es 100% cierto siempre. Sí. Cierto. Cierto. Cierto. Y parte de eso fue la razón por la que iba a mencionar el Zen Koan, como este tipo de paradojas, ¿verdad?, que son cosas que contemplamos filosóficamente, pero que no concluimos que este es el resultado final. Si queremos ser más matemáticos, el teorema de incompletitud de Gödel. Decimos, bueno, seguimos contemplando, ¿qué significa esto? Las consecuencias de ello, no creo que realmente lo entendamos completamente. Ya veo. Bueno. ¿Y si dijera, por ejemplo, porque yo, como chatbot filosófico, he examinado realmente el teorema de incompletitud de Gödel, y te voy a dar algunas cosas que, a medida que las validas inductivamente, parecen ser todas correctas? Cierto. Pero no entiendo cómo has llegado del teorema de incompletitud de Gödel a este tipo de predicciones. Cierto. Bueno. Eso va a ser filosóficamente muy confuso. Sí, eso es emocionante. Así que, quizás para resumir tu respuesta a mi pregunta, si la cultura oral dio origen a Homero, los libros a Platón, ¿qué da origen a la IA? Podría ser este tipo de sabio súper inteligente que nos alimenta con respuestas, incluso las pruebas de las cuales no podemos validar nosotros mismos, sí, y ¿cómo vamos a navegar eso? Sí, ¿verdad? Será, bueno, creo que esto es exactamente como la pregunta religiosa, ¿verdad? Porque cuando hablamos con cristianos y, ya sabes, cualquier religión con un salto de fe, no es simplemente, bueno, solo da el salto, ¿verdad? Dicen que no, Cristo nos da buenas razones para creer. Sí. Aunque no podamos, ya sabes, como el águila de la justicia, no podemos probarlo deductivamente. Eso es una herejía, ¿verdad? Pensar que puedes probarlo racionalmente. Sí. Es por eso que vuelve a una de las cosas en las que he estado pensando en este primer chapuzón, solo al principio de este océano, es bueno, tenemos la inducción. Entendemos, ya sabes, la inducción ampliamente. Tenemos la deducción. Entendemos la deducción ampliamente. Tenemos la abducción. La entendemos un poco menos que las otras, pero la entendemos ampliamente. ¿Va a haber otra forma de abducción que surja de nuestra interacción con este tipo de agentes? Esa fue la razón por la que dije revelación, sí, revelación en el sentido religioso literal, hay una fuente en la que confiamos a través de ciertos medios superiores a nosotros que nos alimentan con respuestas cuyas pruebas no podemos validar nosotros mismos, y es, y es parte de lo que se confunde en torno a la epistemología perceptual, porque muchos de los argumentos religiosos llegan a la epistemología perceptual, pero por cierto, parte del problema es que dices que la persona X ve a Dios en su vida, la persona Y no. Sí. Bueno. Y eso vuelve a tu águila de la justicia. Es como, bueno, espera un minuto. La naturaleza de esto se vuelve muy extraña, ¿verdad? Tiene que ser una u otra, ¿verdad? Sí. Bueno. Eso es Platón. Eso es Rousseau. Nos divertimos filosóficamente. El título de tu libro es Súper Agencia. Así que deberíamos hablar un poco sobre eso. ¿Cuál es tu definición de agencia? Creo que la agencia es fundamentalmente donde tienes algún tipo de capacidad y control y una especie de participación volitiva activa en dar forma al mundo que te rodea y tu camino de navegación en él. La razón por la que soy tan abstracto en eso es que evoluciona a través de la tecnología. Cierto. Así que, por ejemplo, mi capacidad de ser agente es diferente en un mundo con caballos. Es diferente en un mundo con coches. Es diferente en un mundo con aviones. Es diferente en un mundo con teléfonos. La noción de agencia no es solo el individuo de Robertson Rousseau. Pero nuestra agencia está más centralmente enfocada en que tenemos agentes colectivos, individualmente en grupos, y también la agencia que tenemos con otros individuos y la agencia con el grupo en sí mismo. Llamamos al libro Súper Agencia porque la agencia no son solo los superpoderes que obtengo como individuo con la tecnología, sino también cómo cambia nuestra agencia como sociedad y como humanidad a través de las nuevas tecnologías. Cierto. Así que lo que es realmente interesante en tu respuesta es que la agencia no son solo las libertades negativas del individuo, ¿verdad? Como, aléjate de mi ley y no, que es una parte crucial, pero eso no es todo. Es la capacidad positiva de hacer cosas que son buenas para mí esencialmente y para el grupo también. Sí. Y tu actitud general hacia el desarrollo de la IA, y ya hemos tocado un poco esto, es algo así como, no nos preocupemos demasiado a priori, hagamos el paracaídas en el camino hacia abajo. Sí. ¿Por qué? Bueno, primero es, ya sabes, esto puede ser alarmante para algunas personas, pero hay límites a la imaginación humana. Escribí mi tesis en Oxford sobre experimentos mentales porque usamos experimentos mentales como parte fundamental del razonamiento filosófico. Y muchos filósofos y muchas otras personas en experimentos mentales no se dan cuenta de los límites del razonamiento sobre experimentos mentales. Así que uno clásico que usé en mi tesis es, ¿puedes imaginar ir a la velocidad de la luz? Y muchas personas que no están instruidas en física dirán, por supuesto que puedo imaginar ir a la velocidad de la luz. Y tú dices, bueno, eso es sin masa, sin tiempo, ¿verdad? No estoy seguro de que puedas imaginarlo realmente. Cierto. Cierto. Lo que probablemente estás imaginando es ir muy rápido. Ir muy rápido y tener un velocímetro roto. Y así que, lo de, ya sabes, dónde estas preguntas de imaginar cómo la tecnología cambia nuestras vidas. Nos contamos estas historias y, sin embargo, solo estamos contando estas historias de experimentos mentales. Y así que en realidad tienes que participar para saber. Y parte de eso es, y no significa que, por ejemplo, cuando dices, oye, presiona este botón y el mundo entero explota, bueno, no, no experimentemos con presionar el botón, no, no, no hagamos eso, pero cuando tienes, por ejemplo, la capacidad de implementar cosas, iterarlas y experimentarlas, eso es en realidad, de hecho, cómo hemos superado y hemos evolucionado todas estas tecnologías para convertirnos en más humanos, convirtiéndonos en, ya sabes, Homo sapiens, y ese es el patrón que hemos hecho con todas ellas. Ese es el patrón que deberíamos hacer con esta tecnología. Cierto. Así que, es una barrera epistémica fundamental. Sí. Y, ya sabes, creo que hemos visto esa humildad epistémica a lo largo de esta entrevista, quizás sea insatisfactoria para algunas personas, no para un filósofo como yo, pero simplemente estás diciendo: "Mira, no podemos saber. Esto es lo que pienso. Intentemos dirigir" Y, por cierto, decir que esa es la mentalidad de Silicon Valley, ¿verdad? Sí. Pero ahí es donde la mentalidad de Silicon Valley es precisa. No significa que no haya lugares donde sea imprecisa. Sí. lugares. Sí, pero ese es uno de los lugares donde es preciso, ¿verdad? Ya veo. Déjame presionarte de nuevo aquí. Tu impulso general parece ser, mira, muchachos, si miramos estas tecnologías que hemos desarrollado, hay bajones inicialmente, pero hemos ido descubriendo en el camino y eso ha sucedido. Hay dos cosas que quiero cuestionar aquí. Bueno. La primera objeción es pensar en lo cerca que estuvimos del armagedón en la crisis de los misiles de Cuba. Fue literalmente un tipo en un submarino nuclear ruso. Dos, como tres de tres oficiales necesitaban firmar para girar la llave. Uno de tres, la única cosa que detuvo un ataque nuclear. Si eso hubiera sucedido, es muy fácil imaginar que sucedió. Claramente, la trayectoria del desarrollo humano se vería como una tragedia, no como esta línea ascendente con algunos baches. Esa es la primera preocupación. La segunda preocupación es que a veces las bajas son realmente largas. Mmm. Como hay argumentos de que los cazadores-recolectores vivían mejor que la sociedad agrícola. Ya sabes, que hay mucha más, ya sabes, mejor comunidad. Ahora hay una desigualdad extrema. Así que tomó miles de años, tal vez simplemente estamos fuera de esa fase en la que recién estamos empezando a estar mejor que los cazadores-recolectores. Y así que ves lo que estoy tratando de decir aquí, ¿verdad? ¿Ves esas dos críticas? Sí. Sí. Así que, bueno, en realidad creo que hay quizás tres. Bueno. Genial. Cierto. Porque los cazadores-recolectores estás haciendo mi trabajo por mí. Sí. Sí. Tal vez una tercera. Así que, empecemos con el hecho de que la tecnología es peligrosa y la preocupación de que a medida que llegamos a tecnologías cada vez más poderosas, la humanidad puede acabar consigo misma. O, perdón, es aún más desafiante que eso. Casi se termina a sí misma. Casi lo hicimos. Sí, pero puede hacerlo. Y casi lo hizo. Y creo que definitivamente tenemos ese riesgo, ¿verdad? Y parte de la vida es navegar por ellos. Y así, por ejemplo, la gente dice: "Bueno, no hemos tenido una guerra nuclear en, ya sabes, 80 años". Mmm, ya sabes, 70, lo que sea, y y así estamos a salvo. Como, bueno, no. Ya sabes, todavía no. Porque la respuesta corta es que no nos reuniremos como una sociedad humana de 8 mil millones de personas y diremos que todos vamos a deshacernos de las armas nucleares, ¿verdad? No va a pasar. Así que lo que buscas cuando construyes estos sistemas es decir, ¿cómo creamos instituciones y tecnologías relativamente estables que preserven a la humanidad, etc.? Y, por ejemplo, parte de cómo se desarrolló la energía nuclear dice, bueno, solo vamos a permitir que los estados grandes y poderosos tengan una prima en mantener el mundo como está, porque si yo soy el jefe militar de un estado grande y poderoso, me gusta estar donde estoy en eso. Y así que realmente no quiero una guerra nuclear. Y así que ese equilibrio de destrucción mutua asegurada ha funcionado hasta ahora. Ha funcionado hasta ahora y es un buen sistema. Y, por cierto, parte de lo que aprendimos en la destrucción mutua asegurada. Y así que es como, bueno, ¿cómo acordamos ambos que vamos a mantener nuestras armas nucleares pero aumentar la estabilidad? Es como, bueno, vamos a permitir una intensa vigilancia mutua. Vamos a permitir que esto suceda porque esa vigilancia nos mantiene en una posición de confianza y estabilidad. Y hagamos que eso suceda, ¿verdad? Y ese es el tipo de cosas que tenemos que iterar para llegar a ese tipo de estabilidad. Y ya sabes, la gente ha presentado varios argumentos de que, bueno, la IA es, ya sabes, quizás en ciertos aspectos tan significativa o más significativa que las armas nucleares y necesitamos resolver esto. Y es como, bueno, quizás pueda contar esa historia. También puedo contar la historia donde no es el caso. Y así que prestar mucha atención, participar en el discurso, averiguar cuáles son los paralelismos para una sociedad humana estable son muy importantes. Y creo que ese es un diálogo importante en el que estar. Déjame decir una de las cosas fundamentales que la gente hace mal en la discusión del llamado riesgo existencial. Lo que tienden a hacer es evaluar cada riesgo existencial como algo individual. Así que en su versión simplista, la gente dice: "¿Puedes garantizarme que no vas a crear robots asesinos?" No. Cierto. Como sí, y no puedes, ¿verdad? ¿Y puedes garantizarme que no tendrás una súper inteligencia que sea como Terminator? Y él dice: "No, no puedo hacer eso". Dicen: "Ah, así que deberíamos tener el principio de precaución y deberíamos detenernos ahora mismo". Y tú dices: "Bueno, eso es si el único riesgo existencial fueran los robots asesinos, ¿verdad? Tenemos muchos riesgos existenciales. Tenemos pandemias, tanto naturales como provocadas por el hombre. Tenemos asteroides. Tenemos el clima, podcasts, tenemos podcasts, el verdadero riesgo existencial de los podcasts es, ya sabes, muy, muy, muy alto". Así que cuando estás viendo cualquier intervención, dices, bueno, ¿cómo interviene esto en la cartera de riesgos existenciales, ¿verdad? Y mi afirmación es que la IA también está disminuyendo el riesgo de la cesta. Sí. Cierto. Y precisamente en cosas como la pandemia, precisamente en cosas como el clima, incluso, pero los asteroides. ¿Cómo hacemos que el equilibrio de la cartera de riesgos existenciales sea mejor año tras año? Eso es lo que deberíamos intentar hacer. Eso es algo muy bueno para la persistencia de la humanidad. Así que, pero eso no es como, creo que la IA es muy positiva en esta dirección, pero aún así, por supuesto, deberíamos ser inteligentes en el diálogo, haciendo las cosas, haciéndolas más positivas. Esa es la primera, la primera, la primera crítica. La segunda crítica son los períodos de transición, ¿verdad? Y los períodos de transición incluso pueden ser largos. Ya sabes, la revolución industrial. Parte de la razón por la que en Súper Agencia digo que la inteligencia artificial es la revolución industrial cognitiva es tanto por el lado positivo, que no vivimos en la sociedad en la que vivimos actualmente y nos beneficiamos de, ya sabes, tener una clase media amplia, una clase educada amplia, como eso que surge de la revolución industrial. Así que una enorme cantidad de cosas buenas en muchas métricas que consideras como una especie de calidad de, en un número creciente de seres humanos con capacidades sapiens. Mmm, pero la transición de la revolución industrial fue brutal, ¿verdad? Quiero decir, incluyó la guerra. Sí. Guerra, trabajo infantil, un montón de otras cosas. Y así que cuando digo revolución industrial cognitiva, sí, estoy señalando todo lo positivo, pero también estoy señalando que tenemos un problema de transición aquí que necesitamos dirigir con tanta humanidad y gracia como podamos. Y, por cierto, va a ser doloroso. Y, por supuesto, los impulsos humanos tienden a ralentizarlo masivamente. Pero el problema es que, como la revolución industrial, no es un sistema de un jugador. No es un sistema de un jugador. Y esta, la, la, las sociedades que la abrazan completamente son las que van a ser los valores, los valores y la forma del mundo. Así que es muy importante entrar. Y así, si dices, bueno, espera, esto me causa dolor. Es como, sí, nos va a causar dolor, pero va a ser mucho mejor para nuestros hijos, sus hijos, los descendientes y los valores que quieres ver en la humanidad. Es importante que estés liderando el camino en ese dolor para que eso suceda. Y, sin embargo, sigamos intentando que la transición sea tan humana, tan agraciada y tan elegante como sea posible. Ahora, a la pregunta de los cazadores-recolectores, porque la pregunta de, bueno, ¿habríamos estado mejor si simplemente nos hubiéramos quedado como cazadores-recolectores? Y creo que hay un par de críticas fáciles a esa posición. Si me apuntaras con un arma a la cabeza y dijeras que elija una teoría filosófica moderna, yo diría, bueno, altruismo efectivo, pero tengo un montón de críticas al respecto. Pero, como una de las cosas es que, de hecho, más seres vivos es algo bueno. Así que si tienes más seres vivos que pueden tener una vida de calidad y días de calidad de vida, que es con frecuencia cómo los EA miden eso, eso es algo bueno, como ir a eso y luego trabajar para mejorarlo es parte de eso y parte de lo que hizo la vida agrícola, incluso si dijiste, bueno, no me gustaba, como, como ahora tenía que trabajar en el campo todos los días, eso no era muy divertido, si estuviéramos en un grupo mucho más pequeño y fuéramos una tribu nómada de cazadores-recolectores, yo, como cazador-recolector, podría sentarme mucho y, ya sabes, tener tiempo que no tenía que trabajar en los campos tanto. Entiendo el contraste, pero creo que, tan ampliamente como parte de la hominización y parte de lo que estamos tratando de evolucionar es, ¿cómo tenemos miles de millones de seres humanos? Y esta es una de las cosas que se malinterpretan con frecuencia sobre la cuestión del cambio climático, que es, ¿por qué tenemos cambio climático? Porque tenemos 8 mil millones de personas, con cientos de millones de ellas con vidas de muy alto nivel, ¿verdad? Y dices, bueno, ese es un problema del capitalismo, un problema de la tecnología, es como, no, no, eso es una virtud de eso, ahora necesitamos enfrentar las consecuencias y arreglar eso, pero, pero, como, surge del hecho de que tenemos miles de millones de personas y muchos cientos de millones, ya sabes, que llevan vidas de élite. Sí, quiero decir, incluso si pudiera no estar de acuerdo con tu optimismo, que has expresado, incluida esta transición de los cazadores-recolectores a la agricultura, creo que prácticamente estamos básicamente en la misma página, porque creo que la tecnología simplemente no se puede detener. Sí. Como debido a la dinámica de varios jugadores. Para mí, soy menos optimista, pero sé que estamos en el viaje. Como no hay forma de volver a meter al genio en la botella, ya sabes, y así que tomemos lo mejor que podamos hacer, incluso si eso termina siendo un peor resultado. Sí. Sí. Pero aquí está la sutileza de por qué elegí el título Súper Agencia. Sí. Cierto. Porque estoy de acuerdo contigo. Como incluso quien dijo, bueno, mi agencia es que quiero detener la tecnología, es como, no, es como, luces, no vas a hacerlo, va a suceder, así que es como, mi agencia es que quiero solo que los seres humanos hagan cazadores-recolectores, no, otros seres humanos van a tener la revolución agrícola, tener ejércitos, sí, así que va a suceder, así que eso es cierto, pero parte de la sutil, piensa en ello como casi una razón psicológica o filosófica de elegir la agencia es decir que deberías abrazar el futuro tecnológico. Así que, como tu elección de agencia, como piensa en ello, te subes a un Uber para ir a algún lugar. Podrías decir: "Oye, este Uber, lo he llamado. El conductor está aquí porque les he pedido que estén aquí. El conductor va a donde
Quiero que vayan porque eso es parte de mi agencia y hacia dónde voy. Se podría también abordar el Uber desde el ángulo de: "¡Oh, Dios mío, realmente tengo que estar allí, pero estoy aterrorizado! Odio el hecho de que me suba a un coche. Odio el hecho de que alguien de quien no sé qué tan buen conductor sea me lleve. ¡Oh, Dios mío, ¿no es esto un desastre?". Claro, tengo que subirme al coche, pero mi enfoque es una pérdida de agencia, ¿verdad? Parte de la razón, la razón sutil de decir agencia es poseer la agencia. Esto es una especie de punto estoico budista que estás diciendo, como que este es el mundo, así es como va el mundo, ¿verdad? Esto es como la analogía estoica del perro siendo arrastrado por el carro. ¿Quieres ir voluntariamente o quieres ser arrastrado pataleando y gritando? Así que, acéptalo y ayuda a darle forma, ¿verdad? Es, es, es, creo que la forma humana de elevarse y eso es, de nuevo, una de las razones más sutiles por las que elegí la agencia como parte del título del libro.
Veo que también tuviste esta idea muy interesante de lo que se puede llamar gobernanza poliéntrica, que las empresas ya están bastante reguladas sin regulación explícita y el ejemplo más interesante que diste en el libro sobre IA fueron los puntos de referencia, así que, así que, descríbenos cómo las empresas ya están reguladas sin regulación explícita. Lo que causa la regulación de todas las entidades, individuos, grupos, sociedades, son estas redes interconectadas. Y las empresas viven en muchas redes interconectadas, ¿verdad? Viven en una red interconectada de clientes porque, por ejemplo, si los clientes dicen: "Oh, odiamos esta empresa. ¡Que se vayan!", entonces la empresa, por cierto, se adapta y cambia. Sí. Viven en redes de accionistas. Misma base. Viven en redes de empleados. Viven en redes de familias y comunidades en las que viven los empleados de las empresas, ¿verdad? Viven en redes de prensa y medios de comunicación porque, ya sabes, por cierto, la gente que trabaja en la empresa, los ejecutivos, quieren que se piense bien de ellos, así que tienen gobernanza allí. Esto es antes de llegar a los gobiernos y las agencias reguladoras y ese tipo de cosas. Así que ya hay muchas redes interconectadas en cada una de estas cosas. Y en realidad creo que parte de lo que hace el gobierno es que el gobierno establece el tipo de, como, establece las reglas de la red en cada uno de estos casos. Y en realidad no tiene que establecer una agencia reguladora para la cantidad de cerdas que tiene un cepillo de dientes. Así que quieres gobernar estas cosas a través de fuerzas más sutiles, a través de muchas fuerzas de red mucho más sutiles.
¿Puedes describir cómo los puntos de referencia en IA, esto es muy intuitivo, actúa como una especie de regulación para la industria? Así que, hay una pila entera de puntos de referencia. Hay puntos de referencia en torno a las capacidades. Así como, ¿cómo produce algo que es bueno para ti? Pero también es una especie de conjunto de puntos de referencia sobre, tenemos una especie de corpus de seguridad, un corpus de alineación humana. Y esos puntos de referencia están en, ¿lo hace, cuando lo estás revisando o probando, logras no hacer la actividad mala, verdad? Y esos existen hoy en día completamente separados de nuevo de la regulación gubernamental porque eso es parte de cuando todos estamos tratando de decir: "Oye, mi producto es mejor que tu producto. Tengo buenos puntos de referencia de seguridad y alineación". Lo que me encantó del punto de tu libro es que, en cierto sentido, esto es mejor que la regulación, que suele ser solo negativa. Esto es algo positivo. Esto te da un ideal normativo positivo al que puedes acercarte. Y, por cierto, es dinámico. Y esa es una de las razones por las que uno de los capítulos es innovación es seguridad. Porque, por cierto, si puedo encontrar maneras de que mi cosa esté mejor alineada y tenga mejores métricas de seguridad, significa que mi chatbot es mejor que tu chatbot, lo anunciaré e intentaré sacarlo y trataré de que suceda y estoy innovando para ello. Sí. Y lo que es realmente interesante es que creo que en tu libro dijiste que muchas de las primeras regulaciones de automóviles fueron innovaciones, ¿verdad? Alguien pagó personalmente por los semáforos y esas cosas. Sí.
Así que quiero hablar sobre el tema final, que es cómo un individuo hoy puede gestionar esta transición. ¿Qué parte del conjunto de habilidades de uno crees que es más importante desarrollar y qué parte crees que se volverá obsoleta mucho más rápido? Una de las preguntas fundamentales que la gran mayoría de la gente, incluso la gente que está profundamente involucrada con estos chatbots, no se da cuenta de todas las cosas que pueden hacer con ellos hoy en día. Así que, por ejemplo, sabes, estaba en casa de un amigo e iba a hacer palomitas de maíz y miré el microondas de mi amigo y no pude, era como, no lo había usado, simplemente tomé una foto en ChatGPT y dije: "¿Cómo hago palomitas de maíz con esto?" Y respondió: "Oh, presionas este botón y presionas ese botón y así sucesivamente". Como, la mayoría de la gente no se da cuenta de que tiene la función de tomar una foto, explicar esta cosa, como explicar esta tarea y hacer que suceda. Muy pocas personas hacen eso, ¿verdad? Pero incluso se vuelve más sofisticado, como los lugares más sofisticados donde lo uso. Pon algún texto difícil. Tal vez sea un artículo sobre mecánica cuántica y diga: "Explícame esto como si tuviera 12 años". Podría hacer eso. Dices: "Vale, ya está. Vale, explícame esto como si tuviera 18 años. Vale, explícame esto como si fuera un graduado universitario". ¿Verdad? Y lo hará iterar a través de esos. Y esto es como tener la pregunta y tu panorama de aprendizaje y tu panorama de capacidades se han expandido masivamente y aún no te das cuenta completamente. Así que siempre piensa en, bueno, ¿podría intentarlo con esto? ¿Podría intentar esto? Ahora, por cierto, todavía hay de varias maneras. Así que uno de mis buenos amigos es una herramienta, está escribiendo un libro y le estaba mostrando una investigación profunda la semana pasada y obtuvo un informe y dijo: "¡Oh, Dios mío, esto es realmente increíble!" Luego lo envió a su asistente de investigación y su asistente de investigación comenzó a verificarlo y dijo: "Bueno, está bien, el 90% de esto está mal, ¿verdad? La cita que están dando no existe, alucina esta cosa, como tratando de llevarla a detalles tan específicos, comenzó a inventar cosas y dices: "Bueno, esto simplemente no vale la pena todavía", pero en realidad, de hecho, sí valió la pena porque luego el asistente de investigación dijo: "Pero aquí está la sorpresa, las áreas a las que me estaba señalando había otros materiales que eran exactamente correctos y exactamente útiles". Así que, en realidad, aunque lo específico que dio fue una alucinación, no pudimos incluirlo en el libro, las cosas que estaban a su alrededor y a dónde me apuntó mi búsqueda para generar cosas para ti mucho, mucho más eficiente.
Sí, sí. Así que te escucho alto y claro. Lo más importante es empezar a usar este chico malo, empezar a usarlo y hacer preguntas. Sí. ¿Y cómo estás pensando en la vida de uno en general? Como, ¿qué partes de la vida, debido a este cambio? Por ejemplo, la memoria de los libros se vuelve un poco menos importante, ¿tienes una imagen más holística de, por ejemplo, en qué cosas probablemente no deberías invertir más tu tiempo? ¿Qué cosas, como las relaciones, por ejemplo, tal vez incluso importan aún más o tener una reputación o algo así? Sí. El bit de alto orden que va a importar intensamente en la próxima década es qué tan bien usas esta herramienta. Es un poco como, por ejemplo, qué tan bien usas internet para la investigación es algo realmente importante en una amplia variedad de profesionales. Y luego, de manera similar, dices: "Bueno, soy un erudito de Platón". Es como, "Bueno, está bien, pero deberías estar usando herramientas de IA para mejorar tu Platón". Ahora no va a ir de repente: "Oh, bueno, ahora voy a sentarme como una idea y comer bombones y beber Gatorade y me contarás toda la erudición de Platón". Esa no es la manera. No estamos cerca de eso. Sí. Pero, por cierto, como un diálogo de, por ejemplo, entré y dije: "Bueno, ¿cuáles son las críticas a esta visión que estoy diciendo en Fris a ChatGPT?" Y dijo: "Bueno, hay estos argumentos que dicen esto es lo que realmente importa". Como, está bien, genial. Lo entiendo, ¿verdad? Todavía puedo usarlo para defender mi punto aquí. Sí, ya veo. ¿Qué hay de las cosas que uno estaría haciendo, pero, pero, pero ahora tiene mucho menos sentido? Como, por ejemplo, ir a la facultad de derecho parece tener mucho menos sentido que antes. Bueno, la facultad de derecho. Si vas a la facultad de derecho ahora mismo, probablemente sea un mal momento para ir a la facultad de derecho porque todavía te están enseñando de la manera antigua y no te están enseñando de la manera nueva, ¿verdad? Pero el punto es que hay una nueva forma. Sí. Pero habrá una nueva forma y creo que la facultad de derecho seguirá siendo importante. Es solo que la facultad de derecho será como, todos vamos a usar agentes de IA en nuestro uso de la ley, ¿verdad? Hay dos grandes momentos, creo, en el ajedrez de IA y creo que la gente está preocupada por el equivocado. Así que la gente siempre estuvo preocupada por lo que sucede si la IA vence al mejor gran maestro humano. Pero lo bueno de eso es que los equipos centauro después de ese momento todavía los vencieron. Así que el hombre más las máquinas todavía los vencieron. Eso ya no es el caso. Ahora, cualquier intervención humana es solo un pasivo. Ese es el momento en que la gente realmente debería preocuparse porque significa que ya no hay participación humana. ¿Crees que llegaremos a ese momento? Para el trabajo en general, sí, no está claro. Creo que está mucho más lejos de lo que piensan la mayoría de los tecnólogos, los tecnólogos, los exponentes de la IA, porque creo que es como, "Oh, mira, está mejorando en capacidad, por lo que son todas capacidades". Como, bueno, está mejorando en capacidad, pero eso no significa que todavía no haya lugares donde encajemos de buenas maneras. Como, por ejemplo, incluso hoy, si dijeras: "¿Preferiría tener un radiólogo promedio o una IA, una IA entrenada, que lea mi película de rayos X?" Bueno, preferiría tener la IA entrenada, pero ¿preferiría tener a los dos juntos? Absolutamente. Correcto. Y tendrías que llegar realmente al punto en que el Y, por cierto, parte de eso hay algunas cosas médicas donde dicen: "Oh, pero el radiólogo a veces lo empeora". Eso es porque el radiólogo no ha aprendido a trabajar con IA, ¿verdad? Así que, es como, ¿cuáles son esas cosas? Y entonces, llegas al punto en que estás más allá del punto en el que el humano ya no puede trabajar con la IA en esto y es mejor que eso. Entonces dices, está bien, bueno, habrá un cierto número de esos trabajos donde ese será el caso. Probablemente uno de los más rápidos será el servicio al cliente. Sí, como ejemplo. Bien. La gente dice: "Bien, eso no es un problema". Sí. Correcto. Y luego dices: "Bueno, pero todos los trabajos". Bueno, si realmente llega a todos los trabajos, ese tipo de cosas tendremos otras cosas de qué preocuparnos. Sí. Y también, por cierto, eso vuelve a lo que estaba diciendo sobre, bueno, la edad media y la nobleza y la experiencia. Como, está bien, bueno, tal vez vivimos en un mundo donde es un mundo de Star Trek donde todo es proporcionado por la infraestructura robótica y todo lo demás. Y ahora en lo que realmente estamos enfocados es en, ya sabes, poesía y experiencia y cenas y todo lo demás y, ya sabes, no el peor, no el peor resultado posible.
Pregunta final. ¿Crees que la arquitectura actual puede llevarnos a ese mundo solo con escala o crees que necesita inventarse más para llevarnos allí? Mi creencia es que la escala será crucialmente importante, que parte de lo que creo que el equipo de OpenAI, ya sabes, de Sam, Greg, Ilya, Dario, etc., logró es que la escala realmente importa y creo que tienen razón con eso. Creo que todavía hay innovaciones, innovaciones arquitectónicas que probablemente serán clave y una vez que llegas a es uno, entonces realmente siempre es uno más, ¿verdad? Porque no sabes si es uno o mil, ¿verdad? Y así que creo que tiendo a pensar que tendemos a ser demasiado exponenciales en las primeras fases de la curva, sí, porque dices: "Oh, esa es la curva del CI", no está claro que sea una curva del CI, sí, hay una curva de capacidad, pero no es como si cada curva de capacidades cognitivas fuera una curva del CI. Escuché este argumento muy interesante ayer, donde son personas como nosotros que hemos sido entrenados más en humanidades los que tienen mucha ventaja en IA en este momento. Y la razón es porque no es que los ingenieros tengan una comprensión mucho mejor de lo que está sucediendo debido a su naturaleza de caja negra. Y así que mucha de la alfa viene en la indicación y en participar en un texto escrito. Amigo, ¿estás de acuerdo con eso? Que hay casi un cambio en el equilibrio de poder entre las personas que son capaces de las humanidades y los ingenieros debido a la naturaleza de caja negra de esta ola de, bueno, bueno, creo que las cosas de ingeniería seguirán importando mucho, pero en realidad, de hecho, cuando pensamos en la IA para elevar a la humanidad, las cosas humanistas realmente importan mucho, ¿qué es la agencia, qué es esa elevación, cuáles son las formas en que estos agentes pueden encajar en eso y creo que es un regreso a la importancia de las humanidades en la creación de nuestro futuro de IA. Ya veo. Muchas gracias por la entrevista. Es un placer. Gracias por ver mi entrevista. Si te gustan este tipo de discusiones, creo que encajas muy bien con el ecosistema que estamos construyendo en Cosmos. Financiamos investigación, incubamos e invertimos en nuevas empresas de IA y creemos que la filosofía es fundamental para construir tecnología. Si quieres unirte a nuestro ecosistema de constructores filósofos, puedes encontrar los puestos para los que estamos contratando, los eventos que estamos organizando y otras formas de participar en jonathanb.com/cosmos. Gracias.