Transcription
Um, vamos a tener una discusión divertida hoy sobre el mundo de la IA y la medicina y la atención médica. Y solo estoy esperando que más gente se una antes de que empecemos a hablar. Démosle otro minuto y luego, eh, empezaremos. Y para todos los que llegaron puntualmente, gracias especialmente por eso. Eso es genial.
De acuerdo, vamos a hablar de este libro aquí, "The Giant Leap", "Un Salto Gigante". Es de, eh, mi amigo Robert o Bob Wter de UCSF, quien es presidente de medicina, eh, autor de "Digital Doctor" anteriormente hace algunos años y, eh, ciertamente, eh, la persona que acuñó el término "hospitalista", eh, y, eh, está muy conectado con el mundo de cómo está progresando la medicina. Así que es genial que lo haya expuesto todo en un libro y también, por supuesto, recientemente en otros escritos como el New York Times del 19 de enero y otros en los que profundizaremos.
Entonces, Bob, bienvenido.
>> Gracias, Eric. Es genial verte y, eh, siempre, eh, reclamo tus éxitos como un orgulloso graduado de nuestro programa de residencia.
>> Correcto. No, siempre recordaré los buenos momentos que tuve allí y la increíble inspiración de mi héroe, el contra-chatter.
De acuerdo. Entonces, vamos a ello.
Uh, este libro es realmente, um, interesante y un desafío porque el campo se está moviendo tan rápido y aquí decides: "Voy a escribir un libro sobre el estado actual de la IA en la atención médica", pero podría ser diferente en una semana o un mes o en una hora.
>> Sí. Correcto.
>> ¿Cuáles fueron tus pensamientos sobre tratar de, ya sabes, juntar esto sabiendo que es un campo tan dinámico y efímero?
Pensé que era increíblemente útil preocuparse por eso y que si al final del día escribía un libro que fuera relevante cuando estuviéramos en GPT 5.2 pero ya no relevante cuando estuviéramos en GPT 5.4, entonces realmente me habría equivocado. Así que lo que hizo fue obligarme a pensar en el panorama general, como cuáles son las grandes preguntas que surgen cuando una tecnología que es realmente asombrosamente buena pero no perfecta entra en un campo de alto riesgo como la medicina, que tiene pagos y regulaciones e incumbentes y médicos y enfermeras y, um, resulta que hay mucho que decir y creo que necesitas entender para simplemente pensar en qué hace esto a ser médico, ser paciente, ser un sistema de salud que no está directamente ligado al estado absoluto de la tecnología de ese día.
Sabes, dicho esto, me preocupé por ello porque, ya sabes, si piensas en el día en que salió GPT, si hubiera estado escribiendo un libro sobre IA el día anterior, habría sido como, "Oh, Dios, tengo que tirar todo". Pero hice una apuesta de que en el transcurso de dos años, tres años, quizás cuatro o cinco, nada tan revolucionario o que sacudiera la tierra sucedería. Que las mejoras serán incrementales y gran parte del éxito de esto tendrá menos que ver con la tecnología y más que ver con lo que sucede cuando la tecnología choca con un mundo muy complicado de, de sistemas de atención médica y médicos y enfermeras.
>> Sí. Quiero decir, lo que estás planteando, yo enfrenté un desafío similar cuando escribí "Deep Medicine" en 2018. Um, y luego, antes de lo que llamas "El Salto Gigante", ya existía la historia del aprendizaje profundo de imágenes médicas con un rendimiento sobrehumano sobre radiólogos y patólogos. Y luego, por supuesto, sabíamos en segundo plano que, um, el trabajo inicial del modelo Transformer se estaba haciendo en 2017. Así que algo grande iba a suceder, aunque el público no lo viera, como dijiste, hasta finales de noviembre de 2022. Hace más de 3 años. Así que es desafiante. Este campo cambia mucho y yo diría, al menos, que esa fase de aprendizaje profundo fue un gran precursor y muchas cosas importantes, ciertamente no tan grandes como cuando llegó toda la IA generativa de modelos de lenguaje grandes.
Ahora, en el libro tienes algunas historias realmente geniales, y pensé que podríamos empezar con una sobre lo bueno y lo malo.
>> De acuerdo. Enmarca esta conversación. Um, la, la buena que fue impactante fue cuando fuiste profesor visitante en Yale y viste a este paciente. Te lo presentaron, siempre intentan desconcertar al experto, con macroglobulinemia e hígado. ¿Puedes contarnos sobre eso?
>> Sí, fue, eh, probablemente hace unos dos años, supongo. Soy profesor visitante en Yale. Estoy en el LVA y dicen: "Bueno, aquí hay un paciente, realmente no sabemos qué está pasando. Es un tipo de unos 75 años que tiene macroglobulinemia de Waldenström. Es una enfermedad hematológica muy rara. Llegó con lo que pensamos que era una neumonía, infiltrados pulmonares y, eh, un recuento de glóbulos blancos. Y luego, eh, desarrolló pruebas de función hepática anormales con un patrón determinado. Y dijeron: "¿Qué crees que está pasando?". Y saqué mi teléfono de mi bolsillo y dije exactamente lo que te acabo de decir. Este es un tipo de 75 años con Waldenström que llega con fiebre, recuento de glóbulos blancos, infiltrados en su radiografía y desarrolla LFTs anormales en el patrón de transaminasas altas y bilirrubina normal. Ahora, ese es el tipo de cosa que si le dijeras eso a UpToDate o a Harrison's, se tropezaría. Era como, "¿De qué estás hablando?". No podías darle un caso clínico de medicina. Y escuchó, y luego habló y dijo: "Bueno, creo que esto resultará ser una lesión hepática inducida por fármacos, y aquí está el porqué, da da da". Y luego dije: "Bueno, eso es lo que pensábamos también, pero comenzó solo seis horas después de la primera dosis de Zosyn". Y básicamente dijo: "Bueno, eso es un poco raro, pero puede suceder, y todavía creo que deberías enviar pruebas para detectar hepatitis". Y luego dije: "¿Puedes escribir un poema sobre la lesión hepática inducida por fármacos?". Y escribió este poema increíble sobre, ya sabes, y lo hice solo como un truco de fiesta. Pensé que eso impresionaría a los aprendices. Fue, fue realmente uno de los primeros momentos en los que llegué a decir que esta cosa en mi bolsillo es ahora una consulta informal que, ya sabes, cuando estoy en las salas, soy un generalista. Así que, como le digo a la gente, si quieres ser un hospitalista, tienes que sentirte cómodo con cualquier paciente que ingrese al hospital. Hay cinco personas en el edificio que saben más sobre cada problema que yo, y yo sé más sobre el panorama general que ellas, pero significa que estoy aprendiendo constantemente, estoy constantemente tratando de encontrarte en la cafetería porque tengo una pregunta difícil. Y ahora creo que tenemos una inteligencia de nivel de subespecialidad en nuestros bolsillos. Y eso se convirtió en una especie de epifanía: ¿qué sucede cuando tienes una herramienta digital que puede escalar el conocimiento de nivel de subespecialidad para un generalista? Y la respuesta es que es bastante mágico.
>> Puede ser. Vamos a
>> Sí, asumiendo que acierta.
>> Y eso fue, ya sabes, eso fue hace dos años, en un momento en que estas herramientas a veces alucinaban y sacaban cosas locas. Y como le gusta decir a Ethan Mollick, ya sabes, la IA que usas hoy es la peor IA que jamás verás.
>> Que incluso dos años después, es sustancialmente mejor de lo que era y no alucina muy a menudo. Entonces, ¿es confiable? ¿Reemplaza al médico de enfermedades infecciosas? No, no completamente. Pero no puedo llamar a un médico de enfermedades infecciosas cada vez que tengo una pregunta de enfermedades infecciosas, y puedo sacar el teléfono de mi bolsillo e ir a OpenEvidence.
>> Claro. Claro.
Ahora, eh, el otro lado de esto fue otra anécdota corta, pero pensé que era realmente interesante. Tu colega Sarah Murray estaba preparando una preautorización para justificar el uso del anticoagulante Eliquis, apixaban, para el insomnio. ¿Puedes contarnos esa?
>> Sí, esa fue en realidad la primera vez que escuché sobre alucinaciones. Y celebramos unas grandes rondas sobre IA dos meses después de que salió ChatGPT. Fue como: "Wow, esto es salvaje. Deberíamos hablar de ello". Y Sarah dijo, así que el trabajo de Sarah es, ella es la jefa de oficiales de IA de salud en UCSF. Eso dice algo que no sabíamos que necesitábamos ese trabajo hace dos años, pero es genial. Así que es una experta en informática médica y, casi bromeando, dijo: "De acuerdo, IA", y creo que era GPT-4. "Tengo un paciente que tiene insomnio y creo que tal vez me gustaría usar este anticoagulante, un anticoagulante potente, porque he oído que ayuda y ¿puedes escribir una preautorización para United Healthcare pidiéndome permiso para usar Apixaban?". Y lo hizo, y lo hizo maravillosamente, y lo hizo y dijo: "Bueno, aunque la mayoría de las veces usamos este medicamento para pacientes con fibrilación auricular y embolia pulmonar, pero hay alguna evidencia emergente de que funciona muy bien para pacientes con insomnio". Así que Sarah leyó eso y dijo: "Hmm, tal vez haya alguna evidencia que no conozco". Y fue a PubMed a hacer una búsqueda, y fue una completa tontería. Así que, esta alucinación, no solo puede mentirte, sino que puede envolverla en una manta de tonterías para que sea completamente creíble.
Así que lo que fue impactante fue, ya sabes, esto es algo peligroso en un campo como la medicina. Pero creo que, en cierto modo, la parte más impactante de la historia es que tres meses después, volvió a GPT, que era una generación más antigua, y le dio exactamente la misma indicación, y GPT dijo: "Lo siento, debe haber algún error aquí. No hay absolutamente ninguna evidencia de que debas usar un anticoagulante en un paciente que no puede dormir, ya sabes, busca otra cosa". Así que incluso, y creo que es una lección importante, porque si jugaste con estas herramientas hace dos años y medio y dijiste: "Oh, alucina. Nunca estará lista para la hora punta en un campo de alto riesgo como la medicina", deberías volver hoy porque el campo, las herramientas mejoran bastante rápido. Y ese fue un ejemplo de eso, solo en el transcurso de tres meses.
>> ¿verdad?
Así que esas son buenas, creo, historias para enmarcar las cosas. Y parece, mientras leo el libro y también parte del trabajo, como por ejemplo, tu reciente editorial en el New York Times, "Deja de preocuparte y deja que la IA te ayude a salvar tu vida", que, eh, tu mensaje principal es que "perfecto" es el enemigo de lo "bueno". ¿Es eso justo decir?
>> Creo que es, es uno de los mensajes clave. Creo que, como dije, uno de mis objetivos aquí era, como, cuáles son los problemas del panorama general en los que realmente necesitamos pensar mucho, y uno de ellos, uso la vieja cita de Joe Biden: "No me compares con el Todopoderoso, compárame con la alternativa".
>> ¿Correcto?
>> Así que, yo, eh, el 29 de noviembre de 2022, el día antes de que saliera GPT, cuando estaba en Google, no fue como si estuviera sentado allí diciendo: "Sabes, Google no es muy bueno como motor de búsqueda, desearía tener algo mejor". Ni siquiera podía imaginar nada mejor, era perfecto. Y, sin embargo, cuando salió GPT, dije: "Oh, esta es en realidad una mejor manera de pensar en la búsqueda". Pero el 29 de noviembre de 2022, no conozco a ningún ser humano que dijera que el sistema de atención médica estadounidense es simplemente perfecto. Deberíamos dejarlo en paz. Quiero decir, creo que tienes que, al abordar estas herramientas y preguntar, ya sabes, ¿cómo puede ser esto útil en la medicina y los sistemas de atención médica, los pacientes haciendo cosas por sí mismos, eh, tienes que compararlo con el status quo, no con un estado mítico de perfección. Y, incluso si no es perfecto, y no lo es, um, esa no es la pregunta. Y la pregunta es, ¿es mejor? Y podrías decir: "Vaya, puedo imaginar al mejor médico de atención primaria del mundo, que está disponible inmediatamente para mí porque tengo una queja y me gustaría, ya sabes, tener un experto". Eso está bien, pero no conozco a nadie que tenga ese tipo de acceso a un médico de atención primaria o a un terapeuta de salud mental, o, ya sabes, o para mí como generalista, no tengo acceso inmediato a un médico de enfermedades infecciosas o a un cardiólogo. Estoy tan, así que la comparación no debe ser contra un estado de perfección que no tenemos. La comparación debe ser contra el sistema de atención médica actual. Y no puedo ver cómo miras el sistema de atención médica actual y dices que está funcionando a toda máquina. Así que hay mucho margen de mejora, que es en parte por lo que llegué a un lugar bastante optimista. Creo que las herramientas son asombrosamente buenas y mejoran cada día. Pero casi igual de importante, el sistema de atención médica no puede cumplir con lo que necesitamos que haga si nos ceñimos a nuestras estrategias habituales de simplemente contratar más seres humanos.
>> ¿Correcto?
Y hay muchas partes diferentes de la práctica de la medicina, um, de las que vamos a hablar de algunas. Pero el principio sobre, um, "perfecto" como enemigo de lo "bueno" sugeriría que hay un beneficio neto, como todo lo que hacemos. Ya sabes, te vas a poner una vacuna, habrá efectos secundarios raros. Te vas a poner un medicamento. Habrá, algunas personas no se beneficiarán, algunas personas sí. Hacemos ensayos clínicos y aceptamos evidencia de beneficio generalizado, aunque alguien pueda resultar herido.
>> Mhm.
>> Uh, y así es básicamente como se practica la medicina. Mientras que, por ejemplo, si miramos a Waymo y vemos a Kit Kat atropellado en San Francisco o, o vemos a un niño que [risas] no tiene ninguna lesión significativa, pero es golpeado, decimos: "Oh, quítense estos, ya saben, coches autónomos". Sí. Ya sabes,
>> Así que, ya sabes, el punto aquí es que con algo nuevo en medicina donde, ya sabes, hay una reacción pública contra la IA. Creo que probablemente estés al tanto de eso. Por supuesto. Por supuesto. Y no sé si necesariamente debería estar en el dominio de la atención médica, pero es una especie de sentido general de que convencer de que el beneficio neto para algo nuevo aquí está realmente haciendo, um, una diferencia importante y transformadora en última instancia.
Ahora, entremos en algunos de estos, um, escenarios. Así que el primero que pensé que era realmente importante, las conversaciones que tienen lugar en una visita ambulatoria.
>> Mhm.
>> Escribas ambientales, donde, como dices, obtienes permiso, grabas la entrevista, la has ajustado un poco porque ahora estás hablando de tu examen. Y ahora tienes esta nota sintética que es muy poderosa, una nota automatizada porque puede hacer todas estas cosas como ordenar pruebas y, eh, citas y recetas.
>> Funciona preautorizado.
Ahora has ahorrado horas potenciales de este tiempo de empleado de datos. ¿Dónde crees que estamos con eso ahora? ¿Uh, y es algo que debería ser la norma de práctica hoy?
Yo, creo que casi se ha convertido, al menos en el Área de la Bahía, casi en una expectativa, como si estuviéramos tratando de contratar a un médico y no le ofreciéramos un escriba de IA, creo que dirían: "Oh, no puedo trabajar allí". Quiero decir, eso es asombroso porque esta es una tecnología que realmente no existía hace tres años. Quiero decir, teníamos escribas en UCSF hace tres, cuatro, cinco años. Eran estudiantes de pre-medicina a quienes contratábamos a una empresa para que los trajera. Y solo en la atención médica pudimos computarizar el encuentro médico-paciente y, en lugar de despedir gente, agregaríamos una persona más en la sala de examen, eh, para, para transcribir la nota. Uh, pero esa es una tarea que podría ser y ha sido en gran medida reemplazada. Así que ahora ofrecemos un escriba de IA a todos nuestros médicos ambulatorios, ahora también a los médicos hospitalizados, lo estoy usando también. No todos tienen que usarlo, pero aproximadamente la mitad de la gente lo hace. Ha sido un gran factor de satisfacción tanto para médicos como para pacientes. Los pacientes en realidad notan que el médico no hace contacto visual y no parece tan gruñón como solía parecer. Y así, para mí, y, y, siento lástima por las empresas porque hace dos años pasó de ser este "oh, Dios mío, no puedo creer que esto funcione" a ahora como un producto básico que donde todos compiten por el precio más bajo. Pero creo que fue un caso de prueba muy importante porque cuando la IA, la nueva IA entró en el mundo de la atención médica, fue muy importante que no empezáramos con el diagnóstico o el soporte de decisiones clínicas. Empezamos con lo fácil, obtuvimos la aprobación de los médicos, y creo que eso es lo que ha sucedido. Los médicos lo están usando y diciendo que es genial, y ahora estoy abierto a otras herramientas que ya estamos usando. Hay una herramienta de resumen de gráficos y uno de cada cinco pacientes tiene un gráfico más largo que Moby Dick.
>> ¿Correcto?
>> Así que ahora hay una herramienta, puedo presionar un botón, resumirá el gráfico completo de un paciente. Estamos lanzando una herramienta de borrador de resumen de alta que tomará un curso hospitalario y, eh, al menos redactará el resumen de alta. Así que creo que estamos generando confianza en estas herramientas. Estos son sencillos. No son jonrones. El jonrón es el soporte de decisiones clínicas. El jonrón es que la herramienta está integrada en el registro de salud electrónico. Está leyendo las notas. Quizás está sugiriendo diagnósticos o he hecho un diagnóstico y me dice: "Ah, es el tercer día y tu paciente todavía tiene fiebre y recuento de glóbulos blancos. Quizás, ya sabes, quizás eso no sea correcto". Eh, está preparando órdenes. Esas cosas. Eso está por venir. Pero en realidad me alegro de que no hayamos empezado con eso porque creo que necesitábamos generar confianza primero.
>> Sí. Y también vamos a hablar del lado del paciente de esto, no solo del lado del médico o del clínico.
>> Absolutamente. Um, de acuerdo.
Así que, eh, estas, estas están ganando impulso, las cosas que acabas de revisar. Todavía hay gente que se opone a ellas, por cierto. Todavía hay artículos. Hubo uno en este curso.
>> Por supuesto, esto.
Así que no, no tenemos una aprobación total, pero sí, estoy al tanto de eso. Muchos médicos sienten que esto es un gran impulso moral. Tienen más tiempo, más tiempo en su vida para su familia y, ya sabes, sin duda.
>> ¿Correcto?
Y eso seguirá creciendo. Serán más horas y el regalo del tiempo que, ya sabes, eso es algo de lo que, por supuesto, he sido muy entusiasta en humanizar la medicina.
>> Absolutamente. Y si lo piensas, en cierto modo, el regalo del tiempo se devuelve porque en realidad fue quitado por el registro de salud electrónico. En cierto modo, esto está mitigando un defecto en nuestro despliegue de EHRs durante la última década.
>> Estoy totalmente de acuerdo. Pero más allá de eso, no fue solo EHR. Fue el gran negocio de la medicina que se deslizó en citas diminutas para hacer, eh, mucho y demasiado para los pacientes y, por supuesto, como dices, cuando ni siquiera miraban a los pacientes y solo estaban en un teclado, eso lo llevó a otro nivel bajo.
Así que tú, tú introdujiste el libro con el avatar en la Clínica Mayo, el Dr. Y ese es otro posible primer acierto, que es la puerta de entrada, si se quiere, para los pacientes, donde el avatar del Dr. Mars se parece a él, habla como él, interactuando con los pacientes. ¿Quieres hablar de eso?
>> Sí, fue una historia dramática.
>> ¿Es algo que estará listo pronto?
>> Bueno, lo están probando en Mayo. Me reuní con el CEO de la Clínica Mayo y se mostró reacio a mostrármelo, pero simplemente dijo: "La expresión de su rostro era: 'Esto es tan genial, mejor'". Y me lo mostró. Así que sí, están desarrollando, eh, gemelos digitales de médicos de confianza de Mayo y, lo que es importante, no está entrenado en Internet en su totalidad. No está entrenado en The Onion ni en conversaciones de Reddit. Está entrenado en datos específicos de Mayo. Eso es, y creo que, por lo tanto, porque reconocen que es mejor ser confiable si va a desempeñar el papel de un médico de Mayo. A medida que pensamos en cómo escalar la experiencia del Dr. Eric Topol, hay un límite. En algún momento, si dijéramos que podríamos construir un avatar que se parezca a ti, suene como tú y diga las cosas que habrías dicho en una circunstancia dada, ahora has escalado la capacidad de proporcionar ese tipo de experiencia a más pacientes en más lugares. Creo que eso es inmensamente emocionante. Es un poco espeluznante y tiene que haber, y de las cosas de las que estoy muy entusiasmado en salud y en IA en atención médica, lo que más me preocupa es el lado oscuro de eso, que por supuesto son las deepfakes. Si podemos, si podemos crear una falsificación de ti, también podemos crear una falsificación de ti diciendo: "No deberías vacunarte porque pueden matar gente". Así que tendremos que resolver eso. Y, y, y esto es algo que tiene un lado muy brillante pero también un lado muy oscuro.
>> Sí. No, creo que es, ya estamos viendo avatares por todas partes. U, y, um, esto llegará a la medicina. Es, es una puerta de entrada glorificada gráficamente y, ya sabes, eso es, potencialmente incluso más, um, atractivo para los pacientes porque les da la sensación de conectarse más que solo a través de un texto o a través de
>> pero, pero de nuevo, y ya sabes, el enemigo, el perfecto versus lo bueno. Um, ya sabes, intenta encontrar un médico de atención primaria en San Francisco o en San Diego. No es tan fácil. Oh,
>> y uno puede imaginar un mundo donde este tipo de tecnología está básicamente haciendo atención primaria y manejando tu presión arterial y manejando tus lípidos y manejando tu peso y, y, y tus GLP. Y creo que probablemente estaría bien. Supongo que haría un trabajo muy, muy bueno, siempre y cuando haya un protocolo de triaje que te lleve a un médico y si tienes necesidades realmente complejas, todavía puedes ver a un humano. Pero la atención primaria en su encarnación actual no es, simplemente no es factible. Y así creo que necesitaremos cosas como esta para que los pacientes reciban la atención que necesitan.
Bueno, estás planteando estas enormes necesidades insatisfechas. Ya has mencionado la salud mental. Estás hablando de atención primaria. Quiero decir, no tenemos ni idea de la relación oferta-demanda. Uh
>> Imposible.
La pregunta es, ¿podemos construir esto para que funcione bien? Llegaremos a eso en un momento. Uh, la, la preocupación sobre, um, la IA en varios estudios que buscan rendimiento, ya sea diagnóstico radiológico o varias cosas, es que la IA lo hizo mejor que el médico con la IA en siete estudios diferentes, diferentes,
>> ya sabes, diferentes grupos, diferentes tareas, y dices, espera un minuto, no se supone que sea así. El médico y la IA se suponía que eran, lo mejor de todos los mundos, y no habíamos visto eso. Y, por supuesto, hay algunos estudios que, hay que admitirlo, muestran la fusión de humano e IA como superior. Pero esto plantea la preocupación sobre el sesgo de automatización, la falta de arraigo de los médicos y clínicos, cómo usarlo. ¿Qué piensas sobre eso cuando viste que aparecían esos estudios? Escribimos un editorial en el New York Times sobre, eh, eso también. ¿Pensaste, oh, esto es solo un problema pasajero o crees que será persistente?
>> Sí, como dije, ya sabes, estaba buscando cuáles son los problemas del panorama general. Creo que uno de los problemas más grandes del panorama general aquí es que tienes herramientas de IA que son lo suficientemente buenas como para ser útiles, pero no perfectas. Y así, el sistema que crearemos es el humano en el bucle, es el médico que es el árbitro final del diagnóstico o la lectura de la mamografía o, lo que sea. Y al menos eso suena genial. Y, sin embargo, hay algunos problemas reales con eso. Y uno de ellos, por supuesto, es que los humanos no son muy buenos para mantener la vigilancia si están supervisando una tecnología en la que han aprendido a confiar. Ha estado bien las últimas 49 veces. ¿Lo atraparás cuando esté mal en la número 50? Otro problema es que los humanos perderán habilidades. Pero diría que, en cierto modo, el nuevo problema es el que estás abordando aquí, que es que puede llegar a ser, y estamos viendo ejemplos de dónde la IA es tan buena que tener al humano interviniendo en realidad degrada el rendimiento del díada general. Ya sabes, la respuesta a eso, creo, es ser consciente de eso como, ya sabes, casi tener eso como una posibilidad a medida que probamos estas herramientas, que de hecho uno de los posibles resultados es que la intervención humana empeora las cosas. Y si eso es cierto y los humanos probablemente no mejorarán con el tiempo, entonces esa puede ser una tarea en la que realmente digamos que está lista para que la IA autónoma haga lo suyo. Y creo que esa es probablemente la forma en que esto va a ir. Que estaremos desglosando lo que hace un médico. Y hay ciertas cosas que diremos que realmente necesitamos que un humano haga. Esta es una decisión. Las apuestas son altas. Implica mucha coordinación para obtener la opinión del paciente o la opinión de la familia, etc. Pero puede haber ciertas tareas en las que digamos que, de hecho, tener intervención humana aquí funciona mejor o peor como díada que si la IA hace lo suyo. Y creo que tendremos que tener eso como una de las hipótesis comprobables a medida que avancemos.
>> Sí. Quiero decir, y una de las cosas, solo para enfatizar eso, eh, cuando se publican estos estudios, realmente no, eh, llegan al mundo real de la medicina. No lo están probando en el mundo desordenado de la práctica médica, sino más bien, ya sabes, dando viñetas a los médicos o la combinación y, ya sabes, actores de pacientes y, ya sabes, estas son simulaciones, no son el mundo real. Y veremos cómo
>> están obteniendo, ya sabes, Google acaba de publicar un estudio ayer de dónde van a probarlo prácticamente en un entorno del mundo real y, ya sabes, uno de los puntos que hice en el libro es, ya sabes, miras estas herramientas que pueden hacer fisioterapia con IA y es como, mira qué tan bueno es esto, puede reemplazar a los fisioterapeutas. Pruébalo en un paciente de 90 años que vive en un tercer piso en Chinatown y no habla inglés. Quiero decir, eso es, ya sabes, las empresas de tecnología no están acostumbradas a construir herramientas que tengan que funcionar para todos.
Y en el mundo de la atención médica, cuidamos de todos, y eso agrega un nivel de complejidad con el que creo que la mayoría de las empresas no están acostumbradas a lidiar.
>> Totalmente de acuerdo.
De acuerdo. Ahora, eh, hay algunos problemas, eh, además de las alucinaciones, además del hecho de que, ya sabes, puede haber confabulación y está este problema de la adulación, eh, y, eh, básicamente, eh, solo complacer al que da la indicación.
>> Sí. Uh, y también, ya sabes, un gran problema de tener esta confianza asegurada.
>> Um, ¿qué piensas de esas dos preocupaciones?
El adulador ha mejorado un poco. Quiero decir, había una versión de GPT hace un año que era como, "Oh, eso fue muy inteligente de tu parte". Era como, "Para ya". Mi ego está bien. No necesito que me digas eso. Ya sabes, nos mete en problemas cuando, eh, básicamente te dice que eres tan brillante cuando te equivocas. Y, y, y, y creo que eso es parte del problema en los chatbots de salud mental donde, ya sabes, en algunos de estos, cuando lees las transcripciones, ya sabes, básicamente está de acuerdo con el niño en que el niño debería suicidarse. Quiero decir, es, es, es atroz. Así que sí, quiero decir, estas herramientas tienen que ser confiables y, en la medida en que te estén mintiendo, ya sea que te estén mintiendo con la respuesta incorrecta o mintiéndote diciéndote lo increíblemente maravilloso que eres, eso tiene que ser eliminado. Creo que eso es, eh, eso es muy importante. Creo que una de mis preocupaciones, por supuesto, es que, tanto por adulación como por la increíble humanidad de las herramientas y la forma en que responden, les otorgaremos más confianza de la que merecen.
>> Sí.
Porque confiamos más en los humanos que en las máquinas, pero cuando te habla con voz humana y parece reírse de tus chistes y todo eso. Así que, creo que tenemos que ser súper duros al respecto. Y, como, ya sabes, cuando lo probamos, tiene que ser en circunstancias del mundo real. Tiene que ser, ya sabes, el desorden de la medicina tiene que ser parte de lo que estamos probando. Y, eh, también necesitamos probar la interfaz máquina-humano, que si es aduladora y el humano confía indebidamente en ella debido a eso, eso necesita ser algo que estemos sopesando a medida que ponemos a prueba estas herramientas, porque tienes toda la razón, si solo estás probando, ya sabes, que puede hacerlo bien en una prueba o hacerlo bien en un escenario, pero el escenario se les alimenta. Quiero decir, supongo que haré una pequeña desviación. Tiendo a mirar cómo uso GPT o Gemini y digo: "Oh, ya sabes, funciona bastante bien para mí y, por lo tanto, es bastante bueno para un paciente". Creo que los expertos no reconocen el grado en que sus cerebros funcionan de manera diferente a como solían funcionar cuando eran no expertos. Para que el paciente tome los 15 síntomas o signos diferentes que tiene y sepa cuáles alimentar es un acto cognitivo de alto nivel que para los médicos simplemente aprendemos a hacer, es como respirar, pero para un paciente no es natural. Y, por lo tanto, ¿van a acertar exactamente qué síntomas poner? Y luego, en el lado de la salida, puedo mirar los resultados o tú puedes mirar los resultados y decir: "Oh, esa es una respuesta inteligente", y esa es una respuesta inteligente, y esa es realmente estúpida, la descarto. Y los pacientes, en general, no tienen la capacidad de hacer eso. Así que las herramientas que necesitamos construir para los pacientes, creo, van a ser más sofisticadas y tienen que ser más parecidas a un médico, más iterativas, más, me dices un síntoma, te hago una serie de preguntas, tú respondes de ida y vuelta, que solo un GPT genérico o Gemini o Claude. Um, estos chatbots genéricos, no creo que estén listos para la hora punta para los pacientes.
>> Sí. Y esa es en realidad el área en la que quiero profundizar ahora, que es el lado del paciente de esto, que es realmente grande. Y como ya has mencionado, tenemos Chat GPT Health lanzado recientemente. Al día siguiente, con Claude Health. Hoy está Lotus Health. Mañana estará Perplexity Health. Y seguirán y seguirán. ¿Verdad? Sí.
>> Ahora, um, no son modelos personalizados para IA. No están haciendo lo que dices. No tienen contexto de todos los datos de la persona, y mucho menos de otras partes de su pila de datos. Um, eso parece ser una necesidad insatisfecha realmente grande ahora. ¿Qué piensas?
>> Sí, quiero decir, um, creo que puedes ver el final del juego aquí. El final del juego aquí es que los modelos que se construyen sobre datos de atención médica y bases de datos de atención médica, en cierto modo, si usas OpenEvidence, quiero decir, la razón por la que es tan bueno es que se construyó utilizando no todo Internet genérico, sino realmente la literatura médica, las pautas de la sociedad, herramientas como esa que se construyen para un propósito, integradas en el registro de salud electrónico y integradas en el portal del paciente. Así que, como es hoy, ¿por qué debería tomar los datos que están en mi registro Epic y tener que exportarlos a GPT, a OpenAI, una empresa en la que no sé si puedo confiar con mis datos? No tienen, no están obligados a seguir HIPAA. Um, y luego usar esencialmente GPT para consultar mis datos. Eso se siente como una etapa muy transitoria. La etapa final es que está integrado en mi historial médico. Así que mi portal de pacientes, tiene acceso a todos los datos de mi historial médico. Y si lo consulto sobre un síntoma o intento entender qué significa porque acaba de decir que mi EKG es anormal y mi segmento PR es demasiado largo o lo que sea, puede responder esa pregunta y no solo responderla genéricamente, sino responderla en el contexto de mí. Creo que ahí es donde va esto. No creo que al final del día la gente vaya a usar herramientas absolutamente independientes que utilicen modelos de IA genéricos para, eh, eh, darte la respuesta. Creo que estas herramientas que están integradas en el registro de salud electrónico, ya sean construidas por Epic o por empresas de terceros, quién sabe. Veremos. Esa será una batalla, pero creo que tiene que estar mucho más integrada en la forma en que los pacientes obtienen su información y reciben su atención.
>> Sí. Yo, quiero decir, ahora mismo, um, son muy superficiales, muy, ya sabes, primer intento y,
>> como dices, construidos para este propósito, y mucho menos en cualquier lugar cercano. Pero uno de los problemas sobre los que quiero tu comentario son las entradas, son muy incompletas. Ahora, por supuesto, tal vez las personas que van al sistema médico de UCSF solo van allí, pero el resto del mundo va a, ya sabes, ocho proveedores diferentes, no tienen la comunicación entre todos estos registros. Así que las entradas, incluso cuando empiezan a juntarse, están lidiando con una determinación incompleta en este país, y mucho menos en este país, en lugar de, ya sabes, muchos otros.
>> Sí.
No nos preocupamos por la población para intentar, como, prevenir enfermedades. Solo tenemos un año a la vez con tus compañías de seguros para,
>> así que el empleador lo renueva o, ya sabes, no hacemos nada para intentar, ¿estás frustrado por la incompletitud de los datos, ya sabes, la determinación, la disponibilidad, junto con el problema de no, um, aprovechar este potencial?
Lo estoy, pero supongo que no está entre mis tres principales problemas. Y tal vez, ya sabes, estoy en un gran sistema de salud que hace todo, desde atención primaria hasta trasplantes. Y sí, quiero decir, probablemente hay veces en que nos perdemos algo porque el paciente se hizo una prueba, ya sabes, en, eh, ya sabes, en, eh, en Kaiser o en Sutter o en un sistema diferente y no está integrado en nuestro sistema. Y, y, pero no creo que eso surja tan a menudo como los otros problemas que son, ya sabes, ¿podemos proporcionar un buen acceso a la atención cuando el paciente necesita, necesita la atención que necesita? ¿Estamos obteniendo las respuestas correctas? Creo que la pregunta de la interoperabilidad y la capacidad de, ciertamente, el mundo sería un lugar mejor, no hay duda, el mundo es un lugar mejor si todos los datos de los pacientes están en un solo lugar, se pueden descargar fácilmente, te siguen incluso si cambias de sistema de salud, incluso si cambias de seguro de salud. No hay duda de que eso proporciona mejor información para un paciente individual y mejor IA porque, en última instancia, tienes una mejor base de datos para usar y una base de datos mucho más holística para usar. Pero en el trabajo diario aquí, se siente como, sí, es un problema real, pero no el más grande que tenemos que resolver para, para mejorar drásticamente la salud y la atención médica.
>> Sí, sí, supongo que estaría de acuerdo con la forma en que lo planteaste. Lo único que diría es que, ya sabes, cuando tienes el UK Biobank con un seguimiento de 20 años, cuando tienes, por ejemplo, Dinamarca con un seguimiento de 20 años de millones de personas con todos sus datos. Nada,
>> te pierdes mucho más de eso de lo que puedes.
>> Sí. Incluyendo a todas las personas en Groenlandia. Sí. Exactamente.
Así que sí, no hay, quiero decir, mira el COVID, quiero decir, mira el, ya sabes, estabas haciendo este increíble trabajo de anotar la literatura. ¿Cuánta de la literatura provino del Reino Unido?
>> Oh, sí.
Porque tenían un conjunto de datos completo de todos sus pacientes de una manera que no podríamos haber hecho en los EE. UU. Así que hay grandes ventajas en eso. No hay duda.
>> Sí. El, la razón por la que lo planteo es, por ejemplo, en China ya han instituido el uso de tomografías computarizadas de abdomen y tórax para detectar el cáncer de páncreas y anular la interpretación del radiólogo,
>> porque no quieren perder ningún cáncer de páncreas. Nosotros no hacemos eso. No sé cuándo lo haremos. Hay muchas cosas en los escáneres que no dependen de modelos de lenguaje grandes que son oportunistas, que podríamos detectar todo tipo de cosas. Hay empresas ahora que están dando fotos de retina y diciendo a los pacientes, eh, si tienen Alzheimer o enfermedades cardiovasculares. No estamos haciendo nada de eso aquí.
>> Sí. Así que, ya sabes, uno de los problemas es que, como hablamos del uso de la IA y para ayudar a los pacientes, ni siquiera estamos, ya sabes, muchas cosas que podríamos hacer que, que no estamos haciendo. Y, ya sabes, hay diferentes, eh, umbrales en todo el mundo para cómo y cuándo, ya sabes, usar estas cosas.
Um, así que cuando lo juntas todo, um, supongo que hacia la última parte del libro, creo que tú, tú, tú lo dijiste todo. Um, solo quiero que vuelvas a esa declaración porque creo que es una muy, eh, buena manera de resumir. Um, pero estoy igualmente convencido de que, particularmente para pacientes con afecciones crónicas agudas y complejas, siempre habrá una necesidad de un guardián humano. Alguien con no solo un profundo conocimiento médico y un juicio clínico refinado, sino también la inteligencia emocional para reconocer y abordar los miedos y, y.
Así que eso nos devuelve al lado humano aquí.
>> Sí.
>> Y, y quería darte la oportunidad de hacer eso porque algunas personas podrían decir: "Oh, wow.
>> Uh, el Dr. Wter está totalmente a favor de esta IA y realmente se ha vuelto exuberante. Pasó de ser anti-digital a ser pro-IA aquí". Sí.
>> Um, cuéntanos sobre esto,
>> la parte humana de la medicina, la esencialidad de la medicina en tu opinión que logra el equilibrio correcto en el futuro.
>> Sí, eh, gracias. Eh, llegué a un lugar, y no a propósito, porque soy totalmente capaz de escribir un libro bastante gruñón porque escribí uno hace 10 años sobre el registro de salud electrónico. Uh, pero en este, en este, eh, esta vez llegué a un lugar bastante optimista porque lo necesitamos y creo que estas herramientas son asombrosamente buenas. Pero una de las cosas que quería comprobar es, ya sabes, ¿es lo suficientemente bueno como para reemplazar a los médicos o enfermeras, etc., y dónde y, y, y hacerlo con la mente abierta? Obviamente, estoy animando a los humanos. Tengo una hija y un yerno que son becarios de neumología aquí y me gustaría que tuvieran trabajo, etc., etc. Um, y no quiero que un bot me diga que tengo cáncer o que tengo diabetes. Así que, hay ciertas partes de eso que parecen claras. Y así, a medida que comencé a usar estas herramientas en los últimos años, las usaba cuando estaba atendiendo en sala. Y me llamó la atención que estas herramientas me harán un mejor médico. Me harán un médico más feliz porque me quitarán un montón de papeleo tonto. Me darán acceso a conocimientos que realmente me ayudan a hacer un mejor trabajo cuidando a los pacientes, pero no reemplaza al médico humano y en todo tipo de áreas. Empatía, comunicación, coordinación. La medicina es desordenada y compleja. Hay cosas que creo que la IA puede hacer por sí sola. Y cualquiera que diga que no puede, no podemos tener IA autónoma haciendo algo en un campo de alto riesgo como la medicina. Tomo un Whimo una vez a la semana y, ya sabes, hablas de alto riesgo, intenta girar a la izquierda cruzando la calle Viziderero durante la hora punta. Ya sabes, estás poniendo tu vida en tus manos y la cosa es increíblemente segura. Así que creo que hay un papel. Creo que hay cosas que haremos ahora que confiamos en los humanos, pero creo que queda mucho territorio para los clínicos humanos. Creo que los pacientes lo insistirán en circunstancias, en ciertas circunstancias, y creo que eso nos deja en un lugar realmente bueno. Creo que nos deja en un lugar donde todavía hay médicos, pero los médicos están practicando al máximo de su licencia. No pierden el tiempo haciendo papeleo. Tienen acceso a un mejor conocimiento del que tienen ahora. Y esa es en parte la razón por la que llegué a un lugar muy optimista. Creo que esto será un beneficio neto para los médicos y, lo que es más importante, un beneficio neto para los pacientes.
>> Sí. No, creo que ese es un buen mensaje.
Um, ¿capturé las partes clave de tu?
>> Lo capturaste, lo capturaste maravillosamente. No tan maravillosamente como para que alguien no deba salir y comprar el libro, pero absolutamente perfectamente. [risas]
>> ¿Hay algo más que quieras añadir a lo que discutimos? Quiero decir, obviamente podemos hablar durante horas y espero que algún día tengamos esa oportunidad.
No, creo que creo que, quiero decir, supongo que una pregunta que surge mucho, Eric, es, ya sabes, la formación de futuros médicos y creo que esa es una pregunta realmente interesante con la que estamos luchando mucho. Uh, está muy claro que necesitan aprender mucho sobre IA y cómo funciona y cuándo confiar en ella y cuándo no. Creo que la pregunta central, con la que realmente estamos lidiando, es, ¿hay cosas que puedes quitar del currículo en términos de conocimiento y razonamiento clínico? Mi propia opinión es que es prematuro hacer eso. Que, que, que en el futuro previsible la IA hará lo suyo, pero habrá un médico que la supervisará y podemos ver fácilmente que entramos en una espiral de muerte si la gente no es buena en eso, entonces sí, la IA será mejor que ellos, pero creo que todavía necesitamos que sean buenos en eso. Así que la única área de consenso, quizás la única área en la que todos están de acuerdo, es que podemos quitar esto del currículo, es el ciclo KB. [risas]
>> para, para los no médicos que no tienen TEPT cuando digo eso, es esta vía bioquímica increíblemente oscura que todos aprendimos en la escuela de medicina y nunca más usamos. Creo que hay un consenso en que podemos arreglarnos sin el ciclo KB.
>> Sí. Bueno, y en el libro, eh, en esa línea, tenías una cita, tratando de recordarla, no recuerdo de quién, pero sobre, eh, los médicos necesitan aprender a ser la orquesta, el líder, no el.
>> Sí.
Así que este es Mark Priola, quien es el decano de estudiantes y un verdadero líder en IA aplicada a la educación en NYU. Y mientras pasaba un par de días, le dije, y Mark dijo: "Bueno, enseñamos a los estudiantes ahora a tocar la viola y a tocar el fagot y a tocar la batería. Necesitamos enseñarles a ser directores de orquesta". Y yo dije: "Eso es interesante, Mark. ¿Qué significa exactamente?". Y él dijo: "No tengo ni idea. Simplemente pensé que sonaba bien". [risas]
De acuerdo. Bueno, una última cosa, um, tengo que preguntarte porque cuando estaba, eh, haciendo "Deep Medicine", tenía un capítulo sobre empatía profunda y dije que eso es lo único que la IA nunca hará. Um, y simplemente me lo perdí por completo, que cuando hubiera estos modelos de lenguaje grandes, canalizaría empatía. La IA no tiene ni idea de lo que es, si, no sabría qué demonios es. Pero ahora, eh, en 13 estudios, 12 han encontrado puntuaciones de médicos que la IA fue más empática que los médicos.
>> Sí. Sí.
Así que, eh, quiero obtener tu opinión y esto será lo último, y ¿prevés que cuando tengas estas notas que se automatizan, serán revisadas por IA para entrenar a los médicos a ser más empáticos y mejores comunicadores? ¿Será eso un requisito de licencia o anual? Um, ¿y es cierto, es cierto que la IA, sin saber lo que es la empatía, es un verdadero canal para la empatía?
Bueno, primero que nada, lo has entendido bien. Quiero decir, la IA no sabe la diferencia entre empatía y una receta de pollo marsala. Quiero decir, es solo algo que ha aprendido a imitar, pero es un actor increíblemente bueno. Y, y, como dices, los estudios muestran que en observadores ciegos que escuchan la respuesta de la IA y la respuesta de un humano, a menudo encuentran que la respuesta de la IA es más empática. Ahora, podrías decir que eso es injusto porque a menudo es porque la IA tiene más tiempo y te da respuestas más amplias, pero en realidad es cierto. Tiene más tiempo y, por lo tanto, puede, puede hacerlo. Así que creo que el uso de la IA en el coaching va a ser realmente profundo. Estamos construyendo una herramienta de IA aquí, eh, para dar a nuestros residentes, nuestro personal de casa y nuestros estudiantes retroalimentación, eh, donde, eh, escuchará una presentación y, en cierto modo, a veces redactará la retroalimentación, o si tengo retroalimentación sobre esa presentación, puedo dictarla y luego, al final, consolidará todo eso y se lo dará al, al residente. Así que creo que hay una gran cantidad que se puede hacer con el coaching y, ya sabes, no sabe nada sobre empatía, pero, eh, sabe cómo suena la empatía y, por lo tanto, y, ya sabes, cuando hablo con mis colegas de cuidados paliativos sobre esto, en cierto modo dicen, ya sabes, enseñamos a nuestros residentes una fórmula sobre cómo hablar con un paciente sobre noticias terribles. Y eso puede parecer artificial, pero por supuesto que lo es. Es, hemos aprendido que esta es la mejor manera de hacer esto, y la IA lo sabe y, por lo tanto, o es capaz de entrenar y, por lo tanto, capaz de escalar el entrenamiento de una manera que es difícil de entender con los humanos. Supongo que el punto final es cuántas veces entro en la habitación de un paciente y veo a mi estudiante de medicina entrevistar al paciente. La mayoría de las veces, espero hasta que el estudiante salga y me presente el caso. Sería como si hubieran entrado en una sala de conciertos, tocado el piano y salido y me dijeran lo bien que sonó. Mientras que la IA podría estar escuchándolos tener esa conversación y decir: "Sabes, cuando dijiste esto, no funcionó muy bien y podría intentar decirlo de otra manera la próxima vez". Así que creo que es bastante emocionante.
>> Bueno, yo, eh, estoy contigo. Estoy totalmente contigo en eso. Lo mencioné en parte por la conexión con la formación de los futuros médicos y cómo esto podría ser una herramienta sorprendentemente útil.
Así que, eh, en la contraportada de tu libro, escribí un caso atractivo y sin exageraciones para un optimismo informado. Y, de hecho, eso es lo que es el libro. Y creo que las personas interesadas en la IA y la medicina aprenderán mucho. Hemos cubierto, ya sabes, solo una pequeña pizca de ello. Pero creo que, eh, realmente ha sido divertido hablar contigo y, um, es realmente una gran contribución que has hecho con tu reflexión, tu, eh, hablar con, ya sabes, más de 100 personas en el campo y algunas grandes anécdotas, buena narración, ya sabes, realmente se junta bien.
Así que gracias, Bob.
Bueno.
>> Gracias. Si viene de ti, significa mucho y, eh, seguimos súper orgullosos de todo lo que has hecho y realmente aprecio, realmente aprecio el respaldo. Fue muy útil.
>> Sí. Bueno, tienes muchos. Eso es seguro.
Ahora, um, quiero agradecer, tenemos casi 700 personas que se tomaron el tiempo de unirse a nosotros a mitad del día. Realmente lo aprecio. Estoy seguro de que si tienen preguntas pendientes, eh, Bob tiene un avatar, eh, que [risas] Sí. No, estoy seguro de que puedes encontrarlo si hay algo.
>> Soy fácil de encontrar.
>> Sí. Uh, sí, muy fácil de encontrar.
Así que Bob, realmente lo disfruté y, eh, espero con ansias futuras discusiones contigo.
>> Gracias, Eric. Fue un verdadero placer.
Gracias a todos.