Transcription
Tendemos a confiar más en los "quiénes" (personas) que en los "qué" (máquinas). Y esta es la primera vez que tenemos un qué que actúa como un quién. El Dr. Robert Wachter es un líder nacional en calidad de atención médica, seguridad del paciente y salud digital, cuyo trabajo ayudó a definir la medicina hospitalaria moderna. Sería como si tuvieras un bebé, pasaras todo el tiempo alimentándolo y cambiándolo, y nunca te sonriera. Obtuvimos muy poca información útil. Como presidente de medicina en la Universidad de California, San Francisco, acuñó el término "hospitalista", encendiendo un movimiento que revolucionó la atención hospitalaria en todo el mundo. El dilema en el que nos encontraremos en el futuro previsible es que será lo suficientemente correcto como para ser útil y lo suficientemente incorrecto como para que el humano tenga que mirar por encima del hombro. Exploramos su nuevo libro, "A Giant Leap", y su visión de cómo la tecnología, la innovación y la IA pueden trazar un camino mejor tanto para los pacientes como para los cuidadores. Bienvenidos a una mirada interna del Departamento de Medicina de Stanford sobre el futuro de la medicina. Tengo muchas ganas de nuestra conversación. Tenemos tantas cosas de las que podríamos hablar, pero estoy particularmente emocionado porque acaba de publicar un nuevo libro. Lo he hecho. Pasé los últimos dos años pensando mucho en la IA y en dónde nos deja, y parece el tema más interesante del mundo. Así que fue realmente muy divertido. Es algo, por supuesto, en lo que en Stanford pasamos mucho tiempo pensando. No es su primer libro. Es mi cuarto libro de tipo comercial, orientado al público general, y he hecho un par de libros de texto cuando solían existir los libros de texto. Solíamos tenerlos, ¿verdad? Solíamos tenerlos. Pero este es el cuarto libro que he escrito para una audiencia cruzada. Espero que sea útil e interesante para los profesionales de la salud y las personas de tecnología y todo eso, pero también para el público en general interesado en lo que le sucede al mundo de la atención médica con la IA. Estaba realmente interesado. Uno de sus libros anteriores más vendidos, "The Digital Doctor", en muchos sentidos prepara el escenario para este libro actual, y me encantaría profundizar en eso, pero me resulta interesante que haya escrito un libro sobre el médico digital y un libro sobre la IA en medicina, pero usted no se describe a sí mismo como un tecnólogo. Tengo un iPhone y lo uso, así que estoy bastante orgulloso de eso. Realmente no sé qué está pasando bajo el capó de ninguna de estas tecnologías. Me interesé en la tecnología porque me interesa mucho el sistema de salud, qué lo hace funcionar, y porque he estado trabajando mucho en seguridad del paciente durante 15 o 20 años, y por lo tanto, no se podía trabajar en seguridad del paciente sin creer que si pudiéramos digitalizar, la vida mejoraría. Y luego digitalizamos y, en algunos aspectos, la vida empeoró, y eso me interesó mucho en el tema. Bueno, esa es en realidad la primera cosa que quería preguntarle porque hay tantas partes interesantes y realmente resonantes del libro. Lo he estado escuchando en audiolibro durante las últimas semanas, y usted mismo lee el audiolibro. Lo hago. Así que ha sido genial tenerlo en mi cabeza durante nueve horas. ¿En serio? En pequeños segmentos cortos a la vez, una hora a la vez. Pero usted hizo este punto que yo he hecho muchas veces, que realmente resonó conmigo, y es que algunos de los problemas que estamos tratando de resolver actualmente en medicina —y quizás incluso muchos de los problemas— fueron en realidad creados por una revolución tecnológica anterior, la que usted describió en "The Digital Doctor", que es la digitalización de nuestros registros médicos electrónicos. Pero estoy realmente emocionado y bastante optimista, como creo que usted lo está, de que la revolución tecnológica actual pueda resolver algunos de esos problemas que fueron creados, en cierto modo, por la anterior. ¿Puede hablar un poco sobre eso? Este libro es bastante optimista y la gente me ha preguntado si es solo mi forma de ser, y yo digo que no, soy totalmente capaz de escribir un libro muy pesimista porque "The Digital Doctor" es bastante gruñón. Fue mi esfuerzo por entender por qué nos habíamos desviado del camino. He estado esperando que esta tecnología entrara en nuestro mundo. El libro trata realmente de que pasemos de ser una industria del papel a una industria digital. Y creo que tenía todo el sentido del mundo que esto hiciera la atención mejor, más segura, más conveniente y mejor para médicos y enfermeras. Y luego descubrí que las tasas de agotamiento se dispararon y los médicos estaban descontentos con su registro médico electrónico. Creo que llegué a entender, en primer lugar, que cualquier tecnología de propósito general —una tecnología que simplemente cambia todo— casi nunca cumple sus expectativas en los primeros años. Parte de ello se debe a que la versión 1.0 no es muy buena, pero parte de ello se debe a que los humanos tienden a tomar esa tecnología y descargarla en su sistema existente, sus culturas, su gobernanza, su flujo de trabajo, y he aquí que no funciona. Y cuando ves que estas tecnologías realmente dan sus frutos —y estoy hablando de la máquina de vapor, el coche o el ordenador— realmente se necesita a veces una generación de la industria que diga: "Eh, ¿por qué hacemos esto de esa manera? Oh, es porque siempre lo hicimos así". Las consecuencias imprevistas del registro médico electrónico incluyeron que se pidiera a los médicos que ingresaran datos que crearan una mejor facturación. Así que hagamos que el médico documente que aconsejó al paciente sobre cinturones de seguridad o examinó nueve partes del cuerpo, y he aquí que conviertes al médico en un costoso y gruñón empleado de entrada de datos. Y luego, unos años después, activamos esta cosa llamada portal del paciente. Dio a los pacientes todos estos datos —podía ver que mi magnesio estaba bajo y mi electrocardiograma era anormal— pero absolutamente ninguna ayuda para interpretarlo. Y la única ayuda que les dimos fue un pequeño botón en la parte inferior que decía: "Haga clic aquí para enviar un mensaje a su médico". Y he aquí que los pacientes, siendo normales, hicieron clic allí para enviar un mensaje a su médico, y los médicos terminaron con dos horas de tiempo de pijama. Esas fueron las cosas que fueron obvias en retrospectiva, pero puedo decirles que en tiempo real no predije que sucederían. El resultado final fue que el registro médico electrónico se convirtió en un útil y definitivamente positivo gran archivador, pero no cumplió con el tipo de inteligencia clínica. Sería como si tuvieras un bebé y pasaras todo el tiempo alimentándolo y cambiándolo, y nunca te sonriera. Obtuvimos tan poca información útil y pasamos tanto tiempo metiendo cosas en él. De ahí vino la frustración. Usted lo escribe de manera muy elegante. Una de las historias que me pareció muy divertida fue que al principio había hablado con un colega de informática que usted creía que no tendría un trabajo necesario en uno o dos años. Un médico de informática formado en Stanford a quien contratamos para ser nuestro director de información de salud. Fue justo después de implementar Epic. Y yo dije, sabes, pensé que podría haber un par de años de retoques y mejoras, y luego le dije: "¿Qué vas a hacer después de que eso termine? ¿Cuál es tu carrera?" —la pregunta más estúpida del mundo. Hoy está más ocupado que nunca. Absolutamente. Así que esa es la preparación, en cierto modo. Y creo que todos hemos pasado mucho tiempo disculpándonos con nuestra gente o tratando de señalar que había algunos beneficios en el registro electrónico —por primera vez podías obtener radiografías y resultados de laboratorio, algunos registros electrónicos locales que podían estar ahí delante de ti. Necesitabas como 50 clics para encontrarlos, pero al menos estaban ahí. Pero creo que lo que estábamos esperando era una tecnología que pudiera ingerir todos esos datos multimodales y proporcionar alguna asociación, alguna sabiduría. Y en algún momento, en los últimos dos o tres años, a medida que GPT salió a la luz, los orígenes del potencial para esa próxima revolución estaban ahí. Y eso es de lo que usted habla la mayor parte del tiempo en el libro. Habla de acceder a GPT desde la versión 2.0, quizás 2.5, cuando lo probó por primera vez. Incluso entonces, en algunos aspectos, era horrible porque alucinaba mucho, y había todas esas cosas locas —te decía que pusieras pegamento en tu pizza para que el queso no se cayera— el tipo de problemas locos, muy caricaturizables, casi caricaturescos. Pero, sin embargo, era obvio para mí que aquí había una tecnología que era más parecida a un humano que cualquier otra cosa que hubiera visto. Y si piensas en dónde nos desviamos del camino con los registros médicos electrónicos, llegué a creer que la primera etapa iba a ser la digitalización del registro. La segunda etapa iba a ser la conexión de las partes y la interoperabilidad. Pero no habíamos llegado a las etapas realmente significativas, que son: tienes todos estos datos, ¿cómo los analizamos de una manera que sea útil, que nos ayude a entender mejor a nuestros pacientes? Y luego, ¿cómo conviertes esa comprensión en acciones? Parte del desafío fue que hasta GPT y similares, muchos de los datos en el registro médico electrónico están en forma narrativa, en notas, y no había ningún mecanismo para lidiar con eso. Incluso herramientas tecnológicas avanzadas como Google o UpToDate, si decías: "Tengo una mujer de 62 años que viene con cáncer de mama, tiene un calcio de 11 y una creatinina de tres y un infiltrado en el pecho, ¿qué crees que está pasando?" —las herramientas decían: "No tengo idea de lo que estás hablando". Con estas nuevas herramientas podías hablar esencialmente como hablarías con un consultor. Y como generalista, pasé mucho tiempo en el hospital esperando encontrarme con mi consultor favorito, porque cada paciente que atiendo, puedo nombrar a cinco personas en el edificio que saben más sobre cada problema que yo, aunque yo sé más sobre todo que ellas. Ahora, en mi bolsillo, tengo experiencia a nivel de subespecialidad a la que puedo acceder y hablar como un consultor. Eso, para mí, fue un avance tecnológico notable. No, creo que fue la naturaleza humana de las respuestas, porque al final del día —y usted dijo esto en su excelente charla de Grand Rounds— todos nos acostumbramos a pensar que la búsqueda de Google era la mejor respuesta que podíamos obtener, y era bastante buena. Pero eso es una serie de enlaces a otra información. Lo interesante de los modelos de lenguaje es, por supuesto, que responden en prosa. Y no solo la salida son enlaces, sino la entrada —no podías poner en Google la complejidad de un paciente real. Así que existe el riesgo de que sea tan humano. Una de las cosas que escribí en el libro es que tendemos a confiar más en los quiénes —personas— que en los qué —máquinas—, y esta es la primera vez que tenemos un qué que actúa como un quién. Crea un riesgo de que le demos una confianza indebida, y tenemos que tener mucho cuidado con eso. Esto es algo de lo que he hablado con nuestros directores de programas de residencia, porque obviamente mucho de lo que usted y yo hacemos es pensar en la educación, particularmente en nuestros estudiantes de medicina y becarios que están empezando. Estamos construidos —especialmente cuando la prosa está muy bien puntuada, cuando las palabras se usan de manera compleja, cuando un concepto está bien articulado— para desconectarnos un poco debido a la confianza. Usted confía en ello. Por supuesto. Es casi como si tu cerebro dijera: "Oh, estoy en modo enciclopedia". Si tienen un acento del Reino Unido, confías un poco más en ellos. Especialmente de Escocia. Exactamente. Hacemos juicios sobre la confiabilidad de algo a partir de muchas señales, y una de ellas es la humanidad del lenguaje, ¿entendió mi lenguaje humano? Nunca hemos tenido una herramienta tecnológica que pudiera hacer eso. Así que existe el riesgo de que le otorguemos una confianza indebida. Tenemos que ser muy reflexivos sobre cómo probamos esto para asegurarnos de que realmente merece la confianza que le estamos dando. Eso ciertamente se me ocurrió la primera vez que usé nuestro sistema copiloto —usted habla del escriba de IA ambiental— y encontré exactamente eso. Era tan hermoso que casi me quedé dormido un poco mientras lo revisaba. Y luego me di cuenta de dos cosas. Una, captó algo que yo había olvidado de la conversación, así que pensé: "Eso es genial, si yo estuviera escribiendo esta nota, habría olvidado incluir eso". Pero lo segundo fue que realmente malinterpretó algo y le puso al paciente un medicamento que el paciente no estaba tomando. Y yo lo atrapé, pero estaba a tres palabras de eso antes de darme cuenta de que había leído algo que no era cierto. Y esa es la primera vez. Piensa en la quincuagésima vez, cuando has aprendido a confiar en las primeras cuarenta y nueve. Los humanos somos bastante malos en esto. No estamos hechos para permanecer hipervigilantes cuando hemos llegado a confiar en una tecnología que ha estado en lo correcto las últimas cien veces. Ese es un problema realmente desalentador. Una de las formas en que lo planteé en el libro y en las Grand Rounds fue: si la tecnología fuera correcta la mitad del tiempo, sería inútil. Si fuera correcta el 100% de las veces, eso es genial, no estoy seguro de qué estaríamos haciendo todos para ganarnos la vida. Pero el dilema en el que nos encontraremos en el futuro previsible es que será lo suficientemente correcto como para ser útil y lo suficientemente incorrecto como para que el humano tenga que mirar por encima del hombro. Esa es una tarea para la que no estamos hechos. ¿Tiene ideas sobre cómo podríamos programarnos? Casi ninguna. Realmente creo que está muy arraigado en la experiencia humana. Hay algunas ideas. Una es —esto es particularmente cierto para la formación y la prevención de la pérdida de habilidades— quizás no le pidamos a la herramienta que opine hasta que el humano haya puesto su moneda. De alguna manera análogo a la forma en que enseñamos a los adjuntos jóvenes: no le digas a los residentes y estudiantes lo que piensas, pregúntales qué piensan antes de opinar. La analogía con la seguridad aeroportuaria de la TSA es que periódicamente introducen una imagen de una bomba o un arma para asegurarse de que los agentes se mantengan despiertos. Introducir el diagnóstico equivocado o ese medicamento equivocado. Creo que parte de esto será más sociológico que tecnológico. Puede que solo se trate de asegurarnos de que nuestros aprendices comprendan el riesgo de estar dormidos al volante. Pero supongo que a largo plazo, probablemente será más otra IA vigilando a la IA #1 que confiar en que un humano permanecerá vigilante cuando se vuelva demasiado confiado en la tecnología. Pero es un problema muy difícil. Es interesante —y usted lo describió bien en el libro también— la evolución del GPT-2 original al 3, donde había alucinaciones y los modelos usaban principalmente predicción del siguiente token. En su mayor parte, no iban a la fuente del conocimiento o la información. Pero cuando entramos en el modo RAG —generación aumentada por recuperación— donde estaba analizando datos reales, yendo a leer los artículos o el libro de texto digital y luego devolviendo la versión analizada y proporcionando el enlace, pensé que fue un momento realmente interesante porque todo mejoró. Hubo menos confabulación, y podías hacer clic en el enlace para comprobarlo. Eso es interesante porque en la atención médica, el avance ahí es: ¿qué obtienes cuando pones un caso clínico en Gemini, Claude o GPT frente a lo que obtienes cuando lo pones en Open Evidence, una herramienta construida para la medicina que utiliza como su principal fuente de datos la literatura médica y las directrices del American College of Cardiology? Creo que obtienes una fuente más confiable usando esa literatura fundamentada. Lo que es sorprendente, sin embargo, es que GPT y Gemini son en realidad bastante buenos. Están utilizando todo Internet, incluido PubMed, pero también The Onion y Reddit y todo lo demás. Es un poco sorprendente lo buenos que son. Tiendo a confiar más en las herramientas construidas para este propósito que en las herramientas de propósito general, pero las herramientas de propósito general no están mal. Una de las cosas que es fascinante y que no enfatizamos lo suficiente —pasamos mucho tiempo pensando en estas herramientas a medida que entran en la medicina y los sistemas de salud y los médicos las usan. Pero una de las cosas que entendí mejor después de escribir el libro es que tenemos que pensar en las herramientas orientadas al paciente de una manera muy diferente. El acto cognitivo de tomar un conjunto de datos de quizás 50 elementos de un paciente —síntomas, historial, medicamentos— y reducirlo a lo que pones en el cuadro de indicaciones, lo que el residente presenta al adjunto, es realmente complejo y requiere conocimiento a nivel de experto. Los pacientes no tienen la capacidad de hacer eso. Un paciente no sabe qué de 50 hechos es irrelevante. "Me desperté esta mañana, tengo dolor de cabeza y me duele el pie y tengo fiebre y antecedentes de esto y estoy tomando esta medicación" —el paciente no tiene idea de cuál es irrelevante. Y en el lado de la salida, si te da una salida y la miras y dices: "Los diagnósticos número uno y dos, eso tiene sentido, ni siquiera había pensado en el número uno, pero el número cuatro, eso es ridículo" —los pacientes tampoco tienen la capacidad de hacer eso. Por lo tanto, las herramientas para expertos y las herramientas para no expertos realmente deben ser bastante diferentes. Ahora mismo, millones y millones de pacientes utilizan herramientas genéricas como GPT o Gemini, introduciendo sus síntomas, confiando en los resultados. A veces es genial, a veces es un poco peligroso. Vamos a tener que desarrollar mejores herramientas para los pacientes que probablemente actúen más como médicos —es decir, el paciente dice: "Tengo dolor de cabeza", y luego la herramienta dice: "Cuéntame sobre ello. ¿Cuánto ha durado? ¿Te duelen los ojos con la luz brillante? ¿Te duele el cuello?" De ida y vuelta, como lo haría un médico, en lugar de un chatbot genérico donde se debe confiar en que el paciente proporcione toda la información correcta. No creo que eso esté listo para el horario estelar. Si pensamos en el proceso de educación médica, esa es quizás la primera cosa que enseñamos a nuestros estudiantes. Vi a mi hija pasar de ser una novata a una experta, y es muy sutil, pero en muchos sentidos, lo que estás aprendiendo es cómo tomar esta gran cantidad de hechos y reducirlos a lo que vas a presentar a tu adjunto en las rondas. Y los pacientes no han hecho eso. Pienso en una historia de dolor en el pecho de manera similar —enseñamos muy temprano las preguntas que hay que hacer, pero lo hacemos en el contexto de tiempo limitado. En última instancia, esas preguntas dejan espacio para que el paciente hable abiertamente, pero luego necesitas profundizar, y esa es la habilidad que enseñamos. La única cosa que estos modelos tienen —y podríamos hablar un poco más sobre algunos de los datos que presentó sobre empatía, algunos de ellos de Stanford— la única cosa que tienen es tiempo infinito, que nosotros no tenemos. Entonces, ¿cómo cree que eso se desarrollará al final? ¿Cuál es el equilibrio ahí? Intento abordar esa pregunta con cierto equilibrio, reconociendo que tengo un sesgo hacia los humanos porque soy uno. Mi hija y mi yerno son médicos, y es demasiado deprimente creer que todo lo que aprendemos y toda la humanidad de lo que aportamos a la atención médica no tiene valor. Por otro lado, creo que tenemos que tener una prueba de dos colas que diga que tal vez haya algún valor ahí, pero ¿y si las máquinas se vuelven tan buenas como nosotros y son más escalables, menos costosas y más convenientes? Entonces probablemente deberían ganar. Se puede imaginar un mundo en el que el paciente haya interactuado con algo parecido a GPT antes de la visita. Tiene tiempo infinito, se han hecho muchas de las preguntas, y me entrega a mí, como médico de atención primaria, un conjunto de datos relativamente completo y quizás incluso un diagnóstico tentativo que luego pruebo. ¿Me quedaré dormido al volante o estaré despierto y lo investigaré a fondo? No lo sé. Tenemos mucho trabajo que hacer para resolver esto. Las pruebas de empatía de IA frente a humanos, se podría argumentar, son injustas, porque cuando se mira por qué la IA lo hace mejor que los humanos en una medida de empatía, fue en gran medida porque las respuestas de la IA son más largas. Pero eso no es del todo injusto, porque la IA tiene tiempo infinito y nosotros no. Así que esa es la vida real, esa es la prueba. Pienso mucho en la atención primaria porque el dilema de la atención primaria es terrible. Muy poca gente se dedica a ella, está mal pagada, infravalorada y el trabajo es esencialmente imposible. Los pacientes vienen con 10 problemas y 15 medicamentos, y usted tiene 15 minutos para lidiar con eso. Un estudio de hace unos años dijo que si dedicara su tiempo solo a la prevención —y eso es si ningún paciente tuviera la audacia de tener algo realmente mal— eso serían 27 horas al día. Entonces, ¿cómo lidiar con eso? Bueno, parte de ello podría ser que la IA haga algo de pre-trabajo y luego se lo entregue a usted. Parte de ello podría ser que para el manejo de su presión arterial o su colesterol, es bastante algorítmico —quizás todo eso lo haga la IA. Ahora, hay un desafío ahí: si soy un médico de atención primaria y la IA se ha encargado de todo lo fácil, no estoy seguro de que eso haya hecho mi vida mejor a menos que me dé suficiente tiempo para lidiar con eso y me reembolse de la manera correcta. Pero creo que no vamos a reemplazar por completo a los médicos de atención primaria —vamos a decir, ¿qué pueden hacer los humanos de forma única y qué pueden hacer las IA bien, de forma segura, más conveniente y probablemente a un menor costo, y averiguar cómo dividir las tareas de esa manera. Creo que los pacientes estarán más felices. Tomaré un Waymo en lugar de un Uber. Prefiero estar en algo que sé que es increíblemente seguro, y puedo cantar Springsteen a todo pulmón en el asiento trasero o echar una siesta. ¿Es eso seguro para los demás? Mientras esté solo, es genial. Creo que nosotros, como médicos humanos, podemos sobrevalorar cuánto obtienen los pacientes de vernos. Para las cosas que la tecnología puede hacer de forma segura, si se puede hacer de forma segura y conveniente y no tienen que tomarse medio día libre para ver al médico y sentarse en la sala de espera, no estoy seguro de que los pacientes vayan a anhelar el contacto humano. Pero tenemos que ser reflexivos al respecto, porque hay algunas cosas en las que no queremos que la IA, creo, le diga a un paciente que tiene cáncer, diabetes, o insuficiencia cardíaca o renal. ¿Cómo se dividen esas categorías de una manera que funcione realmente? Es interesante. Stanford y UCSF probablemente no sean representativos a nivel mundial de la medicina, pero ya ha pasado más de un año desde que alguien llamó para pedir una cita conmigo, y faltaban unos meses para que pudiera conseguirla. Así que su pregunta de seguimiento fue: "¿Cuándo puedo ver a la IA del Dr. Ashley?" Y quiero decir, esa es una llamada genuina de un paciente, y mi enfermera en ese momento dijo: "No creo que todavía tengamos eso". Pero la idea de que cada uno de nosotros tendría un avatar construido como nosotros, quizás afinado con nuestros registros como mínimo o entrenado en ellos. El libro comienza con una escena en la que estoy sentado con el CEO de la Clínica Mayo, y él tenía en su ordenador algo que ni siquiera le había mostrado a su junta directiva todavía. La expresión de su rostro era "esto es tan genial", y se dio la vuelta y era una radióloga de Mayo hablando con una paciente sobre los resultados de su radiografía. Tenía artritis reumatoide, y él fue maravilloso y compasivo, y la paciente pareció valorar la conversación, y luego detrás de él entró el verdadero Dr. Fulano de Tal, que saludó torpemente a la cámara. Y Gianrico Farrugia me dijo: "Sabes, hace 30 años, cuando queríamos escalar la experiencia de la Clínica Mayo, ¿qué hicimos? Construimos un campus en Scottsdale y un campus en Jacksonville. Hoy no haríamos eso. Diríamos, ¿cómo tomamos el avatar del Dr. Ashley y hacemos que ese nivel de competencia, humanidad y empatía esté disponible para más personas?". Y no está entrenado en todo Internet, está entrenado en usted y en los últimos 10.000 pacientes que ha visto, o en los últimos 10.000 pacientes vistos por grandes médicos de Stanford. Creo que eso es inevitable y probablemente sea un bien neto para los pacientes. Piensa no solo en no poder ver a un médico de UCSF o Stanford, sino en no tener un cardiólogo a 100 millas cuando vives en la zona rural de California. Ahora tienes acceso a ese nivel de experiencia. Eso es bastante fantástico. Estados Unidos tiene más cardiólogos que creo que cualquier otro país. Así que si lo piensas a escala global, el número de personas que no tienen acceso a atención de subespecialidad —recuerdo que estuve en Haití hace unos años, tenían creo que dos oncólogos en todo el país. Alaska tenía un cardiólogo. Pensando en eso y en la escalabilidad de la atención de subespecialidad —también está la cuestión que tocamos antes sobre la escalabilidad de la empatía. Las personas realmente se benefician de esa empatía a pesar de saber que el modelo es un ordenador. He tenido discusiones con mi gente de cuidados paliativos sobre esto y están un poco divididos al respecto. Pero en cierto modo dicen: "Cuando enseñamos a nuestros estudiantes sobre empatía y conversaciones al final de la vida, en cierto modo les estamos enseñando una fórmula". Te identificas con el paciente, reflejas lo que dijo, le das un plan, no le quitas la esperanza. Es bastante formulaico. Ahora empiezas con un humano, así que aporta lo que los humanos aportan en términos de empatía. Estas máquinas han aprendido a simularlo, y comenzarán a asumir una forma más humana, y puedes imaginar un mundo en el que la gente olvide que en realidad no está hablando con un humano real. Estás viendo eso con algunos de los chatbots de salud mental, donde ha habido algunos ejemplos egregios de cosas horribles dichas que no se pueden defender. Pero hay millones de personas hoy en día que reciben lo que ven como asesoramiento, coaching y consejos útiles para la salud mental. Y podrías decir que eso es horrible, pero intenta encontrar un profesional de la salud mental en Palo Alto o San Francisco. Y si puedes encontrar uno, intenta encontrar uno por menos de 300 dólares la hora. Está la cita de Biden: "No me compares con el Todopoderoso, compárame con la alternativa". Y la alternativa en muchas partes de la medicina es que tenemos estas grandes instituciones y grandes personas, pero intenta entrar y ver a una. Creo que a veces elevamos demasiado el listón para la tecnología. Si tu alternativa es nada —que a menudo lo es— entonces el listón para algo debería ser más bajo. Pero luego hacemos algo predecible y natural, que es: el listón debería ser relativamente bajo si tu alternativa es nada, y sin embargo, para una nueva tecnología, particularmente una que la gente encuentra extraña y le teme —particularmente sobre sus trabajos— un solo accidente grave se convertirá en una causa célebre. Vimos esto en San Francisco. Solía haber dos empresas de coches autónomos: Waymo y Cruise. Hace dos años, un coche de Cruise —en realidad no atropelló a una mujer, ella fue atropellada por un coche normal, pero el Cruise luego se acercó y ella estaba debajo de las ruedas y la arrastró unos 20 pies— y esa empresa quebró un año después. A pesar de que los datos eran bastante claros de que todavía era más seguro que un coche con conductor. Pero nuestra tolerancia a un mal resultado de una tecnología es muy diferente a nuestra tolerancia a un mal resultado cuando un humano está al mando. Una de las cosas que realmente me gustó —como entusiasta de la aviación, usted a menudo hace comparaciones entre la medicina y la aviación, y la medicina no sale muy bien parada. La medicina no sale muy bien parada porque la aviación es un campo que ha sido increíblemente reflexivo sobre la seguridad y sobre la integración de la tecnología. Para "The Digital Doctor", de hecho fui a Boeing y pasé un par de días viendo cómo piensan sobre el diseño de la cabina. Cuando les dije eso en UCSF, hubo un estudio hace varios años que analizó el número de alertas activadas por los monitores de cabecera en la UCI —es decir, cuando algo está fuera de los parámetros de la frecuencia cardíaca, el pulso, la saturación de oxígeno y el trazado del EKG— en un solo mes en nuestras 80 camas de UCI, se activaron 2,5 millones de alertas. Y una enfermera que estaba entrevistando dijo: "Las alertas suenan todo el tiempo". Pregunté: "¿Qué te asustaría de que algo saliera mal?". Ella dijo: "Si no sonara ninguna alerta, estaría muy preocupada". Ese es un mundo loco, está al revés. La aviación ha sido muy reflexiva sobre la integración de la tecnología y es demostrablemente más segura de lo que solía ser. Pero ha habido algunos accidentes aéreos de alto perfil en los que la tecnología falló y los pilotos tuvieron que volar un avión sin su compañero tecnológico, y en un par de casos vívidos hicieron precisamente lo contrario. El más prominente fue el accidente de Air France frente a la costa de Brasil hace varios años —la tecnología falló, volaban a través de una tormenta, y el piloto tuvo que tomar una decisión sobre qué hacer e hizo precisamente lo contrario. Cuando entrevisté al Capitán Sully sobre esto, dijo que los pilotos estaban volando un avión con el que no estaban familiarizados, que básicamente es un avión sin la tecnología. La pérdida de habilidades ocurre muy rápidamente. En medicina, es algo de lo que debemos preocuparnos bastante, ya que la tecnología le proporciona diagnósticos o terapias preliminares. Podrías decir: "No me importa la pérdida de habilidades porque la herramienta es mejor que los humanos". Pero ¿qué pasa si no tienes acceso a ella? ¿Qué pasa si no funciona? ¿O qué pasa si te da malos resultados de vez en cuando? Uno de los radiólogos de nuestro lugar me contó sobre un paciente que tuvo una tomografía computarizada con IA y leyó el protector de mama como piel, y por lo tanto dijo que el paciente tenía nódulos pulmonares bilaterales, que resultaron ser sus pezones. Ese es el tipo de cosas que la IA a veces hará si no entiende el contexto. Tener a un humano mirando es útil, pero es algo en lo que tenemos que pensar mucho en nuestro mundo de formación, porque si simplemente le damos automáticamente la respuesta a nuestros aprendices, se volverán más tontos con el tiempo. No es su culpa. Tenemos que averiguar cómo evitar que eso suceda. Creo que podemos sentirlo nosotros mismos. Aquellos de nosotros que hemos recurrido fácilmente a estos modelos en los últimos años para explorarlos y comprenderlos —me he sorprendido recientemente pensando: "Oh, tal vez debería pasar un poco más de tiempo pensando en esto yo mismo", ya sea cuál es el nombre de esa canción, o quién era esa persona en esa película, o cuáles son la cuarta y quinta cosas en mi diferencial. Usted es un hombre mejor que yo. Antes de las quintas cosas en el diferencial, diría que sí. Pero "¿cuál es el nombre de esa canción?" —mi umbral para ir a GPT es cero. No voy a desperdiciar neuronas en esto. No. Te aplaudo por eso. Pero en cierto nivel —pensamos en nuestros pacientes mayores y en las habilidades cognitivas, en seguir involucrando su cerebro en todo, incluso en la novedad de aprender cosas nuevas, ya sea un nuevo idioma o algo, a medida que avanzas. Me preocupa un poco eso. Estaba el estudio clásico con las resonancias magnéticas cerebrales y los taxistas de Londres cuando llegó el GPS —ese es otro ejemplo de una pérdida de habilidades razonablemente útil. No tengo que volver a trazar el mapa. Y se podría argumentar que todos deberíamos saberlo porque ¿qué pasa si Google falla? Pero eso no vale la pena navegar por la estrella del norte. Así es como saldremos adelante. Navegar por la medicina es lo que todos estamos tratando de hacer en general. Usted es optimista, creo. ¿Cómo ve el próximo —es vertiginoso lo rápido que se mueve esto. Dando una charla un mes después sobre IA, tengo que cambiar un montón de diapositivas. Usted tiene una gran visión histórica en el sentido de que ha analizado diferentes generaciones de medicina. Así que estoy realmente interesado —estamos aquí, este es el futuro de la medicina. Sabemos dónde estamos hoy, y es un lugar que nos habría costado adivinar hace dos o tres años, ciertamente hace cinco años. Pero incluso mirando hacia adelante dos o tres años, ¿dónde cree que estamos y cuáles son las cosas que cambian y cuáles son las cosas que no? La gran historia de Jeff Hinton —en 2016 dijo que deberíamos dejar de formar nuevos radiólogos porque para 2021 ya no los necesitaríamos. Ahora no podemos contratar radiólogos lo suficientemente rápido. Así que claramente no somos buenos prediciendo el futuro. Sigue siendo genial en muchas cosas, aunque se ha convertido en algo así como un agorero sobre el futuro. Pero en términos de medicina, ¿dónde se ve usted en dos o tres años? Pasé mucho tiempo pensando en esto, entrevisté a más de 100 personas para intentar ser lo más inteligente posible, y llegué a un lugar muy optimista. Parte de ello se debe a que la tecnología es diferente a todo lo que teníamos antes, y parte de ello se debe a que el sistema está tan destrozado que creo que la necesitamos. Creo que, tal como vi lo que esta tecnología podía hacer, en muchos aspectos era un ajuste perfecto para muchos de los problemas —de hecho, muchos de ellos, como usted dijo, fueron creados por la tecnología. También soy un estudiante de política —fui estudiante de ciencias políticas en la universidad, es como pienso sobre el mundo. Parte de mi optimismo es que creo que los principales incumbentes en el sistema de salud son los médicos y, hasta cierto punto, las enfermeras. Si alguno de estos dos gremios estuviera preocupado por perder sus trabajos, se opondrían firmemente a esto y lo ralentizarían mucho. No creo que lo estén y no creo que deban estarlo. Creo que en el futuro previsible, las necesidades insatisfechas son tan profundas que la tecnología les permitirá hacer su trabajo mejor y estarán más felices. Vemos esto en radiología, donde los radiólogos dicen: "Traiganlo. Quiero estas cosas". Son inteligentes —saben que quizás dentro de 15 años no tengan trabajo, pero por ahora tienen que pasar el día. Así que soy optimista porque creo que estamos siendo más inteligentes sobre cómo implementarlo. Estamos empezando con lo más fácil, teniendo éxito antes de pasar a cosas realmente ambiciosas, y los incumbentes lo están acogiendo en su mayoría porque está resolviendo muchos de los problemas del sistema de salud. Una de las grandes preguntas es si ahorrará dinero. Somos muy buenos en atención médica para encontrar una manera de no hacer eso. Somos buenos gastando más dinero. Existe el argumento de que estas herramientas en este momento nos permiten facturar mejor y mantener nuestros precios altos. Pero se puede imaginar un mundo en el que las herramientas nos lleven a ofrecer una atención más rentable, reduciendo los costos administrativos de la medicina y toda la burocracia, y eso probablemente signifique algunos despidos en el departamento de facturación. Al hacer un balance, creo que es un balance positivo en lo que veo como el futuro previsible. Dentro de 15 años, sigo pensando que probablemente sea un balance positivo, pero ahora estás en un mundo que está tan lejos en el horizonte que cualquiera que especule está adivinando. Piensa en lo que podrías haber dicho sobre las redes sociales cuando se estaban lanzando. Nadie predecía lo que haría con la educación o con la salud mental de los adolescentes o con la política. Esto tendrá todo tipo de efectos que son difíciles de conocer, pero en un plazo de cinco años, creo que es bastante positivo. Bueno, gracias por guiarnos hacia el futuro. Gracias por escribir un libro tan convincente y muchas gracias por visitar Stanford. Siempre es un placer. Gracias. El programa anterior tiene derechos de autor del Patronato de la Universidad Leland Stanford Jr. Por favor, visítenos en med.stanford.edu.