Transcription
Puede que no te interese la política, pero la política se interesará en ti. Lo mismo se aplica a la inteligencia artificial, muchas veces más.
En esta charla que he visto recientemente, el expionero de Open AI, Ilia Sutkeber, advierte que a medida que la inteligencia artificial comience a automejorarse, su trayectoria podría volverse extremadamente impredecible e inimaginable, lo que podría dar lugar a un avance rápido más allá del control humano. Destaca que aunque este cambio ofrece beneficios profundos como la cura de muchas enfermedades, también representa riesgos monumentales para los que la humanidad debe prepararse con urgencia. Me he tomado el tiempo de escoger las mejores partes para que no tengas que escuchar la entrevista entera. Y además te la he traducido con A. Espero que la disfrutes.
La razón por la que no va a ser un discurso de convocatoria más convencional es porque hay algo un poco diferente sucediendo. En este momento todos ustedes se van, todos nos vamos en el momento más inusual de la historia. Y esto es algo que la gente podría decir a menudo, pero creo que esta vez es realmente cierto. Y la razón por la que es cierto esta vez es por la inteligencia artificial, ¿verdad? Obviamente, quiero decir, por lo que escucho, la inteligencia artificial de hoy ya ha cambiado lo que significa ser estudiante en un grado bastante considerable. Eso es yo, eh, especialmente yo. Eso es lo que yo siento y creo que es cierto, pero por supuesto el impacto de la inteligencia artificial va más allá de eso. ¿Qué pasa con el tipo de trabajo que hacemos? Bueno, está empezando a cambiar un poco de maneras desconocidas e impredecibles y algunos, algunos, algunos trabajos pueden sentirlo antes, algunos trabajos pueden sentirlo después. Con la inteligencia artificial de hoy puedes entrar en Twitter y ver lo que la inteligencia artificial puede hacer y lo que la gente dice. Y podrías sentir un poco de eso. Te pregunta, "Oye, ¿qué habilidades son útiles? ¿Cuáles serán menos útiles?" Entonces, tienes estas preguntas en marcha y así puedes decir que el nivel actual de desafío es cómo afectará al trabajo y nuestras carreras. Pero la cosa, el verdadero desafío con la inteligencia artificial es que es realmente sin precedentes y realmente extrema y va a ser muy diferente en el futuro comparado con la forma en que es hoy.
Como ya sabes, todos hemos visto la inteligencia artificial, todos hemos hablado con una computadora y una computadora nos ha respondido, lo cual es algo nuevo. Las computadoras no hacían esto en el pasado, pero ahora lo hacen. Entonces, hablas con una computadora y te entiende y te responde y también lo hace con voz y escribe algo de código. Es, es bastante loco, pero hay tantas cosas que no puede hacer bien y es tan deficiente, así que puedes decir que todavía necesita ponerse al día en muchas cosas, pero ese evocador es lo suficientemente bueno como para que puedas preguntarte. ¿Podrías imaginarte? Está bien, en algún número de años, algunas personas dicen que en tres, algunas personas dicen que en cinco, diez, se están lanzando números. Es un poco difícil predecir el futuro, pero lenta, pero seguramente o tal vez no tan lentamente. La inteligencia artificial seguirá mejorando y llegará el día en que la inteligencia artificial hará todas nuestras, todas las cosas que podemos hacer. No solo algunas de ellas, sino todas. Cualquier cosa que yo pueda aprender, cualquier cosa que cualquiera de ustedes pueda aprender, la inteligencia artificial también podría hacerla. ¿Cómo sabemos esto, por cierto? ¿Cómo puedo estar tan seguro, Siraten? ¿Cómo puedo estar tan seguro de eso? La razón es que todos tenemos un cerebro y el cerebro es una computadora biológica. Por eso tenemos un cerebro. El cerebro es una computadora biológica. Entonces, ¿por qué una computadora digital, un cerebro digital no puede hacer las mismas cosas? Esta es la frase que resume. ¿Por qué la inteligencia artificial podrá hacer todas esas cosas? Porque tenemos un cerebro y el cerebro es una computadora biológica. Y así pueden empezar a preguntarse, ¿qué va a pasar? ¿Qué va a pasar cuando las computadoras puedan hacer todos nuestros trabajos? ¿Verdad? Esas son preguntas realmente importantes, esas son preguntas dramáticas y ahora mismo como que empiezas a pensarlo un poco, dices, "Vaya, eso es un poco intenso." Pero en realidad es solo parte de la intensidad, porque lo que va a pasar, ¿qué, qué queremos el colectivo nosotros? usar estas ideas para hacer más trabajo, hacer crecer la economía, hacer investigación y desarrollo, hacer investigación en inteligencia artificial para que la tasa de progreso se vuelva realmente extremadamente rápida durante algún tiempo, al menos.
Estas son cosas tan extremas, estas son cosas tan inimaginables. Entonces, ahora mismo estoy tratando de llevarte un poco a ese espacio mental de este futuro realmente extremo y radical que la inteligencia artificial crea. Pero también es muy difícil de imaginar. Es muy, muy difícil de imaginar. Es muy difícil de interiorizar y realmente creer a nivel emocional. Incluso yo lucho con eso. Y sin embargo, la lógica parece dictar que esto muy probablemente debería suceder. Entonces, ¿qué hace uno en un mundo así? ¿Sabes? Hay una cita que es así. Uh, uh, uh. Que dice así. Dice, "Puede que no te interese la política, pero la política se interesará en ti." Lo mismo se aplica a la inteligencia artificial muchas veces más. Y en particular creo que simplemente al usar la inteligencia artificial y observar lo que la mejor inteligencia artificial de hoy puede hacer, obtienes una intuición. Obtienes una intuición y a medida que la inteligencia artificial continúe mejorando en un año, en dos años, en tres años, la intuición se volverá más fuerte y muchas de las cosas de las que estamos hablando ahora se volverán mucho más reales, se volverán menos imaginarias. Al final del día, ninguna cantidad de ensayos y explicaciones puede competir con lo que vemos con nuestros propios sentidos, con nuestros propios ojos y especialmente con la inteligencia artificial, la inteligencia artificial muy inteligente y superinteligente del futuro. Habrá cuestiones muy profundas sobre asegurarse de que digan lo que dicen y no pretendan ser otra cosa. Y estoy realmente condensando mucho en una pequeña cantidad de información aquí en tiempo aquí, pero en general al simplemente observar lo que la inteligencia artificial puede hacer, no ignorándolo cuando llegue el momento en que generes la energía necesaria para superar el gran desafío que la inteligencia artificial planteará. Y el desafío que plantea la inteligencia artificial en cierto sentido es el mayor desafío de la humanidad jamás. Y superarlo también traerá la mayor recompensa y en cierto sentido, te guste o no, tu vida va a ser afectada por la inteligencia artificial en gran medida. Así que observarla, prestarle atención y luego generar la energía para resolver los problemas que surgirán. Eso va a ser lo principal.
Esa fue la perspectiva de Ilia, pero para comprender el debate en toda su amplitud, quiero que veáis este fragmento de una entrevista con Eric Smith. En él aborda el impacto mucho más amplio que tendrá la inteligencia artificial en nuestras vidas en los próximos años. No os lo perdáis.
Bien, entonces creemos como industria que en el próximo año la gran mayoría de los programadores serán reemplazados por programadores de inteligencia artificial. También creemos que dentro de un año habrá matemáticos a nivel de posgrado que estarán en la cima de los programas de matemáticas de posgrado. Hay muchas razones para pensar que esto va a suceder. Este es el consenso. Vas. Bueno, eso es bastante interesante. Ahora, yo no puedo hacer ese tipo de matemáticas. Muy pocas personas pueden hacer esas matemáticas. ¿Cómo puede la computadora hacer esas matemáticas mejor que nadie? En cierto grado es porque las matemáticas tienen un lenguaje más simple que el lenguaje humano. Entonces, la forma en que estos algoritmos realmente funcionan es que están haciendo esencialmente predicción de palabras. Así que tomas, tomas una oración, sacas una palabra y luego aprende cómo volver a poner la palabra correcta. Esto se llama la función de pérdida y está optimizada para hacer eso a una escala que es inimaginable para nosotros como humanos. Entonces, haces lo mismo para las matemáticas, pero allí usas una conjetura y luego un formato de prueba a través de un protocolo llamado link. En programación es bastante simple, solo sigues escribiendo código hasta que pasas la prueba de programación. Entonces, curiosamente, una, la primera pregunta que siempre hago a los programadores es, ¿en qué lenguaje programas? Y la respuesta correcta es, no importa, porque estás tratando de diseñar para un resultado. No te importa qué código genera la computadora. Este es un mundo completamente nuevo, ¿de acuerdo? Así que eso es un año, ¿de acuerdo? ¿Qué sucede en dos años? Bueno, te acabo de hablar sobre el razonamiento y te hablé sobre la programación y te hablé sobre las matemáticas. La programación más las matemáticas son la base de todo nuestro mundo digital. Entonces, la evidencia y las afirmaciones de los grupos de investigación en Open AI y ONOPIC, etcétera, es que ahora alrededor del 10 o 20% del código que están desarrollando en sus programas de investigación está siendo generado por la computadora. Eso se llama mejora recursiva, es el término técnico. Entonces, ¿qué pasa cuando esto comienza a escalar? Bueno, mucho. Una forma de decir esto es que dentro de tres a cinco años tendremos lo que se llama inteligencia general, AGI, que se puede definir como un sistema que es tan inteligente como el matemático, físico o artista, escritor, pensador, político más inteligente, tal vez no al mismo nivel, un pero entiendes la idea o solo las industrias creativas y demás, pero imagina eso en una computadora. Bueno, eso es bastante interesante. Yo llamo a esto, por cierto, el consenso de San Francisco, porque todos los que creen esto están en San Francisco. Puede ser el agua. ¿Qué sucede cuando cada uno de nosotros tiene el equivalente al humano más inteligente para cada problema en nuestro bolsillo? Entonces, significa que tienes al mejor arquitecto cuando tienes un problema de arquitectura.
La otra cosa que está ocurriendo es el desarrollo de soluciones agénticas y los agentes se refieren a sistemas que tienen entrada y salida en memoria y aprenden. Un ejemplo aquí es que quiero, eh, comprar otra casa. Eh, me gusta Virginia, crecí en Virginia. Digo, aquí encuéntrame una casa en el área de Mcleanin. Mira, ese es un agente. Mira todas las reglas. Averigua qué tan grande puedo construir una casa. Ese es otro agente. Hacer la transacción para comprar el terreno. Ese es otro agente. Diseñar la casa con un arquitecto humano, ¿verdad? Pero más o menos ignorarlos para la mayor parte de la cosa. Pero tienen que aprobarlo y luego yo lo apruebo y luego encontrar al contratista, ¿verdad? Contratar al contratista, pagar las facturas y luego al final demandar al contratista por falta de rendimiento. Es de acuerdo. Ahora, acabo de darte la explicación más tonta posible. Acabo de describir cada proceso empresarial, cada proceso gubernamental y cada, y cada tipo de proceso académico en nuestra nación. Así que no solo los programadores se van a quedar sin trabajo, todos vamos a quedarnos sin trabajo. No, esa no es una consecuencia. Llegaré a eso. Pero la razón por la que quiero, quiero hacer el punto aquí es que en el próximo año o dos esta base se está consolidando y no, no vamos a detenerla. Es mucho más interesante después de eso, porque recuerda, las computadoras ahora están haciendo automejora, están aprendiendo a planificar y ya no tienen que escucharnos. Llamamos a eso superinteligencia o ASI, inteligencia superinteligente artificial. Y esta es la teoría de que habrá computadoras que sean más inteligentes que la suma de los humanos. El consenso en San Francisco es que esto ocurre dentro de seis años, solo basado en la escalabilidad. Ahora, para lograr esto, necesitas tener una cantidad enorme de poder. Estuve aquí ayer testificando sobre esto, ya sabes, y necesitamos como, cuando puedo hablar extensamente sobre cuántos gigavatios y cuántas plantas de energía nuclear y todo lo podemos hablar de eso por separado. Este camino no se entiende en nuestra sociedad. No hay lenguaje para lo que sucede con la llegada de esto. Escribí un libro sobre esto con Henry Kissinger llamado Génesis, que ya sabes, recomiendo, obviamente, porque lo escribí. Disponible, disponible en tus lugares habituales. Un Pero el punto importante es que esto está sucediendo más rápido de lo que nuestra humanidad, su o nuestra sociedad, nuestra democracia, nuestras leyes se adaptarán y hay muchas implicaciones. Por eso está subestimado. La gente no entiende lo que sucede cuando tienes inteligencia a este nivel que es en gran medida gratuita. Ese es el punto. ¿Cómo nos preparamos para ello? Bueno, empezamos hablando de ello. Y por cierto, sobre el tema de los trabajos, todos asumen que la automatización reemplazará, eliminará trabajos. Si miras la historia de la automatización desde los telares hace 300 años, los trabajos cambian, pero se crean más trabajos de los que se destruyen. En este caso, tendrías que convencerme de que esta vez es diferente. Si miras en Asia, donde por cualquier razón están eligiendo no tener hijos, su tasa de reproducción asiática está en el orden de 1.0 o menor. Entonces, están desapareciendo rápidamente. Así que los países asiáticos están automatizando muy, muy rápidamente las herramientas. que estoy describiendo permitirán que los pocos humanos que estarán trabajando muy duro en 30 o 40 años, si estas tendencias continúan, el resto de nosotros dependeremos de esos humanos trabajadores. Hará que su productividad sea mucho mayor.
Como veis, en 2022 se lanzó OPT, un proyecto que marcó un antes y un después. Ahora contamos con numerosos escritorios listos para usar, cada uno diseñado para adaptarse a las necesidades del equipo. No se trata solo de mobiliario, sino de crear un entorno donde la creatividad y la productividad fluyan sin obstáculos. Este enfoque nos ha permitido avanzar con paso firme hacia nuestros objetivos. Si has llegado hasta este punto del vídeo, dale like, suscríbete y nos vemos en el próximo vídeo.
Una forma de pensar en la inteligencia artificial que todos conocen es piensen en ella como de lenguaje a lenguaje. Haces una pregunta, la respuesta regresa. Si haces una pregunta, incluso puedes escribir código. Hoy en día los modelos son multimodales, así que, por ejemplo, puedes tomar una foto y decir, "Dime qué hay en esta foto." Eh, técnicamente hay APIs que permiten, eh, a una empresa llamar a una API de Open AI o Gemini o Antropic, eh, etcétera, y hacer la clasificación de la foto y así sucesivamente. Estas son todas tácticas que aumentan la inteligencia del sistema subyacente.
Hay tres cosas sucediendo ahora mismo este año, así que menos que el plazo que diste, pero son realmente interesantes. Una se llama ventanas de contexto infinitas. Ventanas de contexto infinitas significa que puedes seguir introduciendo la respuesta como la pregunta. Así te permite hacer una planificación paso a paso. ¿Sabes cómo construyo una casa? Bueno, lo primero es que tengo que encontrar un contratista. Encontré un contratista, tendría que hablar con ellos. Entonces, tengo que tener un arquitecto. ¿Cómo encuentro un arquitecto? Luego tengo que decirle al arquitecto qué hacer y luego que me diseñe la casa, se lo daré al arquitecto. Él puede rediseñarlo. ¿Sabes? Es una serie de pasos. Uh.
El siguiente se llama agentes y agentes es un término generalmente sobreutilizado y la mayoría de la gente piensa que los agentes actuarán esencialmente como fuentes de memoria. Así que un agente se puede entender como que está observando algo y cuando lo ve toma una acción. Hace eso sabiendo que ser basado en lo que ha visto. Las especificaciones de cómo funcionan los agentes están completamente indefinidas en la industria. Las empresas dominantes quieren tener sus propios agentes y no quieren que los agentes interactúen porque quieren control por razones obvias. Muchas personas piensan que habrá una tienda de agentes que descargarás, como vemos con las aplicaciones, pero no este año.
Y el tercero es texto a texto a código. Ahora, no sé ustedes, pero he programado y gestionado programadores durante más de 40 años y nunca hacen lo que quiero. Así que pueden imaginarse si la computadora le dijeran, "Escríbeme un programa para hacer esto." Y realmente escribe el código. En nuestro caso, el programa sería busca en toda la literatura, averigua quién está trabajando en política energética, quién tiene un trasfondo tecnológico o un rol en el que deben ser tecnológicamente alfabetizados. Identifícalos, clasifícalos, puntúvalos según sea nuestro objetivo. E y luego automáticamente invitar, enviarles una invitación, si dicen que sí, decir felicitaciones, si dicen que no, ¿por qué no? y llámalos y con una voz sintética diles que son idiotas por no venir. Ese es el tipo de programa que escribiría. Gracias a Dios no estoy haciendo eso, pero, pero ves lo fácil que sería automatizar tareas. Así que eso es, creo, el primer paso.
El siguiente paso no es tan claro. Hay, hay una especie de grandes concursos, hay un gran conjunto de concursos en marcha ahora mismo que están a una escala inimaginable. Que tienes a los tres grandes en los Estados Unidos, Anthropic, que está alineado con Amazon, Gemini, obviamente Google, Open AI y Microsoft. Y supongamos que todos lo hacen realmente bien. Parece que lo están haciendo realmente bien. Puedo hablar sobre cuáles son sus problemas, pero fundamentalmente lo están haciendo bien. Tienes a Facebook que ha elegido el camino de código abierto para el modelo de 400,000 millones. Tiene muchas implicaciones estratégicas, ¿verdad?, que podemos discutir. Boom. Todos estos están compitiendo por el mejor razonamiento, las mejores respuestas y luego las mejores analíticas predictivas, los mejores clasificadores de imágenes y el mejor multimodal. Esa tecnología luego se difunde o el término técnico es destilada en modelos más especializados y creo que eso es lo que verás en los próximos uno o dos años.
No mencionaste la inteligencia general artificial. Primero para aquellos de nosotros que no estamos necesariamente un totalmente al tanto de la IA, qué es y dónde estamos. Hay múltiples definiciones de IG, pero el término ha existido durante 15 años. La idea básica es, ¿cuál es el punto en el que tienes la flexibilidad de un humano en tu sistema de inteligencia? Entonces, una forma de entenderlo hoy es que estos se llaman enfoques de IA estrecha, aunque ciertamente no son estrechos. Básicamente son iniciados por un humano. ¿En qué punto, es la pregunta, puede la computadora generar su propia función objetivo? ¿Su propio objetivo? ¿Y cómo surgirá eso? Uh, lo que yo llamo la escuela de San Francisco, porque todos están en San Francisco. Uh, que es un conjunto separado de cuestiones y todos se hablan entre sí y todos se han convencido de que dentro de dos a tres giros de los sistemas, ah, un giro es aproximadamente 18 meses, se llega a AGI, es definen la AGI como una inteligencia mayor que la suma de la inteligencia humana. Personalmente creo que eso es probable, pero no en tres años, ¿no? En ¿Cuál es el plazo, crees?