Transcription
Es la compañía que más ha crecido en menos tiempo de la historia, de 0 a 40,000 millones en 5 años. Está aniquilando el valor en bolsa de las grandes empresas de software, una con cada nuevo producto que lanza al mercado.
Se dedica esta empresa de la que voy a hablar a la inteligencia artificial y está dirigida por dos hermanos de origen italiano, Daniela y Darío Amodei. Ayudaron a crear ChatGPT, el producto que todos consideramos sinónimo de la inteligencia artificial. Estaban en OpenAI hasta que decidieron salir de esa empresa porque no se fiaban de su CEO, de Sam Altman. No confiaban en lo que ese hombre haría con tanto poder en sus manos.
Cuando crearon Claude, su propio modelo de inteligencia artificial, le dieron a una madre para que se ocupara de educarle en unos valores y han recogido esos valores en una Constitución. Se han enfrentado al gobierno de Donald Trump, que les considera una amenaza para la seguridad nacional. Han creado un modelo tan poderoso, el Mizo, que no se atreven a ponerlo en nuestras manos. Y lo último, han participado en la presentación de una encíclica con el Papa.
¿Qué empresa es? Es Anthropic. En este vídeo te cuento quiénes son, cómo piensan y cómo han tomado el mando de la IA. Dos hermanos a los que muchos consideran los buenos del Juego de Tronos de la Inteligencia Artificial. Lo son.
Anthropic no es una compañía de inteligencia artificial muy conocida por el común de los mortales. Tampoco lo es un modelo de inteligencia artificial, Claude. Si tú preguntas por la calle a la gente por el modelo de inteligencia artificial que usa de modo habitual, muchos, la inmensa mayoría te hablarán de ChatGPT. Algunos te hablarán de Gemini o de Google y una minoría también te hablará quizá de Grok porque son fans de X y de Elon Musk, pero de Anthropic casi nadie te habla. Sin embargo, esta compañía en el último año se ha alzado al liderazgo de la tecnología puntera y también lidera la conversación que hay en este momento sobre inteligencia artificial en el mundo.
Anthropic nace como un cisma de los muchos que ha habido dentro de OpenAI, la empresa que hace ChatGPT. Los hermanos Amodei, Darío y Daniela, de los que vamos a hablar en profundidad, eran amigos y socios de Sam Altman, el CEO y fundador de OpenAI. A día de hoy se odian hasta el punto de que en un reciente encuentro que ha habido en la India de líderes de inteligencia artificial, todos los líderes se unieron sus manos, menos Darío Amodei y Sam Altman. Lo estáis viendo en esta imagen en este momento.
Tradicionalmente, los cismas es un concepto que está adscrito a las religiones, en concreto a las iglesias. Y un cisma se produce muchas veces porque hay muchos puntos en común, pero hay algunas divergencias que son importantísimas, al punto de que esas divergencias se hacen grandísimas y provocan la separación de un núcleo dentro de una iglesia o dentro de una religión. Y en el caso que nos ocupa hoy es relevante hablar de cismas y hablar también de esas diferencias de punto de vista, en concreto en el caso que nos ocupa hoy sobre la seguridad de los modelos de inteligencia artificial y el futuro de la humanidad. Pues tenemos a dos grupos que tienen una visión muy parecida en muchas cosas, pero una visión absolutamente opuesta en los detalles concretos de qué significa esa cosa, ¿no? Es lo que Freud llamaba el narcisismo de las pequeñas diferencias.
El nombre de la compañía, Anthropic, ya nos está diciendo algo importante y es: procede del término griego *anthropos*, hombre. Con lo cual, el centro de la filosofía de esta compañía y de este laboratorio de inteligencia artificial va a ser el hombre, la humanidad.
Para entender la historia de Anthropic y estas disputas que han provocado cismas dentro de los laboratorios de inteligencia artificial, nos tenemos que ir a la ciudad de San Francisco y entender a fondo qué pasa allí. La ciudad de San Francisco y la Bay Area, el área de la bahía, la región de la bahía de San Francisco, es un lugar muy conocido por ser un enjambre de ideas de vanguardia en todos los sentidos. Allí ha nacido el transistor que daría lugar a los chips. Allí han nacido muchas de las drogas sintéticas. Nació el movimiento hippie. Allí se produjo el verano del amor en el año 67 o 68, no recuerdo bien. Allí también ganó mucha fuerza el movimiento LGBT. De allí nacieron las protestas contra la guerra de Vietnam en la Universidad de Berkeley. De allí salieron empresas como Apple, como Google, como Meta, etcétera. O sea, es un mundo en constante evolución.
¿Y por qué pasa todo esto en San Francisco? Por una combinación de factores. Allí tenemos primero un puerto de entrada para muchos asilados que venían de Asia, de las guerras que hubo en Asia en el siglo XX. Tenemos también una presencia muy importante del ejército americano y de la NASA. Y tenemos dos grandes universidades, una conocida por su capacidad de captar talento científico y la otra más conocida quizá por sus ideas progresistas. Hablamos de la Universidad de Stanford y de la Universidad de Berkeley.
La zona de la bahía de San Francisco es la cuna de Silicon Valley, un lugar donde hay un capital ingente buscando ideas nuevas y que se convierte, por tanto, en un polo de atracción de talento de todo el mundo. San Francisco, por tanto, es el clima ideal para que el fenómeno de la IA naciera. Gente con mucho talento y muy buena formación, universidades muy punteras en todos los ámbitos, una cantidad increíble de dinero disponible para ser apostado en proyectos que pueden salir o que pueden no salir, y una cultura muy experimental, una cultura de vanguardia en la que todas las ideas son posibles y en la cual hay debates, claro, como tienen la capacidad de llevar a cabo las ideas que van a llevar a cabo, pues hay debates increíblemente elevados sobre las consecuencias que tiene cualquier invento que sale de allí.
Ya tenemos el escenario en el que se va a desplegar nuestra historia, pero nos acercamos en concreto a la avenida del Año. En una casa allí viven tres personas: Daniela Amodei, su novio Holden Karnofsky y Darío Amodei. ¿Cuándo ocurre esta historia? Esta historia ocurre a mediados de la segunda década de este siglo. En ese punto, Darío Amodei trabaja en Google Brain, que es un laboratorio originario de Google que está trabajando en el ámbito de la inteligencia artificial. Daniela es directora de operaciones de una startup muy conocida en el valle que se llama Stripe y Holden es uno de los primeros líderes del movimiento altruismo efectivo. Este movimiento va a ser muy importante en toda esta historia.
Los hermanos Amodei son hijos de un artesano dedicado a la piel que emigra desde Italia y una madre americana judía de Chicago que trabaja en las bibliotecas de la ciudad de San Francisco. Desde que es muy pequeñín, Darío muestra una capacidad increíble con las matemáticas y Daniela más bien tira por el lado creativo de la música y de las letras. Una anécdota muy curiosa es que desde que son muy pequeños, estos dos hermanos tienen una conciencia ética muy profunda y un deseo que se han inculcado sus padres en ellos de ayudar a la humanidad. Y cuentan que cuando eran pequeñitos, todos sus juegos al final consistían en salvar a la humanidad.
El padre de los hermanos Amodei fallece en plena adolescencia de una enfermedad rara que entonces no tenía curación, ahora sí la tiene. Y Darío decide estudiar física teórica. Una vez que se enfrenta a los estudios de física teórica, le parecen demasiado teóricos, pero en la universidad conoce a un profesor que está obsesionado con una cuestión, que es cómo aprende el cerebro humano. A los que seguís este canal, esta historia os sonará porque tanto Geoffrey Hinton, uno de los inventores de la inteligencia artificial, como Demis Hassabis, ahora en Gemini, un premio Nobel también, tienen esa obsesión por entender mejor el cerebro humano. Entonces, después de terminar la carrera de física, él se va a Princeton y hace una tesis doctoral sobre computación biológica.
Daniela estudia inglés y artes liberales y en toda su vida, según ella cuenta, ha buscado actividades con un propósito muy claro. Empezó trabajando para algunas ONGs en el ámbito de la cooperación, luego estuvo trabajando en algunas campañas con candidatos del partido demócrata y finalmente se dio cuenta de que para ayudar a la humanidad y para servir mejor necesitaba trabajos más de tipo de gestión, por así decirlo, y por eso se incorpora a Stripe y allí llega a ser directora de operaciones.
En Stripe, Daniela conoce a Greg Brockman, un personaje muy influyente en la historia de la inteligencia artificial. Se hacen amigos en Stripe y ella le invita a su casa y Greg Brockman conoce a Darío Amodei. Este encuentro será muy importante en la historia de la IA. Y podemos imaginar los debates que tenían en esa casa hablando sobre el futuro, la inteligencia artificial, las consecuencias dramáticas que puede tener este invento, etcétera. O sea, imaginaros este cóctel: científicos, tecnólogos, el novio de Daniela, que está muy metido en un movimiento del que luego comentaré algún detalle más, pues debían ser conversaciones explosivas.
Un día Brockman invita a Darío Amodei a una cena en el hotel Rosewood en Palo Alto en el que van a participar figuras como Elon Musk y Sam Altman. Darío acepta la invitación, asiste a esa cena y como fruto de esa cena le proponen fundar OpenAI. Y a él le parece que Elon Musk es un fanfarrón y que aquello no es más que un grupo de millonarios o billonarios que quieren hacer algo en el ámbito de la IA y no acepta la propuesta. Pero pasado un tiempo, al ver las personas que han sido reclutadas por OpenAI y cómo OpenAI se configura como una entidad benéfica, una ONG que va a proteger a la humanidad de las consecuencias de la IA haciendo desarrollos con un enfoque muy claro en seguridad, él decide sumarse al proyecto y más tarde, atraída por Greg Brockman, el CTO de Stripe, Daniela se incorpora también a la compañía.
¿Y qué hace Daniela en OpenAI? Al principio dirige equipos de desarrollo de investigación. En un momento dado es la directora de recursos humanos y acabará su carrera en OpenAI como vicepresidenta de seguridad y de políticas. ¿Y quién faltaba de los que viven en aquella casa? Holden Karnofsky, que se incorpora a OpenAI como miembro del Consejo de Administración.
¿Y cómo es el ambiente en esta época de OpenAI? Pues es la combinación de grandes trabajos, grandes proyectos de investigación y grandes desarrollos, debates intelectuales sobre el futuro de la humanidad que os podéis imaginar con este cóctel de personalidades y muchas crisis internas por choques emocionales, lo que siempre ocurre en cualquier organización.
Os adelanté que hablaríamos sobre este movimiento del altruismo efectivo, que es un movimiento que nace en la Universidad de Oxford, pero que tiene una implantación muy grande en Silicon Valley. ¿Qué es lo que nos dice el movimiento del altruismo efectivo? Lo que hace es buscar las acciones más efectivas para solucionar los grandes problemas de la humanidad, pues ya sea el hambre, curar enfermedades, etcétera. Y la pregunta que se hace este movimiento es: ¿cómo puedo usar mejor? ¿Cuál es el uso más óptimo de mis recursos, de mis talentos, de mi dedicación, de mi tiempo para ayudar a solucionar los grandes problemas de la humanidad?
Entonces, de esta filosofía, que es una filosofía en el fondo racionalista, tiene un impacto muy grande en Silicon Valley y de ahí deriva un segundo movimiento que es el *doomismo*. El altruismo efectivo se hace muchas preguntas sobre el futuro y busca la eficiencia absoluta en el desarrollo de la humanidad a lo largo del tiempo. Y eso, obviamente, en un momento dado implica hablar de inteligencia artificial y esto da lugar a una posición ideológica llamada *doomismo*, de *doom*, de las consecuencias más maléficas que podamos imaginar de la IA. Y eso hace originar en Silicon Valley debates que vistos desde fuera nos parecerían ridículos, pero que en aquel momento tienen mucha influencia.
En el año 2017, Darío hizo una aportación muy importante al desarrollo de la inteligencia artificial, lanzando un post en el blog oficial de OpenAI que se llama "The Big Blob of Computation", como la gran masa de computación. ¿Y qué sostiene esta hipótesis? Sostiene la verdad de lo que ha pasado: que los modelos de inteligencia artificial crecerían mucho en capacidad conforme aumentara la escala de los datos que se le imputan y las capacidades de computación que se usan para entrenar esos modelos. Esa predicción de Darío Amodei sigue vigente a día de hoy.
¿Y cómo era el ambiente interno de estos años y qué es lo que desencadena la salida de los hermanos Amodei junto con otras cinco personas de OpenAI? Pues el ambiente interno, a tenor de todos los testimonios que tenemos, algunos de los cuales han aparecido en el juicio reciente de Elon Musk contra OpenAI, el ambiente es nefasto, de una tensión muy grande por primero una figura como Sam Altman, que es capaz de decir dos cosas contrarias a dos grupos de personas, hablando primero con unos y luego con otros, o sea, que es una persona que por lo visto tiene una cierta dificultad con decir la verdad en toda situación y momento. Y en segundo lugar, Greg Brockman, el amigo de Daniela, es una persona con la que, según todos los testimonios, es muy difícil trabajar y Darío choca con él. O sea, que como ocurren todas las divisiones en todos los cismas, hay un componente emocional y relacional y hay un componente intelectual.
El componente emocional es el choque de Darío y que no se fían ni ella ni él, se fían ya de Sam Altman. Y el argumento intelectual que usan es que progresivamente, conforme OpenAI va recibiendo inversiones de Microsoft y crea una división de OpenAI comercial dedicada al lanzamiento y desarrollo de productos, pues ellos van viendo que la prioridad de OpenAI cada vez más es económica o comercial y cada vez esa misión de salvaguardar a la humanidad de la IA va perdiendo protagonismo y por eso a finales de 2020 deciden marcharse de allí. En una primera fase se llevan a otras cinco personas que luego conoceremos, pero muy rápidamente empezaron a sumarse otros investigadores procedentes de OpenAI al proyecto Anthropic.
¿Y quiénes son los inversores iniciales de Anthropic? Contaron con el dinero de Dick Smith, CEO de Google. Contaron con dinero también de Demis Hassabis, que es un dato que se ha conocido no hace mucho tiempo, e invirtieron 125 millones de dólares diversas entidades vinculadas con el altruismo efectivo. Y es entonces también cuando Anthropic decide incorporar a una filósofa llamada Amanda Askell. Amanda Askell es también parte de ese movimiento del altruismo efectivo porque su exmarido es William MacAskill, que es uno de los fundadores del movimiento.
¿Y por qué incorporan a una filósofa a la empresa? Porque quieren que ella sea la mamá de su modelo de inteligencia artificial. A ver, una pausa muy breve para hablaros de algo que yo creo que vale la pena y que va a modificar la forma de trabajar de muchas empresas y de autónomos con la IA. ¿En qué consiste? Pues ahora mismo, cuando usamos, abrimos ChatGPT, copiamos datos, pegamos los resultados que nos ha dado ChatGPT, los volvemos a meter en nuestra hoja de cálculo o en nuestro CRM y se nos va la mañana haciendo de mensajeros entre la IA y las herramientas más comunes de nuestro negocio. Por eso me parece muy interesante lo que acaba de hacer Odoo, el sponsor de este vídeo. Odoo es la plataforma todo en uno con la que gestionas tu negocio: tu CRM, tus ventas, facturación, contabilidad, el inventario, los recursos humanos, tu web. Tiene más de 80 apps conectadas entre sí. ¿Y qué han hecho? Pues ahora han metido la app de IA dentro de la plataforma. Es una IA, por tanto, que ya conoce toda tu información, que ya conoce todos tus datos. Le pides que te haga un análisis de las oportunidades por país y por etapa y te lo hace. Incluso puedes pedirle en qué tipo de gráfico quieres verlo. Le pides el resumen de tus productos más vendidos y lo tienes. Te redacta una respuesta a un email, graba audios de tus reuniones, atención, las transcribe y te saca el acta. Y tú eliges el modelo con el que quieres trabajar: ChatGPT, Gemini, Claude, etcétera. De tal manera que lo que antes te llevaba una tarde, ahora son segundos. Pruébalo gratis 15 días con el enlace de la descripción y después serán 1190 € al mes por usuario y eso te da acceso a todo, o sea, tres cafés. Y si solo quieres empezar con una de sus muchas apps, lo puedes hacer sin ningún tipo de coste con su plan gratuito. Y ahora volvemos al vídeo.
Si hay una empresa de inteligencia artificial que ha antropomorfizado a su modelo de lenguaje, a Claude, o sea, que ve a Claude como una parte más, como un ser más de la empresa, es Anthropic. Y esto se refleja tanto en el nombre de Claude como en el modo en el que los directivos de Anthropic hablan de su modelo de lenguaje. Por eso, desde el principio de la compañía, Anthropic encomendó a Amanda Askell, a la filósofa *in-house* que tienen, que desarrollara la personalidad de Claude desde un punto de vista humano: cómo reacciona a las peticiones que se le hacen, cómo procesa esas peticiones, los sentimientos que tiene ese modelo de inteligencia artificial, todo eso es la personalidad de Claude. Y Anthropic, además, es la única compañía que hace estudios sobre el bienestar de Claude. Es alucinante.
Si Anthropic ha decidido darle a Claude una personalidad y ponerle una mamá que nutra esa personalidad y que vaya educando a esa inteligencia artificial para que nos sirva mejor, es porque tiene muy dentro el concepto de la seguridad. Claro, estaremos de acuerdo en que cuando una empresa de inteligencia artificial habla de la *AI Safety*, de la seguridad de la IA, el término en sí es confuso. ¿Seguridad para quién? ¿Seguridad para el modelo? ¿Seguridad para el mundo? ¿Seguridad para el usuario? ¿Seguridad de qué? ¿Del algoritmo?
Pues bien, Anthropic, cuando habla de *safety*, en realidad está hablando de dos categorías distintas. Y esas dos categorías distintas con las que entienden el término seguridad configuran el sistema de gobierno de sus modelos de lenguaje. En inglés tienen dos palabras donde nosotros tenemos una. Ellos hablan de *safety* y de *security*, y ambos conceptos apuntan a problemas muy diferentes.
La *safety* del modelo Claude afecta a los resultados que ofrece Claude cuando se le hacen peticiones, como, por ejemplo, montar un arma biológica, diseñar un esquema de fraude a nivel masivo o ideas para suicidarse, ¿vale? Entonces, cuando alguien pide a Claude que lleve a cabo esas acciones, se activa la *safety* a través de filtros en el despliegue del modelo y a través de negativas del modelo a hacer caso a un usuario cuando le pide ayuda para eso.
La *security* para Anthropic es otra cosa. La *security* protege al modelo en sí, protege los pesos que tiene el modelo, es decir, todas las conexiones neuronales convertidas en números que configuran la inteligencia de Anthropic. ¿Y las protege de quién? Pues las protege de actores estatales o de grupos muy sofisticados de hackers que intentan robar los pesos del modelo para reproducir el modelo en un entorno en el que no tenga ningún tipo de salvaguarda y así poder llevar a cabo acciones maléficas, ¿vale? Pues la *security* blinda al modelo de ese tipo de acciones por parte de actores externos.
Una buena metáfora para entender estos conceptos sería aplicarlos a un automóvil, por ejemplo. Los airbags, los frenos configurarían la *safety* del automóvil y la *security* se aplicaría a la idea de blindar el automóvil para que nadie pueda robártelo y modificarlo.
Pero lo más interesante de esta historia de Anthropic es el sistema de gobierno tanto de la empresa como de sus productos que han diseñado. El documento que define el carácter de Claude es la Constitution AI, efectivamente, una IA constitucional que el modelo lee durante la fase de entrenamiento. Esta constitución de Anthropic tiene dos puntos fundamentales: una jerarquía de prioridades y unos límites duros.
La jerarquía de prioridades establece el orden de los criterios con el cual el modelo tiene que juzgar una petición. ¿Y cuáles son esas prioridades? Primero, la seguridad. Segundo, la ética humana. Tercero, las normas de Anthropic y cuarto, la utilidad solicitada por el usuario. De tal forma que cuando hay un conflicto entre estos criterios, el último criterio es la utilidad o la funcionalidad del modelo. Por ejemplo, si yo le pido a Anthropic que me dé ideas para fastidiar a una persona a través de una misiva, Anthropic sigue un proceso en el cual, en el orden de prioridades, lo último es darme servicio, o sea, ser útil para mí en ese propósito. ¿Por qué? Porque tiene otros criterios que le dicen que no lo haga.
Y luego están los límites duros del modelo: la negativa absoluta de Anthropic en la contribución o en la ayuda a un usuario que esté buscando hacer armas de destrucción masiva, armas biológicas, de un usuario que esté buscando generar pornografía infantil o de un usuario o de un grupo de usuarios que estén intentando llevar a cabo una concentración de medida de poder en una nación o en una democracia. Nadie se puede saltar los límites duros del modelo, ni siquiera las personas que trabajan en Anthropic.
Y antes os decía que esta Constitución ha sido elaborada durante mucho tiempo con el *input* de organizaciones y de personas muy distintas. Hay algo curioso que notar, y es que a mediados de marzo se celebró una reunión en la que Anthropic pidió ideas a 15 líderes cristianos sobre el comportamiento ético del modelo y luego os voy a contar algún detalle más sobre esta reunión.
Quien haya seguido de cerca el desarrollo de la inteligencia artificial estará acostumbrado a escuchar términos muy dramáticos, muy catastróficos sobre el futuro de la humanidad con la IA. No solamente porque actores maléficos puedan usar estas capacidades, sino porque las propias máquinas, los propios superordenadores, terminen acabando con la humanidad para conseguir los objetivos que la propia humanidad les ha dado. Bien, vale.
Pues Anthropic decidió en su día hacer un catálogo de todas las calamidades que pueden llegar a ocurrir con la inteligencia artificial y conforme a eso ha establecido un sistema de gobierno interno para sus ingenieros, de tal forma que la compañía nunca llegue a desarrollar sistemas catastróficos para la humanidad sin una serie de garantías. Y lo ha formalizado, lo ha puesto por escrito y ha hecho público a través de un documento que se llama la *Responsible Scaling Policy*, o sea, la política de crecimiento responsable de sus modelos. Y cuando escuchas a los ingenieros de Anthropic y al equipo fundador, están constantemente hablando de esta política.
¿Qué es lo que dice Anthropic? Ha establecido una serie de niveles de seguridad que van del uno al cinco. Esos niveles de seguridad corresponden a riesgos y establecen una serie de medidas para mitigar esos riesgos. A estos niveles les llaman ASL, AI Safety Levels, niveles de seguridad de la IA, y están inspirados en los niveles de bioseguridad. Y a quienes seguís de cerca el tema de la conducción autónoma, os recordará los niveles de seguridad que se han establecido en el mundo para el desarrollo de esa tecnología.
Cada nivel exige medidas de seguridad concretas en los dos conceptos de los que hemos hablado, en la *safety* y en la *security*. En el ámbito de la *safety*, establece filtros más estrictos y también periodos de evaluación de los riesgos que contiene un modelo. Y lo que respecta a la seguridad interna, esta *policy* establece qué controles humanos tienen que ocurrir para hacer modificaciones a los pesos del modelo. Y esos controles van desde la aprobación por parte de dos personas hasta una serie de más de 100 controles de seguridad. Y hay unos límites a los cuales nadie de Anthropic puede hacer ninguna modificación a esos modelos en el caso de que entrañen riesgos sistémicos muy grandes. Y la RSP también incluye medidas para el blindaje de los modelos. Cuando haya alguien que intente llevar a cabo cambios en la sociedad que impliquen una modificación muy grande de las dinámicas de poder o cuando haya actores estatales que intentan copiar el modelo.
Todas estas medidas suenan muy bien sobre el papel. Pero, ¿qué ha pasado cuando Anthropic se ha enfrentado a la realidad de tener que tomar decisiones concretas sobre qué hacer con sus productos? Vale, pues hemos tenido recientemente dos episodios que nos han dado bastante información sobre esto: el lanzamiento de un modelo que se llama Claude-3 Opus y el enfrentamiento de Anthropic con la administración Trump, en concreto con el departamento de guerra. Lo vamos a ver a continuación.
Son los hermanos Amodei y la organización Anthropic de *good guys* de esta película. Son los buenos de la película. Bueno, pues el compromiso ético de una persona o de una organización se mide en función del coste que tiene ser bueno. Por ejemplo, si uno está en un día muy tranquilo, muy calmado, no tiene prisa, y se encuentra una señora en un paso de cebra, una señora mayor que le pide ayuda, pues es relativamente fácil ser bueno, ¿vale? porque uno no tiene prisa, está en una situación muy calmada, pero es muy distinto si en ese momento están cayendo billetes del cielo y hay mucha gente corriendo a los billetes, entonces ahí es donde se pone a prueba tu ética. O sea, que ser bueno es muy fácil hasta que ser bueno te empieza a costar dinero o disminuye tu posición social en una organización. Y ser bueno es mucho más difícil cuando tienes en frente o en contra a todo un poder estatal como el gobierno de Estados Unidos.
En el caso de Anthropic, por ejemplo, la compañía se ha negado, por una decisión de los fundadores, a prestar cualquier tipo de servicio a regímenes totalitarios. Eso es un coste económico evidente para la compañía, ¿vale? ¿Cuál es la historia de esta polémica con Donald Trump y con su gobierno y con su departamento de guerra? Anthropic ya trabajaba para la administración americana en la época de Joe Biden, pero lo hacía con dos condiciones, y esas dos condiciones derivan directamente de la construcción de Claude: Claude impide que sea utilizado como una herramienta de vigilancia masiva de la población y Claude impide también que pueda ser utilizado como parte de un sistema de gestión de armas autónomas.
Cuando llegó el momento de renovar ese contrato en febrero de este año con la administración Trump, en este caso, la administración Trump pidió a Anthropic eliminar esas dos cláusulas. Ellos querían trabajar, el ejército quiere trabajar sin ningún tipo de limitaciones, ¿vale? Y Darío se negó, Anthropic se negó en redondo. Y claro, no es una decisión fácil porque en una situación de emergencia nacional el Estado tiene derecho a absorber las herramientas de las que tiene un país, las empresas, su industria, su minería, etcétera. Eso parece una cuestión bastante de sentido común, pero esta compañía ha decidido no aceptar las condiciones de su ejército. Es una cosa muy fuerte que ha generado muchísima polémica.
Ante la negativa de Darío Amodei de seguir prestando servicio al ejército, Donald Trump decidió catalogar esta empresa como una empresa de riesgo para la seguridad nacional. Es decir, al nivel al que están empresas chinas como Huawei o otras compañías de Rusia que trabajan o podían trabajar en el pasado para el ejército americano, ¿vale? O sea, que los calificó como de riesgo, ¿vale? Y eso le ha costado bastante dinero a Anthropic porque ha tenido que desaparecer o ha tenido que cerrar los contratos que tenía con distintos ministerios del gobierno.
Y la segunda prueba a la que se ha expuesto Anthropic ha sido el lanzamiento de su modelo Claude-3 Opus. Ese modelo no ha llegado al mercado y Anthropic ha decidido dejarlo a un centenar de instituciones, entre otras las grandes compañías tecnológicas, algunos bancos en Estados Unidos, para que evalúe los riesgos que supone. Yo en su momento hice un vídeo sobre esta polémica y tengo que reconocer que me equivoqué en mi diagnóstico porque dije que aquello podía ser *marketing* del pánico con los datos que tenía entonces y atendiendo a la historia de Darío Amodei y de algunas decisiones que había tomado estando en OpenAI, pues me parecía que podía ser víctima de ese impulso por meter miedo a la gente para seguir creciendo. Vale, pues me equivoqué.
¿Y por qué? Porque se ha detectado más de 10,000 vulnerabilidades. O sea, Opus es un modelo muy potente a la hora de detectar brechas de seguridad en cualquier sistema. Y tenemos el caso, por ejemplo, de Mozilla, la fundación que gestiona Firefox, que ha detectado un montón de brechas de seguridad y lo veis en este gráfico, como en el último mes ha detectado más brechas de seguridad que en el último año, ¿vale? También ha habido investigadores que utilizando Opus han conseguido quebrar el sistema operativo del Mac. Ha habido también bancos que, alertados por los riesgos que han visto en sus propios sistemas, han decidido contárselo al gobierno de Estados Unidos, a la Casa Blanca, y han decidido contárselo a algunos gobiernos europeos, ¿no? O sea, que el tema es muy serio y todavía no ha terminado el periodo de 3 meses de evaluación de este modelo y ya a partir de ahí se decidirá si sigue su curso, si se lanza al mercado o no se lanza al mercado. Con lo cual ahí tengo que reconocer mi error y tengo que reconocer el nivel de prudencia que los hermanos Amodei tuvieron en cuenta a la hora de tomar una decisión como la de cancelar o suspender temporalmente el lanzamiento de un modelo.
Y el elefante en la habitación es si Anthropic está utilizando su relación con entidades y personas cristianas, en concreto con la Santa Sede, con el Vaticano, para mejorar aún más su imagen y vender su producto a los católicos. Vale, pues sobre este tema tengo que reconocer que dispongo de información un poquito privilegiada por mi relación profesional con la Santa Sede, pero sí me gustaría referirme a cómo ha sido la génesis de esta relación entre Anthropic y la Santa Sede.
¿Y qué es lo que explica? Que hubiera uno de los fundadores de Anthropic llamado Chris Olah, que es el responsable de la integridad del modelo, o sea, de intentar entender cómo funciona el modelo por dentro, porque esa persona estaba en la presentación de una encíclica del Papa llamada *Laudato Si'*. Pues bien, abordaremos toda esta cuestión del Papa y de Anthropic y del Papa y la IA en un vídeo muy próximo. O sea, que si te interesa este tema, suscríbete para estar muy atento a cuando surja ese vídeo.
El Vaticano, desde hace cosa de 10 años, está estableciendo contactos con Silicon Valley para ofrecerse a la hora de inspirar a los laboratorios de inteligencia artificial a tomar decisiones de tipo ético o que contribuyan al desarrollo de la persona. Una consecuencia de esta relación ha sido que a mediados de marzo se produjo una reunión en la sede de Anthropic en San Francisco entre Amanda Askell y otra serie de personas de Anthropic que se dedican a cuestiones que tienen que ver con la personalidad del modelo. Decidieron llamar a 15 personas de distintas confesiones cristianas porque querían específicamente recibir *feedback* del ámbito cristiano. Y esa reunión, como digo, se produjo y en esa reunión se plantearon una serie de cuestiones de fondo.
Una cuestión de fondo tiene que ver con el tratamiento de personas que están en una situación especialmente vulnerable y serían preguntas que corresponden al ámbito del acompañamiento espiritual. Por ejemplo, ¿qué puede decir Anthropic o Claude a una persona que está pasando un duelo? ¿Qué puede decir Claude a una persona que está autolesionándose o a una persona que está pasando por una crisis matrimonial, etcétera, ¿no? O sea, que se abordaron este tipo de cuestiones.
Una segunda gran cuestión que se planteó respondía a qué hará Claude amenazada porque vaya a ser apagada. Vale, estas preguntas que se hacen los tipos de la inteligencia artificial. Y un tercer bloque de cuestiones que se abordaron tienen que ver con la posibilidad de que ante determinadas emociones que aparecen dentro del modelo en las que no ha sido entrenado, si eso conllevaría que el modelo está ganando una percepción de autoconciencia. Vale, son cuestiones muy, muy de fondo. Y en esto, en fin, por lo que ha publicado el Washington Post, sabemos que una amplia mayoría de las personas que fueron consultadas están absolutamente convencidas de que una máquina no puede tener espiritualidad ni puede tener conciencia. Vale, este es un tema controvertido, lo sé, pero bueno, esa fue la opinión que trasladaron estas personas que estuvieron en esta reunión.
Por lo tanto, existe una relación entre Anthropic y la Santa Sede y existe también bastante afinidad en torno a cuestiones que son muy relevantes sobre el futuro de la humanidad con la IA. Y eso es lo que ha motivado una decisión que creo que ha sido un poquito polémica porque evidentemente 100 millones de católicos saben ahora que Anthropic es gente maja, por así decirlo, y eso puede ser discutible. En cualquier caso, todo esto de la fe, de la relación de la Iglesia con la inteligencia artificial, lo abordaré en un próximo vídeo en el que voy a analizar algunos aspectos que me han llamado la atención de la última encíclica del Papa y de cómo se ha construido esa encíclica.
Estáis viendo ahora una reunión en vídeo de los siete fundadores de Anthropic y una de las cuestiones a las que aluden es a cómo ellos buscan la excelencia de la calidad de sus modelos, precisamente para llamar la atención a otras compañías de inteligencia artificial sobre la necesidad de contar con garantías de seguridad. O sea, es como si alguien dijera: "Mira, es que para que otros sigan mi ejemplo en lo bueno que soy éticamente, necesito que mi producto sea extraordinariamente bueno." ¿Vale? Y entonces, claro, hemos visto muchas veces en la historia de los negocios como a veces ceder ante oportunidades de negocio por cuestiones de tipo ético ha podido conducir en la historia a algunas empresas a perder dinero, pero en muchísimos casos ha podido contribuir a que las empresas decidan no hacer caso a sus criterios éticos porque quieren seguir ganando dinero, ¿vale?
Pues en este caso, en el de Anthropic, tenemos una circunstancia muy curiosa y es que toda esa doctrina y esos esquemas de funcionamiento interno de la compañía han contribuido a que sus modelos sean un gran éxito comercial. Hasta el punto de que Anthropic, que hace un año era el *underdog* del sector, ahora está en una situación de liderazgo en todos los parámetros de calidad de los modelos y parámetros económicos. El *money*.
Hey, ¿qué tal? Os voy a enseñar un par de gráficos para que veáis las dimensiones del crecimiento de Anthropic y la velocidad a la que está creciendo esta empresa. Lo primero que os enseño es este gráfico espectacular en el que estamos viendo el crecimiento en ingresos de Anthropic en esta línea roja, ¿vale? versus contra la facturación de OpenAI. Veis como OpenAI durante muchísimo tiempo ha sido el líder del mercado, pero Anthropic no solo ha logrado alcanzar a OpenAI en ingresos, sino que lo está superando ampliamente.
Y ahora os enseño un gráfico aún más impresionante. ¿Qué estamos viendo aquí? Estamos viendo aquí la facturación de empresas como Meta, Facebook, Amazon, Google y Anthropic, ¿vale? Y estáis viendo que efectivamente, la facturación, ¿cuándo? En los primeros cinco o seis años de vida de esa compañía, ¿vale? O sea, que Anthropic es la compañía que más rápido ha crecido entre las compañías de software, entre las compañías digitales. Pero es que lo que estáis viendo ahora es el gráfico logarítmico, o sea, no os hacéis una idea de la diferencia que hay de ingresos entre unas y otras. Este es el gráfico lineal. Este es el crecimiento de Anthropic en 6 años y aquí quedan Google, Amazon y Meta.
¿Y cómo ha logrado Anthropic este nivel de éxito? La explicación rápida y sintética es que ha dado con un filón de oro. El mercado de la inteligencia artificial es un mercado de búsqueda de oro y en esa búsqueda de oro hay mucha gente buscando en muchos sitios. Pues Anthropic ha sido la primera que ha dado con un filón de oro y esto en el ámbito de la tecnología y de las startups se llama *product-market fit*, el encuentro entre la oferta de producto y la realidad del mercado cuando se cruzan.
¿Cuáles son las claves del éxito de Anthropic? Voy a mencionar cuatro. La primera clave es el foco. Es una empresa muy disciplinada en un mercado, el mercado de las empresas y el mercado de los profesionales. Y dentro de todos los servicios que puede ofrecer a ese mercado, se han centrado en el servicio que tiene un valor económico mayor en la actualidad. ¿Y cuál es ese segmento? El segmento del código, de la programación, cuyo valor agregado en el mundo en este momento está en el entorno de los 2 trillones americanos de dólares, o sea, 2 billones de dólares. Anthropic, por lo tanto, ha decidido autoexcluirse del mercado de consumo: el mercado de las imágenes, de los memes, el mercado del vídeo, el mercado de la inteligencia artificial aplicada a la música o el mercado incluso de las búsquedas a través de inteligencia artificial. Todo eso fuera, excluido del plan. Y esto tiene, entre otras, una ventaja muy grande y es que la inversión en chips para inferencia, o sea, la inversión en estructura, en fábricas de inteligencia, es mucho menor. Y es muy probable que Anthropic, en ese sentido, se haya pasado un poco por lo bajo, ¿vale? Y eso explica algunas dificultades que está teniendo para prestar servicio a sus clientes, cosa que hemos visto en este vídeo.
Este foco de Anthropic en el mercado del código y en el mercado empresarial ha producido frutos prodigiosos, como por ejemplo el hecho de que hace unos días el CEO de la compañía Salesforce, que es una de las compañías de software más grandes del mundo, ha dicho que el gasto en servicios de código de Anthropic durante este año ascenderá a los 300 millones de dólares, un solo cliente. Y claro, ¿por qué las grandes compañías en todo el mundo están apostando por Anthropic? No solamente por la calidad de su producto de desarrollo de código, sino por aquello que configura el núcleo de la existencia de Anthropic, que es la seguridad. En una gran empresa, y esto lo experimentamos todos, cuando llega el momento de tomar una decisión sobre el software que se va a usar, un criterio absolutamente esencial es la seguridad. ¿Y a quién vas cuando necesitas seguridad y garantías de esa seguridad? A una compañía que haga eso de una forma extraordinaria.
La segunda clave del éxito es el *harness*, el arnés del modelo de lenguaje. ¿Qué es el arnés de un modelo de lenguaje? Te lo explico fácilmente. Un modelo de lenguaje es como un cerebro metido en un frasco. Es capaz de predecir la siguiente palabra con todo el entrenamiento que tiene, pero no tiene conexión con archivos, no recuerda cosas que le hemos preguntado en otro momento, no es capaz de ejecutar acciones y tampoco sabe cuándo ha terminado una tarea, ¿vale? Pues todo eso, el arnés del modelo es código que se aplica al modelo de lenguaje. El *harness*, el arnés de un modelo de lenguaje, en definitiva, es el cuerpo que le pones a ese cerebro y ese cuerpo le va a permitir identificar exactamente la intención que tienes cuando...
Estás haciendo una un prompt, una instrucción al modelo. Recordar conversaciones que que has tenido antes, especificar el nivel o el volumen de contexto que tiene una instrucción en función del tipo de instrucción que le das, etcétera, etcétera, etcétera.
Y en este sentido, el valor de Anthropic no está solamente en la calidad del modelo de lenguaje cloud, sino está sobre todo y es lo que le diferencia de otras compañías en el harnessing del modelo.
Tercero, una velocidad y introducción de nuevos productos que resulta muy difícil de seguir, incluso para los propios usuarios de cloud. Esta velocidad de ejecución de nuevos productos es posible en gran medida gracias a la calidad del código que desarrolla el propio cloud. O sea, que aquí tenemos a un grupo de ingenieros muy capaces y de gestores de producto muy capaces, acompañados por un gran modelo de código.
Y cuarto elemento de la estrategia ha sido cómo Anthropic ha ido atacando un mercado o un segmento de mercado tras otro. Han lanzado productos especializados en el ámbito jurídico, han lanzado productos para pequeñas empresas, han lanzado soluciones en el ámbito de la salud, han lanzado soluciones para inversores. ¿Y qué ha ocurrido? El día después de que Anthropic lanzara esas nuevas soluciones especializadas, la cotización de las empresas de software que estaban especializadas anteriormente en esos mercados ha caído de forma muy dramática hasta el punto de que en Silicon Valley se habla del SAS Apocalypse, del apocalipsis del mercado SAS de las empresas de software.
Estas empresas SAS, para que nos entendamos, son empresas que venden aplicaciones, pero que en lugar de hacerte una venta de una licencia por una vez para toda la vida, te cobran mensualmente en función del número de personas dentro de una corporación que utilizan ese software. ¿Vale? Pues este sector está muy en duda en este momento y 22 de las 30 empresas de SAS que están en bolsa en Estados Unidos han visto caer su catición durante este año, sobre todo por culpa del lanzamiento de productos nuevos de Anthropic, de tal forma que el gran secreto de Anthropic es hacer un buen producto y enfocarse de modo muy disciplinado en una dirección. Steve Jobs decía que la estrategia fundamentalmente consiste en decidir que no vas a hacer. Y este consejo lo ha seguido Anthropic con gran disciplina y con gran maestría.
Y ahora llega el momento de hacer balance. Y después de hacer el análisis que hemos venido haciendo en este vídeo, ¿qué idea tengo yo sobre Anthropic? Respecto a la pregunta que nos formulábamos al principio es que si son los buenos de esta película. Pues hay cuestiones que a mí me llaman positivamente la atención. Me llama la atención que el grupo inicial de fundadores, que son siete personas, siguen trabajando en la compañía después de 5 años y después de experimentar un crecimiento absolutamente desbordado. No hay muchos precedentes de que en una empresa de Silicon Valley, donde abundan los egos, esto se haya reproducido, lo cual es un síntoma de que los hermanos Amodei están haciendo algo muy bien.
Otra cosa que llama positivamente la atención es que definieron un modelo de arquitectura de producto y de arquitectura de organización en el que la prioridad es lo que ellos han definido como safety y como security. Y la historia ha demostrado que han sido coherentes con esa visión y han sido coherentes asumiendo a veces costes económicos o costes de prestigio o de reputación en un mercado como es el mercado de Estados Unidos. Y creo que eso tiene mucho valor. Lo paradójico de este caso es que asumiendo ese coste que tiene a veces decir que no a oportunidades de negocio para decir que sí a tus principios, es que se ha convertido en un elevador de la reputación corporativa de la compañía y de sus productos. O sea, que parece que les ha salido bastante bien. Los cínicos dirán que todo es eh green washing, buen rollito washing, etcétera, pero de momento las pruebas que tenemos de su comportamiento testifican que Anthropic está siendo fiel a lo que quiere ser.
Y por último, de nada serviría ir por el mundo con la bandera de soy buena persona y hago cosas buenas si tus productos no tienen un nivel de calidad muy elevado. Pues creo que a día de hoy tanto el modelo de lenguaje clot como el harness, que es un concepto que hemos aprendido en este vídeo, eso espero, atestiguan que efectivamente sus productos son de una calidad altísima.
¿Y qué cosas pueden ir mal en esta historia? Evidentemente la competencia, el mercado de la inteligencia artificial todavía sigue siendo un mercado en el que las ventajas que uno tiene a día de hoy las tendrán modelos tanto americanos como chinos dentro de 6 meses. O sea, que parece difícil eh que una compañía de inteligencia artificial pueda tener lo que se llama un mode, un foso de competencia, una ventaja competitiva que le permita eh hacer que su éxito sea sostenible en el tiempo. Eso en el caso de Anthropic está por ver.
Una cuestión que también debería empezar a preocupar a los gestores de esta compañía es el ROY, o sea, el retorno de la inversión que tiene el uso de la inteligencia artificial, porque estamos empezando a ver señales de cómo ese hábito de algunas grandes corporaciones americanas, que es el token maxing, o sea, la idea de a ver quién consume más tokens de inteligencia artificial está provocando que el coste de la inteligencia artificial suba hasta el punto de que hay compañías como Microsoft que han eliminado cloud entre las opciones que tienen sus empleados para producir código.
Y por último, amigos míos, pues es difícil mantener un nivel ético excelente en una corporación durante muchos años y un nivel de calidad de los productos también, ¿vale? O sea, que tampoco quiero dar la sensación de que estoy idealizando con este vídeo a Anthropic. En toda compañía hay unos equilibrios entre los incentivos, el incentivo económico, el incentivo del crecimiento. Antrópica, además, durante este año saldrá a bolsa y empezará a tener un control mucho mayor de sus cuentas y a tener mucha más presión por parte de los inversores. Y luego está el incentivo de hacer el bien y en la medida en que Anthropic vaya creciendo y vaya siendo más importante en el mercado y más influyente y en la medida en que vaya desarrollando productos de mayor inteligencia cada vez pues digamos que las tensiones entre los incentivos cada vez serán mayores y caerán los hermanos amodei y en las garras de alguna megacorporación o de algún país que robará su código. No lo sabemos.
Pero para ir siguiendo esta historia fascinante de la inteligencia artificial y de su aplicación en el mundo, eh solo os quiero recomendar que os suscribáis al canal si no lo estáis. Pero antes de despedirme quería preguntaros, ¿estáis de acuerdo en el diagnóstico que he hecho de Anthropic? ¿Qué debilidades veis a mi argumentación? Vamos a los comentarios. Si pensáis que Anthropic no son los good guys de esta historia, ¿quiénes son para vosotros esos good guys? Y tercero, ¿pensáis que la búsqueda del bien, por así decirlo, o la seguridad hará que las grandes empresas nunca utilicen los modelos chinos de inteligencia artificial? Es otra cuestión también para el debate.