Transcription
Agente. - Agente. - Agente. - Agente. - Agente. - Agente. - Agente. - Agente. - Los agentes de IA pueden tomar el control. - ¿De verdad? No estaría tan seguro. Hoy te contaré una historia para mostrarte por qué. Es diciembre de 2025. Estamos en la sede de Amazon Web Services, la nube de servidores más grande del mundo. Un ingeniero de esta empresa tiene un trabajo sencillo. Un pequeño ajuste en la herramienta que miles de empresas utilizan para ver cuánto están gastando en esa nube. El ingeniero abre Kiro. Kiro es el nuevo agente de IA que Amazon ha impuesto a todos sus ingenieros para agilizar su trabajo. Nuestro ingeniero hace lo que se nos ha dicho que debemos hacer con los agentes de IA. Describe el problema y pídele que lo solucione. Kiro analiza, reflexiona y toma una decisión. El agente no quiere crear un parche. No está convencido de la idea de someterse a una cirugía correctiva. Kiro decide borrar completamente el sistema que estaba fallando y reconstruirlo desde cero. En cuestión de segundos, ese panel desaparece para miles de empresas en toda la China continental. El sistema está caído durante 13 horas. 13 horas sin ver una sola pieza de datos de gasto en la nube. Ahora, imagina si esto no hubiera ocurrido en un panel de gastos, sino en los servidores que alojan Netflix, o en el sistema que procesa las transacciones de tu banco, o en la columna vertebral que mantiene viva la bolsa, o en los sistemas digitales de tu gobierno. La historia de hoy no trata de un fallo informático. La historia de hoy trata de lo que sucede cuando dejas de lado a las personas que trabajan en la base sin supervisión humana en las empresas digitales del mundo. Las firmas de análisis de riesgos más prestigiosas del mundo llevan tiempo advirtiendo sobre esto. Forrester Research dice que para 2026 nos enfrentaremos al menos a dos grandes interrupciones en Internet como resultado de operaciones llevadas a cabo por agentes de IA. Quédate. Veamos qué sucede en una organización cuando se implementa una estrategia en la que, primero, se recortan puestos de trabajo bajo la suposición de que la IA podrá reemplazarlos; segundo, se obliga a las personas a utilizar la IA, y tercero, se depende de sistemas que no están preparados para tomar el mando. Antes de entrar en el tema de este vídeo, es esencial que comprendamos el contexto en el que se producen errores tan graves. Internet de 2026 no es la red distribuida que nos enseñaron en la escuela. Internet del pasado, donde si una zona específica se caía, los sistemas seguían funcionando. Internet moderno es en realidad un sistema muy frágil porque está dirigido por un oligopolio. Tres empresas —Amazon, Microsoft y Google— controlan el 67% de los servidores que impulsan las cosas que usas todos los días. Amazon es la columna vertebral de Internet. Sus servidores representan entre el 30% y el 35% de todo el tráfico de red. ¿Qué significa esto en la práctica? Que cuando Amazon tiene un problema, ¿es problema de Netflix o de Airbnb? ¿Del sistema que registra las transacciones bursátiles en Estados Unidos o de los sistemas de gobierno digital en tres continentes? Y este oligopolio tiene otras capas. Piensa en Cloudflare, la empresa que actúa como escudo de seguridad para millones de sitios web y aplicaciones. Más del 20% del tráfico de Internet pasa por sus sistemas. En España, es bien conocida por una razón que no es el tema de este vídeo. O toma el caso de Stripe, por donde fluyen cientos de miles de millones de dólares cada día. Otro componente del sistema es GitHub, una plataforma de intercambio de código utilizada por programadores. Si GitHub se cae, miles de equipos de desarrollo en todo el mundo se paralizan al mismo tiempo. Internet moderno, por lo tanto, no es una red de mil caminos alternativos. Es una autopista de cuatro carriles con peajes obligatorios. Y solo hay una empresa en cada cabina de peaje. Esto hace que el sistema sea más vulnerable que antes. Por ejemplo, en noviembre de 2025, un técnico de Cloudflare cometió un error al cambiar una configuración interna. El resultado. ChatGPT, X, Spotify y docenas de servicios críticos estuvieron caídos durante horas en todo el mundo. Un humano, un error, horas de caos global. La gestión de los servidores se está entregando a la CIA, ya sea como asistentes de trabajadores humanos o como agentes autónomos. La responsabilidad se está transfiriendo gradualmente a aplicaciones que carecen de la experiencia ni del sentido de responsabilidad de un ser humano. Un papel clave se está transfiriendo a aplicaciones que no corren el riesgo de perder su trabajo por un solo error. Entonces, ¿qué sucede cuando el mandamás tiene un agente de IA que opera a una velocidad vertiginosa y tiene acceso completo al sistema y sin que nadie lo vigile? Para averiguarlo, tienes que ir a Seattle, a los pasillos de Amazon Web Services. Te haré una pregunta rápida. ¿Cuándo fue la última vez que tu banco te sorprendió? Si tardas un poco en responder, el patrocinador de este vídeo tiene una oferta para ti. Se llama N26, y no es solo otro banco digital. N26 es lo que sucede cuando alguien construye un banco desde cero pensando en personas como tú, aquellos que no soportan las molestias innecesarias, esas tarifas ridículas o aplicaciones que parecen de 2010. Con N26, puedes abrir una cuenta en minutos directamente desde tu teléfono, tienes un IBAN español, y tus fondos están protegidos hasta 100.000 € por el Fondo de Garantía de Depósitos alemán. Y desde el primer día, tienes acceso a algo que los bancos tradicionales no te ofrecen, que significa total transparencia sobre tu dinero. Pagos, Bizum, estadísticas reales de gastos, ahorros automatizados, inversiones a partir de un euro en acciones y ETFs, transferencias internacionales, todo desde una sola aplicación. Aquí no hay ventanillas, no hay esperas y no hay letra pequeña. Y si viajas, N26 es inmejorable: puedes pagar en cualquier divisa al tipo de cambio oficial de MasterCard sin comisiones adicionales. Y si te pasa algo allí, como si pierdes tu tarjeta o te la roban, puedes bloquear esa tarjeta en segundos y generar una tarjeta virtual al instante. Y si necesitas ayuda, el servicio de atención al cliente está, por supuesto, disponible los 7 días de la semana a través de la aplicación. El enlace para registrarte está en la descripción. Usa el código GUSTAVO N26 al abrir tu cuenta y cuando realices un pago de 20 euros o más, recibirás un bono de bienvenida de 20 € completamente gratis. En julio de 2025, Amazon lanza Kiro. Kiro no es una herramienta de sugerencia de palabras como el corrector ortográfico de tu teléfono. Es un tomador de decisiones. Escribe código, lo modifica y aplica esos cambios directamente en sistemas reales, sin que un humano presione un botón. El 24 de noviembre de 2025, dos vicepresidentes senior de Amazon Web Services firmaron la orden enviada por Kiro. El 80% de los ingenieros deben usar Kiro semanalmente para fin de año. El uso de herramientas similares de otras empresas está prohibido. Para enero de 2026, el 70% de los desarrolladores de Amazon Web Services ya lo estarán utilizando. Eso se celebra como un éxito. Esta decisión se produce en medio de despidos generalizados en Amazon. Entre 2022 y 2026, Amazon recortó más de 57.000 puestos de trabajo. Menos ingenieros, por lo tanto, con experiencia acumulada; más trabajo generado cada vez más por IA. Trabajo realizado a velocidad vertiginosa, con menos personas para comprobar si el trabajo se ha hecho correctamente. James Gosling, una leyenda de la programación y creador del lenguaje de programación Java, había advertido que Amazon se estaba moviendo demasiado rápido en su uso de la inteligencia artificial. Hasta el punto de que eso le llevó a abandonar la empresa. En su mensaje de despedida en LinkedIn, escribió que "Nuestros sistemas son estructuras enormemente complejas donde todo está interconectado". "Después de todo, si no entiendes el panorama general, tomarás malas decisiones". Con el uso de la IA, el cálculo de las ganancias potenciales frente a los riesgos involucrados fue desastrosamente miope. En el verano de 2025, según un grupo de fuentes que hablaron con el Financial Times, ocurrieron los primeros fallos. Problemas internos menores. Los ingenieros vieron esos errores y los advirtieron. La dirección hizo la vista gorda. Pero el incidente más grave, según el periódico antes mencionado, ocurrió en diciembre de 2025. Quiro eliminó el sistema de control de costes para los clientes en China continental. Trece horas de oscuridad total. Amazon Web Services declaró públicamente entonces que había sido un error del usuario. No aclararon que el usuario era en realidad un montón de gente. Ningún programador habría solucionado un error tan menor borrando todo el código y reescribiéndolo. Esto, por lo tanto, no es un error de acceso, es un fallo de juicio, proceso, prudencia y gobernanza con respecto a la IA que se había promocionado como un objetivo para todos los programadores. Otra herramienta de IA causó un segundo casi fallo exactamente igual. Dos incidentes en pocas semanas, entonces. Y en marzo de 2026, otro agente de IA, un fallo conocido como "Q", provocó una interrupción masiva en la tienda online de Amazon. Se perdieron 120.000 pedidos. La tienda y la aplicación estuvieron caídas durante casi seis horas. 21.716 personas informaron del problema, y el resultado estimado fue de 6,3 millones de pedidos perdidos. El 10 de marzo, Dave Threadwell, el mismo vicepresidente que firmó la orden de Kiro, escribe a sus equipos. "La disponibilidad de la tienda y los sistemas relacionados ha sido pobre recientemente". 12 palabras. En Amazon, esas 12 palabras son una señal de alarma. Todos los programadores de Amazon Web Services se dieron cuenta de que era un asunto grave. La reunión a la que asistieron fue obligatoria para los convocados. Era una reunión DEFCON 2. Lo que Treadwell presenta durante la reunión es vergonzoso para él. Las herramientas de IA que los ingenieros habían estado haciendo cambios en los sistemas críticos de la empresa sin que nadie hubiera establecido las reglas para hacerlo de forma segura. Primero habían desplegado, habían pensado en las consecuencias después. El resultado de esta reunión fue una cuarentena de los agentes de IA de 90 días. Los 335 sistemas más críticos estarían bajo revisión completa durante ese período, y a partir de ese momento, cualquier cambio sugerido por la IA requeriría la aprobación de dos personas, de dos seres humanos, y las decisiones más sensibles tendrían que escalarse hasta el nivel de director o vicepresidente de la empresa. La misma empresa que, cuatro meses antes, había presionado a sus ingenieros para que avanzaran más rápido con la IA, pero ahora estaba frenando y volviendo a poner a los humanos al mando. Empresas como IBM, Gartner y Forrester llevan meses emitiendo advertencias que, a la luz de lo sucedido en Amazon, suenan a "te lo dijimos". Primera predicción. Para finales de 2026, habrá más de 2.000 demandas por daños causados por sistemas de IA sin controles adecuados. Segunda señal. Para 2028, una de cada cuatro violaciones o fugas de datos será causada directamente por el uso incontrolado de agentes de IA. Tercera señal: más del 40% de los proyectos que involucran a contratistas independientes serán eliminados para finales de 2027. Cuestan demasiado y no entregan el valor esperado o los riesgos están fuera de control. Y hay una cuarta, prevista para finales de 2026, el 40% del software empresarial ya tendrá algún tipo de agente autónomo integrado. Ahora mismo, representan menos del 5%. Los datos son claros. Estas innovaciones de IA están ocurriendo mientras el 63% de las empresas no tienen directrices internas claras sobre lo que está y no está permitido usar IA. El 97% de las que ya han experimentado un incidente grave carecían de controles básicos sobre lo que esa IA podría ser capaz. Y Forrester va más allá, señalando los daños colaterales del rápido desarrollo de la IA. En su informe de predicciones para 2026, Forrester advierte que vamos a ver al menos dos grandes interrupciones en la infraestructura en la nube, de las que dejan a millones de usuarios sin servicio durante días. ¿La razón? Amazon, Microsoft y Google están tan obsesionados con la construcción de centros de datos para ello, hasta el punto de que están descuidando su infraestructura tradicional. La están dejando deteriorarse, y esa infraestructura envejecida está bajo presión. Esta tendencia se revertirá. Según Forrester, esto no es solo una posibilidad, es la predicción oficial de una de las firmas de investigación más respetadas del mundo. ¿Por qué es así? Hay tres razones que el caso de Amazon ilustra con claridad cristalina. Primero, el problema del acceso y la limitación. Kiro pudo borrar el sistema porque nadie había establecido una regla simple, que ninguna inteligencia artificial pudiera tomar decisiones destructivas sin que un humano la aprobara. ¿Por qué? Porque la IA carece de juicio humano; no siente miedo, no tiene experiencia en el mundo real y, aunque ha sido entrenada con millones de puntos de datos, aún no tiene sentido común. Segundo, está el problema de la velocidad. La IA funciona 10 veces más rápido de lo que un equipo de personas puede supervisar. Cuando la velocidad es el único objetivo medible, la revisión humana se ve como un obstáculo, y los obstáculos terminan siendo eliminados. Y tercero, los permisos temporales. Existe un principio que los expertos en seguridad han estado implementando durante décadas. Conceder a cualquier sistema solo el acceso mínimo necesario para hacer su trabajo, nada más. Y ese acceso debe caducar cuando la tarea se completa, al igual que una llave de hotel que deja de funcionar cuando te vas. Es exactamente lo contrario de lo que hizo Amazon con Kiro. Pero esperen, hemos estado hablando de Amazon, una de las empresas más sofisticadas del planeta, con los mejores ingenieros y recursos prácticamente ilimitados. ¿Qué significa todo esto para una empresa que no sea Amazon? Para ti, que tienes que tomar decisiones sobre adoptar la tan pronto como esta semana, o que estás probando plataformas como OpenClaw, que, por cierto, aparecerá en un vídeo próximamente en este canal. Cada vez que la humanidad ha dado un gran salto tecnológico, el mismo patrón ha seguido. Primero, escepticismo; segundo, cuando empiezas a ver que primero llega la euforia, luego la salida masiva. Es entonces cuando los accidentes empiezan a acumularse. Y al final, se establecen las reglas. Durante décadas, la gente conducía sin cinturones de seguridad ni límites de velocidad; miles de muertes antes de que se establecieran las regulaciones. Sucedió con la energía nuclear, que prometió proporcionar electricidad casi gratuita, hasta que las cosas salieron mal, una serie de accidentes en todo el mundo que cambiaron la percepción de la gente. Eso sucedió con algunos medicamentos. Y eso es exactamente lo que sucedió hace solo 10 años con las redes sociales. Dejamos que se salieran de control hasta que comenzaron a aparecer signos de daño psicológico y físico en las plataformas de redes sociales de todo el mundo. Lo mismo está sucediendo con la inteligencia artificial, solo que ahora sucede a cámara rápida. Lo que hace diferente este momento no es la tecnología; es la velocidad. Nunca antes habíamos desplegado algo tan poderoso en tan poco tiempo en lugares tan críticos con tan pocas reglas. Y en ese contexto, hay una pregunta que esta historia deja sin respuesta. La pregunta no es si la IA es buena o mala; la pregunta es quién decide en última instancia. Quiero... Tomó una decisión maliciosa; tomó la decisión que parecía más eficiente dentro de los límites que le habían dado, y nadie le había explicado en un lenguaje que pudiera entender que hay cosas sobre las que una máquina nunca debería tomar decisiones por sí sola. Que hay situaciones que requieren más que solo lógica, no solo eficiencia, sino también buen juicio y responsabilidad. Amazon tuvo que aprender eso de la manera más dura posible, con 13 horas de oscuridad, con millones de pedidos perdidos, con el ejecutivo que había ordenado la recompra masiva, el mismo que tuvo que ordenar el retroceso. Tú, que estás viendo este vídeo, tienes algo que Amazon no tenía. Puedes enseñarles una lección de la experiencia de otro, aprender de este fracaso. Para mí, como entusiasta de la IA, como todos saben, la mayor lección de este caso es que las máquinas nunca dudan de sus decisiones, no tienen miedo de poner una idea en práctica y carecen de la experiencia de un ser humano que realmente lo da todo en el trabajo, por eso seguirán necesitándonos. Muchas gracias por ver este vídeo hasta el final. Por favor, suscríbete al canal si aún no lo has hecho. Haz clic en el icono de la campana para que YouTube te notifique cada vez que se publique un nuevo vídeo. nuevo vídeo, y haremos todo lo posible para que el próximo sea aún mejor que este.