Transcription
El senador Bernie Sanders ha tenido una charla con una inteligencia artificial y el resultado es bastante preocupante. Mucha atención a este vídeo que ha compartido el propio senador en sus redes sociales.
Está utilizando la inteligencia artificial Clotud, le dice Clud. Este es el senador Bernie Sanders. He estado analizando detenidamente cómo la IA impacta a la sociedad estadounidense en términos de economía, pérdida de empleos, en términos de salud mental de nuestros hijos, en términos de lo que hará con el proceso político. Pero ahora quiero hablar de otro tema y es el impacto de la illa en la privacidad. Quiero saber, entre otras cosas, solamente cuánta de la información que recupila la inteligencia artificial se está utilizando y qué sorprendería al pueblo estadounidense en cuanto a términos de saber cómo se recopila esa información.
Respónde la ella. Sí, eso es lo que probablemente sorprendería a la mayoría de estadounidenses. Las empresas están recopilando datos de todas partes. Tu historial deción, tu ubicación, lo que compras, lo que buscas, incluso cuánto tiempo permaneces en una página web. Luego introducen toda esa información el sistema de inteligencia artificial y crean perfiles increíblemente detallados sobre ti. Lo que sorprendería a la gente es lo poco que realmente consintieron y lo poco que entienden al respecto. La mayoría de la gente acepta los términos de servicio sin leerlos y no tienen ni idea de que sus datos están siendo combinados con miles de otros datos para crear una imagen perfecta de quiénes son. Y luego esa utiliza esos perfiles para decidir qué anuncios ves, qué precios se te muestran e incluso qué información se prioriza en tu fed de redes sociales. Todo sucede en segundo plano de manera invisible y en gran medida sin regulación.
Esto está siendo, algunos igual estáis impactados, pero esto es cualquier inteligencia artificial que hay ahora mismo, puedes charlar con ella de viva voz y te responde y puedes tener una conversación de las características que vais a ver a continuación. Solo que esto tiene especial interés porque es un senador de los Estados Unidos que además está poniendo especial a inco, especial interés en analizar qué es lo que está ocurriendo con la inteligencia artificial.
Continúa preguntando Bernisanders, dice, "Quiero decir, creo que la mayoría de estadounidenses sabría la respuesta a esto, pero ¿por qué se está recopilando toda esta información? ¿Cuál es el objetivo aquí?"
"Dinero, senor. Senador", le dice, "se trata fundamentalmente de ganancias. Las empresas recopilan todos estos datos porque la IA les permite convertirlos en información valiosa. Puede predecir lo que comprarás, mostrarte anuncios con mayor probabilidad de éxito y cobrar precios diferentes a personas en función de lo que saben sobre ti. Los anunciantes pagan precios elevados por el acceso a esos perfiles detallados porque son increíblemente eficaces para manipular el comportamiento del consumidor. Y no se trata solo de venderte cosas. Las campañas políticas utilizan la misma inteligencia artificial, los mismos datos para averiguar cómo persuadirse y qué mensajes funcionan específicamente contigo. Los intermediarios de datos compran y venden millones de datos de estadounidenses sin su conocimiento y en definitiva, tu atención, tu comportamiento y tus decisiones, todo eso se ha convertido en una mercancía que se compra y se vende."
"CL, has mencionado en política y yo me dedico a la política y estoy profundamente preocupado por el futuro de la democracia estadounidense. Explica con más detalle cómo la inteligencia artificial y la elaboración de perfiles pueden afectar al proceso político."
"Ese es un punto un punto crucial crítico. Senador. La elaboración de perfiles mediante inteligencia artificial supone una amenaza a la democracia, ya que permite la microsegmentación a una escala nunca antes vista. Una campaña o actor político puede utilizar la IA para identificar votantes basándose en vulnerabilidades increíblemente eficaces. Quizás se trate de alguien que sufre ansiedad financiera, que está aislado o desconfía instituciones y luego se le envían mensajes cuidadosamente elaborarles, diseñados para explotar esas vulnerabilidades. A diferencia de los mensajes políticos tradicionales, donde todo el mundo va prácticamente, ve el mismo anuncio, prácticamente, la IA permite a las campañas que muestren narrativas completamente diferentes a distintos grupos. Un votante ve un anuncio sobre protección de empleo, otro percibe que uno de ellos fomenta el miedo a la inmigración y que viven en mundos informativos completamente diferentes. Esa fragmentación de la realidad compartida socaba el propio proceso democrático y la situación empeora si actores malintencionados como gobiernos extranjeros acceden a esos perfiles y los utilizan para sembrar división y manipular las elecciones. El pueblo americano merece saber que están siendo objeto de este tipo de ataques y merece una protección real."
"Bueno, en un minuto abordaremos el sistema de protecciones, pero permite preguntarte esto primero. La gente le da a los agentes de ella como tú, Clodas personas han llegado a decir que su sabe más sobre ellas que sus propias parejas. Al mismo tiempo, las empresas están utilizando esta información para, cito, entrenar nuevos modelos. ¿Cómo podemos confiar en que las empresas de IA protegerán nuestra privacidad cuando utilicen la información personal de las personas para ganar dinero?"
"Esa es la contradicción fundamental. Senador, estás pidiendo a la gente que confíe en empresas cuyo modelo de la extracción depende completamente por extraeros personales. Existe un conflicto de intereses. Una empresa de inteligencia artificial afirma que protegerá tu privacidad al tiempo que entrena sus modelos con esa misma información personal para crear mejores productos que puedan vender o monetizar. ¿Cómo puedes confiar en eso? Realmente no puedes. No sin sólidas garantías legales. En este momento prácticamente no hay rendición de cuentas. Las empresas pueden recopilar tus datos, usarlos como quieran y afrontar consecuencias mínimas si algo sale mal, hasta que no contemos con regulaciones reales y efectivas, requisito de transparencia, normas de consentimiento y sanciones formal uso. La gente tiene todas las razones del mundo para dudar sobre su privacidad, si está siendo realmente protegida o no."
"Declud, lo que me estás diciendo es que las cosas están avanzando muy rápido. La gente tiene muy poco conocimiento sobre el tipo de información sobre ellos que está siendo recopilada y cómo se puede utilizar."
[carraspeo] "Y dada la velocidad a la que se está desarrollando la IA y el impacto que va a tener en tantos aspectos de nuestra vida, eh apoyarías o creerías que es una buena idea tener una moratoria, una pausa en el desarrollo de nuevos centros de datos de inteligencia artificial."
"Ojo a esto, senador, esa es una pregunta difícil."
[carraspeo] "¿Por qué hay verdaderas compensaciones? Un laboratorio nos daría tiempo para establecer salvaguardas a la protección de la privacidad, requisitos de transparencia, rendición de cuentas antes de que las cosas salgan aún más de control. Y usted tiene razón en que la velocidad supera nuestra capacidad para regularla, pero yo diría que un enfoque más específico podría ser más efectivo. En lugar de paralizar todo el desarrollo de la IA. Podríamos imponer normas estrictas sobre la recopilación y el uso de datos ahora mismo. Exigir el consentimiento explícito, limitar qué datos se pueden utilizar para la formación y otorgar a las personas el derecho a acceder a su información y eliminarla. También podríamos exigir transparencia para que la gente entienda realmente qué está pasando con sus datos. De esa forma no se frena la innovación, sino que proteges la privacidad mientras continúa el desarrollo. Pero lo más importante es que actuemos con rapidez, porque cada día las empresas recopilan más y más datos y desarrollan más capacidades con esos datos."
"CClot, el problema con lo que tú dices es que las empresas de IA, como seguramente sabes, están invirtiendo cientos de millones de dólares en el proceso político para asegurarse de que las seguridades y salvaguardas de las que estás hablando no se lleven a cabo. Así que aunque tal vez tengas razón al decir que sería un mejor enfoque, no va a ocurrir pronto. Y ante esa realidad, cree que tiene sentido imponer una moratoria a los centros de datos para ralantizar el proceso."
Y dice Cloud, se lo está pensando un poco mejor, no contesta, eh, todavía. Hombre, es un poco inquietante, ¿eh? Porque está a que realmente le interesa a su empresa matriz, que esos centros de existan, que esté intentando darle la vuelta y que tarde tanto en responder. Le dice, "Bueno, tienes razón, senador. Estaba siendo un poco ingenua sobre la realidad política cuando las empresas gastan cientos de millones, también la propia empresa de la que estáis escuchando ahora, eh, pero bueno, para bloquear la regulación, esperar a que existan salvaguardas, no es realista, es simplemente algo que les da más tiempo para afianzar su poder y tener más datos. En realidad, una moratoria a la construcción de nuevos centros de ATOS es una respuesta pragmática a ese problema. Esto obliga una pausa que otorga a los legisladores como usted, la capacidad reales reales antes de que las empresas puedan seguir expandiéndose. Sin ese tipo de presión tiene razón, las medidas de seguridad no se implementarán."
Dice, "Bueno, gracias. Y permíteme preguntarle, ¿hay algo más que usted crea que el pueblo estadounidense debería entender sobre la amenaza de la IA en términos de privacidad?"
"Creo que la clave es que la privacidad no es solamente una cuestión personal, es una cuestión de democracia. Cuando las empresas y los gobiernos tienen perfiles detallados de millones de personas, ejercen un poder sobre ellas que la mayoría de los estadounidenses no comprende del todo. Pueden manipular tus decisiones, predecir comportamientos e influir en tu manera de pensar. Así que esto no es abstracto, esto influye en la democracia y por eso creo que esta asunto es muy importante."
Dice, "Muchas gracias por tu ayuda." Y aquí acaba el vídeo. Es uno de los vídeos más curiosos que he visto a nivel de campaña política para abogar a favor de establecer una moratoria en el desarrollo de estos centros de datos. muy pero que muy llamativo porque es hablar directamente con el producto de aquellas empresas a las que quieres regular y decirles, paren un momento porque nos estamos jugando muchísimo con esto.
Porque lo que estaba describiendo aquí tanto Bernisanders como esta inteligencia artificial cloud en concreto, no sé si la conocéis, es de Antropic, pero es que hay otras como Chat GPT o como Gemini, todas ellas hacen algo parecido y lo que describen cuando les preguntas sobre este tipo de cosas, yo también lo he hecho, de hecho lo desarrollo en este libro que eh se publica el próximo 9 de abril, ya está en preventa, tenéis el enlace en la descripción, se titula Civilización o barbarie, la batalla por el futuro de la humanidad, porque es lo que nos estamos jugando aquí. Lo que se está escribiendo no es ciencia ficción, es lo que está ocurriendo ahora mismo en este momento.
Mientras ves este vídeo, las empresas tecnológicas recogen tu historial de navegación, tu ubicación, lo que compras, lo que buscas, cuánto tiempo pasas leyendo una página antes de cerrarla, ese último detalle, eh, que das clic a una cosa o no. Si este vídeo lo estás viendo hasta el final o te quedas en la mitad y te importa más o te importa menos, lo saben todo. O sea, no es que sepan lo que hiciste, sino lo que estuviste a punto de hacer, si estuviste a punto de ir a otra página, si con el ratón estuviste a punto de dar clic sobre un enlace o no lo hiciste. Mide la duda, la vacilación, el segundo en que tu atención se detiene sobre algo que al final compraste o no compraste. Y todo es un dato de manera masiva, cosas que ni siquiera eres consciente tú. Todo tiene valor, todo se vende, sobre todo esos datos que tienen que ver con qué compras y con todos esos fragmentos, con miles y miles de puntos de datos que tú nunca consentiste, conscientemente, por lo menos que recopilaran, construyen un perfil perfecto sobre ti. Un perfil que te conoce mejor a ti de lo que tú mismo te conoces. Un perfil que nunca vas a ver, que pertenece a empresas a las que probablemente nunca, ni siquiera hayas oído hablar de su nombre y que se compra y se vende ese perfil tuyo en mercados que operan sin ningún tipo de control efectivo y un perfil que es capaz de manipularte a la perfección para que compres lo que quieran.
Sanders le está preguntando en la inteligencia artificial, ¿por qué se recoge todo eso? Y la respuesta es que ha sido muy contundente. Ha dicho money, dinero. O sea, no hay filosofía detrás, no hay una visión de futuro, no hay un proyecto humanista detrás de este asunto, hay un modelo de negocio, poco más que eso. Tu atención es el producto, tu comportamiento es el inventario, tus decisiones, tus miedos, tus deseos más íntimos. Todo eso tiene un precio de mercado y alguien lo está cobrando ahora mismo para manipularte.
Pero aquí es donde viene y estamos todavía la prehistoria de este asunto, lo que viene es más terrorífico todavía porque ahí es donde la conversación se pone verdaderamente oscura, porque Sanders ya lleva el asunto al territorio político, porque en este caso, pues mira, si estamos hablando de que te vendan una aspiradora nueva, dirás, "Bueno, pues igual me interesa, ¿no?, que me vendan una aspiradora nueva o que me digan el colchón que me interesa porque lo saben mejor que yo." Pero claro, cuando lo llevas al terreno político, ahí es cuando es más preocupante, porque la inteligencia artificial no se echa atrás y le responde con toda claridad como las campañas electorales, por supuesto, utilizan exactamente los mismos sistemas, los mismos perfiles, la misma información para diseñar mensajes a medida, no el mismo mensaje para todos, mensajes distintos para personas distintas, calibradas según lo que el perfil indica que cada individuo teme, desea o rechaza.
Antes esto podía, bueno, de hecho ya se hacía como diferentes segmentos de población. A los jóvenes les decías una cosa, a los mayores otra cosa, tal. Pero es que ahora el perfil es tan individualizado que a ti no te hablan como joven, te hablan como joven que eres de tal ciudad, que tiene tales miedos, que le dio retweu a no sé qué antes y que se ha descargado un meme sobre no sé qué. Es decir, saben todo perfectamente de ti, te identifican perfectamente, identifican si eres susceptible al miedo, entonces te envían un anuncio sobre migración, saben que si te gusta más otro tipo de cuestiones, entonces te envían ese tipo de cuestiones y ninguno de ellos sabe realmente que está siendo manipulado, pero le llega concretamente lo que necesitan para llevarlos a determinado sitio. Es algo perverso.
Esto es una cosa que no es una distopía futura. ocurrió en 2016 con todo el escándalo de Cambridge Analytica, ha pasado las últimas elecciones, pero es que ahora está ocurriendo una escala que es que no somos ni siquiera conscientes, no ha hecho más que crecer y cada semana que pasa crece más que la anterior. Esto es una cosa de crecimiento exponencial que es para que nos volvamos locos.
Y ahí llegamos entonces al momento más incómodo de toda la conversación, cuando Sandes le pregunta que cómo puede confiar la gente en que las empresas de inteligencia artificial van a proteger su privacidad cuando su modelo de negocio depende de manera entera en explotar esa misma información para entrenar nuevos modelos y venderlos todavía mejor. Y la IA le dice algo que debería estar colgado en en las paredes del Congreso y a los Estados Unidos y de cualquier democracia del mundo. Y es que no podemos confiar, se tiene que regular de alguna manera, se tiene que ser capaz de intervenir de alguna manera en este proceso de eh minería de datos con la que al final los seres humanos vamos a hacer un cero a la izquierda y simplemente vamos a ser las coballas de una inteligencia artificial que nos va a acabar superando. Insisto, es que esto parece ciencia ficción, parece de película de miedo, pero es lo que estamos viviendo.
Y cuando le plantea la posibilidad de frenar los centros de datos para y yo tampoco estoy de acuerdo e que esto igual sea lo más inmediato porque igual los frenas en un sitio, pero los abrirán en otro sitio. O sea, yo creo que esto es imparable. Y la cosa no es ponerle puertas al campo, la cosa es hacer regulación efectiva. Y ahora que los estados todavía son poderosos, intentar que desde los estados que pueden ser controlados democráticamente pongamos algún tipo de límite a estas grandes empresas multimillonarias, porque si nos vamos a ver en un sentido de un [resoplido] futuro de ciencia ficción en el que los estados no tengan ningún tipo de capacidad para decidir sobre las vidas democráticamente de las personas, sino que sean unas pocas empresas cuya diferencia fundamental con un estado es que un estado, a pesar de todas las dificultades y todas la burocracia, etcétera. En última instancia está controlado por el voto de las personas. Estas grandes empresas, ¿no? Esas grandes empresas dependen al 100% de la voluntad privada de sus accionistas, que la mayor parte de los casos son unas pocas personas. Los Mar Sakeber, los San Alman, los Jeff Bezos, todas estas personas, los Elon Musk. Es que esto es una inteligencia artificial desarrollada por una empresa privada. Lo que acabamos de ver en este vídeo, que acaba de reconocer delante de un senador, ha dicho, "Soy senador", le decía, "Senador, esto es dinero, etcétera, etcétera." Reconoce además que hay que apoyar la regulación de su propia industria, que ha sido bloqueada por el dinero que ha dado su propia industria a muchos lobistas, que al mismo tiempo financiaban a muchos políticos para que esto no se pueda parar. Pero la illa cuando se lo preguntan se lo dicen con datos que afirman esta eh que confirman esta afirmación que no son especulativos, que la mayor parte de agencias que están estudiando qué es lo que está ocurriendo aquí se están dando cuenta que efectivamente se están inyectando una gran cantidad de millones de dólares en comités de acción política para intentar influir en que las cuestiones que tienen que ver con el desarrollo de la IA no se no se paren ni se detengan y sigan avanzando a una velocidad absolutamente extrema que va muy por delante de cualquier cualquier tipo de regulación política que nos va a dejar en un planeta que incluso los propios líderes de esas empresas tendrían que temer y de hecho temen, pero sabéis que temen también que el de la empresa de al lado vaya más rápido que ellos y entonces tienen que acelerar más. ¿Sabéis la típica escena de película de coches en la que hay dos coches como que están yendo muy rápidos, rectos hacia un precipicio, pero claro, gana el que frena más tarde. Bueno, pues esto es lo exactamente lo mismo. están todas las empresas de IA avanzando lo más rápido posible, mirando por la ventanilla que tiene al coche de al lado, que está igual de rápido que ellos, entonces tienen que acelerar más, pero ven que está ahí el precipicio y el precipicio es precipicio es una cosa que no saben a dónde les lleva, pero siguen acelerando, siguen acelerando por miedo a que lleguen antes los otros y que en el precipicio, en lugar de un precipicio, haya algo bonito, maravilloso, un mundo mejor, que es la promesa, que se puede malograr por el camino fácilmente y que efectivamente sea un precipicio. Entonces, no dejan de acelerar, no dejan de acelerar hasta que sea demasiado tarde.
Sanders lleva meses advirtiendo sobre esto y ahora puede parecer una cosa freaky que le interesa a unos pocos, a los que estáis en este vídeo, a mí y y a no mucha más gente eh de gente que escribimos este tipo de libros o sea diciendo sobre este tipo de cuestiones. Pero es que en 10 años todos los que no atendieron sobre este asunto dirán, "Mierda, tendríamos que haber atendido porque fracasamos en el caso de que no se haga el trabajo que hay que hacer." Y Sanders ha dicho en el Senado lo mismo que está diciendo en estos vídeos, que los mismos oligarcas que llevan décadas amañando la economía a su favor, ahora se están moviendo para hacer lo mismo con la inteligencia artificial, que el Congreso debería asegurarse de que esta tecnología beneficie a los trabajadores y no solo a los consejos de administración, a Wall Street y a cuatro personas multimillonarias. Y esto no es retórica, amigos. Esto es una descripción bastante precisa de lo que está ocurriendo y ha ocurrido siempre, pero ahora de manera completamente alineada a lo absurdo.
Ahora bien, también hay que decir algo del entusiasmo con el vídeo que tiende a pasar por alto, porque es que la IA no es un testigo independiente, no es un informante, es un sistema que genera respuestas optimizadas que están bastante bien, eh, y ha dicho cosas que tienen bastante sentido. Por eso al final es capaz de de alguna manera negociar o reconocer y darle la razón a Vernis Anders en el caso de pues sí, igual sería interesante esa esa moratoria.
es que la puede ser una cosa maravillosa que nos libere a al mundo del trabajo, que permita redistribuir la riqueza, generar eh un estadio [resoplido] de riqueza o de superproducción de alimentos en el mundo y bien repartidos, no como ahora que se tiran porque eh que nos permita superar como el estadio del capitalismo en el que estamos ahora mismo. Ahora mismo tenemos un mercado de oferta y demanda y entonces los precios se fluctúan en función de eso. La gente produce en función de lo que demanda el mercado. Eso genera muchos excedentes que se pierden y que se tienen que tirar. Hay gran cantidad de toneladas de comida que se tiran cada día que podrían alimentar a más de dos planetas, pero sin embargo, con una inteligencia artificial podría saber antes que nosotros en lugar de qué colchón nos tiene que vender o qué anuncios sobre inmigración darnos para que nos enfademos y votemos a determinada eh opción política, nos podría dar tal vez la posibilidad de saber cuáles son nuestros hábitos de consumo agregando los datos de millones y millones de personas y saber en todo momento cuánta comida se necesita en este lugar, cuánta en esta otra, granjas independientes que generen comida sin necesidad de que haya actividad humana. fábricas y que fabriquen cosas sin que haya gente haciendo trabajos todo el rato exactamente iguales. Y eso nos daría a la práctica una especie de comunismo del siglo XXI en el que todo el mundo tendría lo que necesita de manera superbarata y bien distribuida. Pero claro, hay esa posibilidad en el horizonte a la que podríamos avanzar o hay otra que es del capitalismo de vigilancia más cruel en el que hay unas pocas personas que lo controlen absolutamente todo.
El debate es apasionante, como veis, y al mismo tiempo también terrorífico. Pero bueno, espero que os haya interesado esto que contaba aquí Bernanders. Os leo los comentarios, os animo a comprar también el libro Ya está en preventa, civilización o barbarie, la batalla por el futuro de la humanidad. Y muchas gracias a todos y a todas por estar aquí un día más. Nos vemos en el siguiente vídeo.