Transcription
[Música] Muy buenas. Hoy tenemos la suerte de contar con la presencia del Dr. Eduardo Fernández Luiña, que es un gran amigo de la Universidad Francisco Marroquín y también un gran amigo personal. Y pues entre otros cursos estuvo eh hablando sobre la inteligencia artificial, los retos de la inteligencia artificial, eh los problemas, las transformaciones que está provocando y este es un tema pues muy importante porque en la actualidad la inteligencia artificial es una de las tecnologías que más está transformando el mundo y por lo tanto pues conviene también saber sobre este tema y discutir sobre este tema y sobre todo pues con la inteligencia y claridad con la que Eduardo pues siempre afronta todos los problemas que estudia.
Entonces, Eduardo, ¿qué tú qué creerías eh que son las grandes transformaciones o las eh importancia que tiene el desarrollo de la inteligencia artificial en el mundo actual?
No, pues en primer lugar muchas gracias como siempre profesor Carrero, que siempre siempre esas presentaciones de amigos son muy agradecidas, pero el curso en realidad es un curso introductorio intentando conectar el mundo de la inteligencia artificial que efectivamente representa una revolución con el ámbito, un ámbito que a ti te gusta muchísimo, que es el ámbito de la teoría política y de la ética. Y claro, en realidad eh de lo que se trata es o de lo que se trató durante las sesiones de clase es utilizando bibliografía muy actualizada porque como bien has comentado, es un es un tema que es es de de agobiante actualidad, diría yo, ¿no? Porque es es hasta acosa, ¿no? uno busca artículos y tal y hemos intentado pues básicamente h abrir un espacio de reflexión de naturaleza ética sobre los principios éticos que deberían de guiar la inteligencia artificial por un lado y por el otro hablar de teoría política porque efectivamente la relación de la inteligencia artificial con la justicia, con la libertad, con el poder, pues es evidente y son tres ámbitos de actuación de la teoría política. política de campos de trabajo de la teoría política muy interesantes, ¿no? Y bueno, en términos generales, pues efectivamente, la inteligencia artificial es una revolución, una revolución que se siente en educación, que se siente en medicina, que se siente en comunicaciones, que se siente en producción cultural y que en cierto sentido está cambiando nuestra forma de interactuar con la tecnología un poco por la propia evolución de eso que se denomina inteligencia artificial, que yo siguiendo a un profesor de la Universidad de Oxford porque se llama Luchano Floridum, profesor de filosofía. Yo creo que quizás la primera manera de entender la inteligencia artificial y definirla es hablar de agencia y no inteligencia. Al final es una agencia sí eh que aumenta en determinadas situaciones la productividad de las personas, sí, pero que definitivamente no es inteligencia. y empezando por ahí, pues ya se puede llegar a entender, desde mi punto de vista, eh cómo sacarle provecho a la inteligencia artificial, porque sí es cierto que bien utilizada pues puede ser eh en cierto sentido beneficiosa para las personas, ¿no? Pero claro, los riesgos son pues desafortunadamente muchos y la falta de reflexión ética puede hacer que la inteligencia artificial se desarrolle por un camino peligroso para todos y que la falta de reflexión ética sobre la inteligencia artificial pues haga que las personas hm no utilicen las herramientas como se debería, ¿no?
Una una cosa muy por lo menos que a mí me parece muy significativa es eso como en cierta medida no solo está teniendo transformaciones pues digamos a gran escala en términos económicos o en términos políticos, sino también pues la vida cotidiana de las personas. De hecho, a mí me hizo, por ejemplo, me sorprendió encontrar ahora, pues hay una serie de noticias que a veces aparecen en los periódicos donde quiénes son pues los personajes más importantes según la inteligencia artificial o quiénes son los pues eh las habilidades más importantes para destacar en X según la inteligencia artificial, que por un lado parece también como una forma de un periodista un poco vago pues de sacarse una noticia sin tener prácticamente que hacer nada de trabajo, pero que también refleja pues esa idea de que ahora muchas personas utilizan estas herramientas eh como el chat GTP, pues para básicamente casi ni siquiera tener que elaborar su propia pensamiento, sino simplemente pues eh decir o repetir lo que con esta herramienta se consigue. Entonces puede tener, como dijiste tú, pues eh usos positivos que incrementen la productividad, pero por otro lado también puede tener eh usos negativos como que, por ejemplo, que vuelva a las personas demasiado dependientes. Algo similar a lo que ocurrió con Google. Google, los buscadores de internet, que son una herramienta también magnífica, por ejemplo, incluso para la investigación, pero que por otro lado también se pueden utilizar o tiene puede tener efectos negativos, pongamos por ejemplo en la memoria. eh muchas personas pues eh y eso también pues también me pasa a mí, por ejemplo, ya no necesitamos recordar, ¿no? Todo lo que necesitábamos recordar antes. Entonces, pues que como quien dice, metafóricamente subcontratamos eh la memoria y en este caso es todavía un paso más allá porque ahora está elaborando también como unos eh y digo elaborando entre comillas pues eh como unos documentos, unas eh respuestas a preguntas que se le plantean y eso puede pues también tener efectos negativos.
Sí, yo creo que eh eh esa esas cuestiones, afortunadamente hay teóricos, políticos y filósofos que están pensando sobre ellas y claro, no tenemos respuestas, pero el diagnóstico yo creo que sí existe, ¿no? La inteligencia artificial afecta nuestra autonomía y afecta nuestra capacidad crítica. En realidad, algunos hablan de la inteligencia artificial como un nuevo demiurgo, ¿no? Y eso sí se si observa porque cuando uno habla con gente que utiliza la inteligencia artificial parece que todo lo que dice la inteligencia artificial es correcto y es la verdad. Y eso está muy lejos eh de ser correcto y cierto, ¿no? Porque evidentemente la inteligencia artificial también comete errores por varias razones. Eh, pero el hecho es que sí, la autonomía de la persona se puede ver en riesgo, su capacidad de pensamiento crítico se puede ver en riesgo. La cultura del esfuerzo puede quedar dinamitada por el uso irresponsable de instrumentos de inteligencia artificial y en cierto sentido podemos desembocar en una especie de sociedad histópica en los cuales los las personas, los seres humanos nos convertamos en una especie de autómatas que sencillamente eh obedecemos y damos crédito aquello que proviene de la inteligencia artificial. Lo cual es una paradoja porque como comentaba al principio y yo estoy muy afín a esa línea de de argumentación es agencia, no inteligencia. Es una herramienta, una herramienta que utiliza datos de tres tipos: históricos, eh sintéticos, es decir, los la propia inteligencia artificial puede generar sus propios juegos y sus propias dinámicas de datos e híbridos. Y evidentemente si la calidad de los datos pues no es la adecuada, todo lo que viene después es un problema, ¿no? Entonces, claro, eso es una de las cuestiones que tocamos en el curso, ¿no? La preocupación por la autonomía de la persona, porque es verdad que con Google eh en cierto sentido nos hemos idiotizado y con la inteligencia artificial corremos el riesgo aún más, ¿no? que la inteligencia artificial generativa, pues evidentemente produce imágenes, trabaja con sonido, eh produce textos, la verdad de de forma con muchos sesgos, pero de forma adecuada. Entonces, claro, nos hace la vida, entre comillas más fácil, ¿no? Pero esa vida entre comillas más fácil es a costa de perder autonomía y de perder capacidad crítica. Mm.
Eh, de hecho, Eric Wagelin, por ejemplo, aplicaba un pensamiento general a todo uso de la tecnología, pero que se puede aplicar también a la inteligencia artificial, que era que uno de los problemas que tiene la tecnología es que produce placer en el usuario y una sensación como de control o de también de conseguir algo. Y eso pues a veces hace que la persona se vuelva dependiente de esa tecnología y que luego pues no sepa operar pues en ausencia de ella. Cuando estamos hablando de cuestiones físicas, pues eh la diferencia pues no es tan importante, pero cuando estamos hablando de cuestiones que involucran pues la capacidad de pensamiento, el análisis crítico, ahí ya se ve muy afectado. ¿Cómo crees que esto afecta, por ejemplo, en el en el ámbito de la educación? Uno de los problemas, por ejemplo, que existen es que ahora resulta más complicado establecer como una forma de evaluación, por ejemplo, trabajos escritos para los alumnos, puesto que hay en ocasiones algunos que pueden eh pues utilizar esta tecnología para no tener que hacer ese trabajo.
Sí, estamos claro, estamos yo creo que todavía estamos en una especie de proceso de prueba y error, ¿no? Algunos y yo creo que los jóvenes también, nosotros ya no tenemos ya tenemos canas, pero pero los jóvenes yo creo que están en la misma situación que nosotros, a lo mejor se adaptarán más rápido, pero son parte de ese proceso de prove error. Claro. Homo interactuar. El chat GPT puede ser una herramienta muy mala o puede ser una herramienta buena si uno la sabe utilizar. Yo yo por eso creo que la ética es tan relevante a la hora de eh en cierto sentido motivar nuestra relación con la herramienta, ¿no? La reflexión ética, ¿no? O sea, ¿por qué? Porque el chat GPT, si solo confiamos en el chat GPT para que nos diga, "Hazme un artículo y prodúceme un artículo y escríbeme un artículo de 4,000 palabras para cumplir la clase del profesor X, pues evidentemente hm eh el artículo va a estar a lo mejor en forma correcta porque el chat va a ir a sus datos históricos y va a ir a sus datos sintéticos y va a ir a sus datos híbridos y va a reflexionar, pero la pero al final con el tiempo yo creo que los profesores también aprendemos a detectar qué ha producido el chat GPT y que no ha producido La primera vez nos la cuelan, luego ya no. Ahora bien, el chat GPT, ¿para qué podría utilizarse? Por ejemplo, para hacer una rúbrica y que el estudiante se autoevaluase. Para hacer un análisis de fortalezas y debilidades del trabajo de uno, para, aunque se equivoca, pedirle bibliografía sobre algún tema. Se equivoca. El Chat GPT recomienda libros que no existen, eh, o papers que no existen y eso yo lo he comprobado, pero también hace buenas recomendaciones a veces. eh e incluso para pedirle sugerencias sobre líneas argumentales y a lo mejor haciendo buenas preguntas, que es creo lo importante en la relación con ese tipo de inteligencia artificial, que no es inteligencia, eh el la capacidad para desarrollar buenas preguntas puede ser útil para el estudiante y puede sacarle provecho a la herramienta sin torturarse a sí mismo y sin, y perdón la palabra, pero es que al paso que vamos sin idiotizarse, ¿no? Porque lo que hay que evitar es eso, ¿no? La pérdida de autonomía y la consiguiente idiotización de la persona, ¿no? Porque esa es la que tiene que ser inteligente, ¿no?
Muy bien. Pues muchísimas gracias por compartir tus reflexiones con nosotros y hasta la próxima. [Música]