Transcription
Esquizofrenia digital, bajo el subtítulo "La crisis del espíritu en la era de las nuevas tecnologías", es un libro de la filósofa francesa Ann Alomber, publicado en su idioma original en 2023 y en español en 2025.
La digitalización de la existencia ha transformado las relaciones sociales en meras conductas pulsionales, impulsos que buscan satisfacción sin un objetivo fijo. Estamos hipersolicitados y agotados, pero esos microcontos cotidianos no conducen a nada. Es común la idea de que nos vinculamos cada vez menos con los otros y cada vez más con nosotros mismos, pero ni siquiera, dice Alomber, porque en realidad nos vinculamos con nuestros dobles digitales, con esas burbujas de sentido que los algoritmos construyen para nosotros. Las conversaciones se han reducido a cálculos automatizados y secuencias programadas.
A pesar de sus posibilidades para abarcarlo todo y estar en todas partes, las tecnologías de la información y la comunicación parecen poner en peligro la libertad del espíritu. Este tipo de libertad que requiere una toma de distancia temporal, un rechazo de todas esas sensaciones incoherentes o violentas que nos obligan a vivir en el presente. Hace casi un siglo, el filósofo francés Paul Valéry decía que la reflexión, la meditación, la atención, la crítica, en definitiva, cualquier actividad de la mente requiere de su propio ritmo. Por eso se ve perturbada por las sacudidas incesantes que propinan las noticias, desintegrando las facultades de sentir y de pensar.
Tomando la idea de Valéry, podemos decir que vivimos bajo un régimen perpetuo de perturbación de nuestra inteligencia. Estamos permanentemente convocados a reaccionar a cada instante. Nuestros cuerpos y mentes deben absorber en un día tanta música, pintura, drogas, bebidas, espectáculos, viajes, ansiedad política y económica. "¿Cómo podía absorber toda la humanidad entre siglos?", sostenía el escritor francés en 1930. Pero parece estar hablando hoy sobre nuestra sociedad actual.
Una sobrecarga de información que nos afecta en múltiples patologías, desde el déficit de atención que sufren mayormente los jóvenes al síndrome de saturación cognitiva que suelen sufrir los ejecutivos, pasando por la hiperconexión, el estrés tecnológico y la infoobesidad, desembocando en la era de la postverdad. La carrera por la innovación tecnológica no deja de acelerarse y el proceso de dislocación teletecológica que nos dispersa en tiempo real y a escala planetaria avanza a medida que se deterioran las condiciones de vida de la biósfera. Convergen ambas problemáticas y los universos digitales aparecen como refugios fantasmáticos en un contexto de crisis ecológica cada vez más apocalíptico. Un apocalipsis científicamente previsto que no conduce al reino de Dios, sino al de Mark Zuckerberg y su metaverso.
A caballo entre la ideología del progreso tecnológico y la realidad de la crisis ecológica, nuestra época parece sufrir una verdadera esquizofrenia digital. Al mismo tiempo que los discursos transhumanistas anuncian el progreso arrollador y exponencial de la inteligencia artificial, se multiplican los estudios científicos que advierten sobre los trastornos psíquicos que provocan la sobreexposición a las pantallas o la destrucción de la capacidad atenta de la estimulación informativa. El neurocientífico francés Michel de Montaigne denuncia el intento de descerebrar a las nuevas generaciones a través del excesivo consumo de pantallas, afectando su capacidad de pensar.
La mayor parte de las plataformas, redes sociales y aplicaciones están al servicio de la economía de datos y de la economía de la atención, destinadas a vender el tiempo que pasamos delante de las pantallas. Un sistema de subasta automatizada que se ejecuta varias veces por segundo mediante complejos cálculos algorítmicos por detrás del entretenimiento de nuestros dispositivos. Los dispositivos digitales se están convirtiendo en tecnologías persuasivas destinadas a captar las mentes e influir en los comportamientos basadas en el principio del diseño conductual y la llamada captología.
La captología es una disciplina impartida en el departamento de comportamiento de la Universidad de Stanford, que es uno de los centros de estudios que forma a gran parte de los creadores de Silicon Valley. La captología es la convergencia de ciencia cognitiva, psicología conductual, neurociencia, informática y técnicas de persuasión, a través de las cuales las interfaces digitales se están convirtiendo en medios para influir en los comportamientos. Mientras la recolección masiva de datos permite a los algoritmos segmentar a los usuarios según particularidades y gustos y adaptar las publicidades a sus perfiles, las interfaces digitales actúan directamente sobre los mecanismos cerebrales para maximizar el enganche y desencadenar comportamientos impulsivos.
La técnica del scroll infinito que hace desfilar imágenes y videos sin cesar ante nuestros ojos. Las notificaciones sonoras y visuales que mantienen nuestra atención hiperalerta. Las aplicaciones gamificadas que estimulan la secreción de dopamina asociada a la sensación de placer. Son actividades que participan de este impacto de los dispositivos en nuestras mentes. El funcionamiento de las tecnologías digitales persuasivas evidencia un conocimiento y una explotación muy sofisticados de nuestros procesos cerebrales y cognitivos más primitivos.
Las tecnologías persuasivas no son nuevas. Tienen un siglo de investigación en psicología cognitiva e inteligencia artificial. Dos disciplinas que florecieron entre las décadas de 1950 y 1970. Los dispositivos tecnológicos actuales se basan en los paradigmas cognitivistas y conductistas que convergen en la idea de concebir a la cognición en tanto procesamiento de información y al individuo como un sistema de entrada-salida (input-output) que reacciona a las señales de su entorno.
Pero las teorías de la mente y el comportamiento no son neutrales. El psicólogo estadounidense Frank Rosenblatt, inventor del primer algoritmo de aprendizaje, origen de las redes neuronales artificiales que abren el camino a la inteligencia artificial, afirmaba haberse inspirado en los trabajos de Friedrich Hayek, premio Nobel de Economía y teórico del neoliberalismo. Antes de volcarse a la economía, Hayek estudió psicología y escribió un libro en el que proponía concebir a la mente como un sistema de clasificación que permitía conectar estímulos sensoriales con conexiones mentales, anticipando la idea en la que se basan la inteligencia artificial y los sistemas de aprendizaje automático actuales.
Hayek no dudó en extender este paradigma de las redes neuronales que modelan el funcionamiento del cerebro al funcionamiento de la sociedad. Así llegó a la conclusión de que las fluctuaciones de los precios de los productos modifican los comportamientos de los individuos y permiten el surgimiento de lo que considera un orden social óptimo, basado únicamente en las leyes del mercado, concebido como un sistema de información autorregulado.
Herbert Simon, economista y teórico de las ciencias sociales, será en la década de 1950 el inspirador de la economía de la atención y de la economía del comportamiento. En los 70, Simon plantea por primera vez la cuestión de la economía de la atención, viendo que un mundo cada vez más recargado de información genera atenciones individuales que se convierten en un recurso que hay que canalizar y dirigir. Cuando Herbert Simon gana el Premio Nobel de Economía en 1978, lo hace por su noción de racionalidad limitada, consistente en que en entornos complejos las personas, en tanto agentes económicos, no disponemos nunca de toda la información que necesitamos para tomar una decisión óptima, por lo cual optamos por la mejor decisión posible, la que consideramos más adecuada frente a nuestro limitado conocimiento.
Esta teoría estará en el centro de la economía del comportamiento, vinculando la psicología cognitiva con la economía, incorporando luego la neurociencia para dar forma a la neuroeconomía, actualmente uno de los segmentos de la economía de mayor influencia política. En base a esta teoría, se plantea el objetivo de estudiar los sesgos cognitivos que caracterizan las decisiones y acciones de las personas con el fin de modificar sus comportamientos. Los individuos incapaces de adoptar un comportamiento óptimo deberán ser entrenados por señales que emanen de su entorno sin que se sientan como imposiciones, sino incitaciones suaves que nos orienten a nivel subconsciente.
Este principio será tomado en la década de 2010 en la teoría del "nudge" o teoría del empujón, que consiste en alterar sutilmente algún factor del entorno en el que las personas toman decisiones, corrigiendo o impulsando de ese modo sus sesgos cognitivos, pero sin afectar su libertad final de elección. De esta manera se genera una nueva forma de paternalismo de carácter libertario: paternalismo, porque se trata de infantilizar a los individuos para imponerles subrepticiamente tal o cual comportamiento, pero también libertario, porque ese ejercicio de manipulación no surge de una autoridad política central, sino del orden del mercado.
En el marco digital, cuando surgen esas interfaces manipuladoras, nos encontramos sometidos a dispositivos que nos influencian sin que seamos conscientes y corremos el riesgo de convertirnos en cerebros de los que las empresas sacan provecho minuto a minuto. Un siglo después de las palabras de Valéry, dos vías parecen abrirse hacia el futuro del espíritu: o bien su reducción a un conjunto de procesos cerebrales o su formalización a la manera de cálculos estadísticos en máquinas algorítmicas.
Por un lado, la ideología neurocentrista, que reduce el pensamiento a un conjunto de conexiones neuronales y procesos electroquímicos y encuentra su realización en la explotación de las mentes por las tecnologías persuasivas. Por otro lado, la ideología cognitivista que equipara el pensamiento al procesamiento de datos y a los algoritmos. Esta teoría impregna el discurso transhumanista que postula la descarga de la mente en soportes informáticos.
Estos dos enfoques son, de hecho, uno y el mismo, ya que es necesario reducir primero el espíritu a un conjunto de operaciones lógicas que se desarrollan en el cerebro para poder aspirar luego a formalizar esas operaciones lógicas y traducirlas en dispositivos algorítmicos. Pero, dice Ann Alomber, que esta doble perspectiva cognitivista y neurocentrista se basa en un error fundamental: el de intentar situar el espíritu en un espacio objetivo, ya sea el cerebro o la máquina, como si se tratara de una cosa material observable.
Debemos volver al viejo debate de si el espíritu es una cosa material o incorpórea. Por supuesto que no. El espíritu no es algo material o inmaterial, ni biológico ni mecánico, porque sencillamente no es una cosa. Desde el momento que pensamos a la mente como una cosa individual y sustancial, caemos en la tentación de materializarla reduciéndola al cerebro o a una máquina o de idealizarla pensándola como un alma separada del cuerpo y, por tanto, posiblemente inmortal. Materialismo e idealismo son víctimas de la misma ilusión que consiste en sustancializar la mente.
Pero la mente no es sustancia porque la mente, en sentido estricto, no es, dice Alomber. La mente es una actividad o un proceso que presupone la existencia de cuerpos vivientes y la presencia de un medio técnico. Circula entre cerebros que están intermediados por soportes técnicos, que son al mismo tiempo soportes simbólicos. El pensamiento constituye un proceso de individualización en el que seres vivientes y deseantes se vinculan colectivamente compartiendo símbolos y significados. La mente se sitúa en esos símbolos y significados compartidos sostenidos en dispositivos artificiales sin los cuales el pensamiento no podría ejercerse.
La circulación de mentes implica un doble proceso: interiorización psíquica y exteriorización técnica. Las experiencias se sedimentan en dispositivos de memoria que luego pueden resurgir a través de individuos vivientes. Porque los soportes de memoria permiten a los espíritus comunicarse a distancia, ya sea una distancia física, transportados por una carta o en un mensaje de WhatsApp, pero también a una distancia temporal, la lectura de un libro años después de haber sido escrito.
No se trata de oponer materia y espíritu como ha hecho durante mucho tiempo la tradición filosófica, ni identificar la mente con el procesamiento de datos, como hoy hacen los discursos transhumanistas. El desafío consiste en superar la disyuntiva entre una metafísica humanista que enfrenta al hombre con la máquina, lo que conduce a condenar la técnica para proteger a la mente, y una metafísica cognitivista que identifica pensamiento con cálculo, lo que conduce a automatizar el espíritu mediante la tecnología. Solo superando esta disyuntiva será posible considerar los soportes técnicos como soportes simbólicos.
Un libro es un ejemplo de soporte técnico-simbólico mediado en el que se exteriorizan experiencias, conocimientos o acciones imaginarias mediante símbolos alfabéticos que fueron aprendidos y que serán interiorizados mediante la lectura por otros cuerpos que manejan los mismos símbolos. Y este tipo de transmisión no es originaria de la escritura, porque si nos remontamos al principio de la historia humana, ya las pinturas rupestres representaban experiencias exteriorizadas hace millones de años.
Desde esas pinturas rupestres a las tecnologías digitales, la transmisión mediada requiere de ciertas condiciones de posibilidad. Supone la práctica con soportes materiales y la educación de las personas. Este proceso es tan importante que si los saberes y las culturas de las personas ya no pudieran transmitirse a través de los soportes, entonces los espíritus dejarían de circular. Por eso resulta fundamental que la gente sepa de pintura para poder descifrar mejor una obra, o que haya leído muchos libros o haberlos escrito para comprender un texto literario, o conocer la teoría o práctica de filmación y montaje para apreciar una película.
Si bien los soportes como la pintura, el libro o el cine pueden ser captados por quien no haya tenido ninguna experiencia previa con ellos, el espectador que sí la haya tenido verá cosas distintas ante cada obra y ese conocimiento le permite abrirse a una mirada más crítica. Por esa misma razón es necesario que entendamos el funcionamiento de las redes sociales y la lógica de los algoritmos para poder recibir de manera reflexiva y crítica sus contenidos que circulan en las pantallas. Porque las tecnologías digitales son tecnologías de la mente, soportes del patrimonio cultural que han permitido una diversificación sin precedentes de fuentes de información y nuevas formas de compartir, pero que debe seguir permitiendo a los individuos reflexionar, analizar y criticar.
Por eso no tiene sentido ni rechazar ni demonizar a estas nuevas tecnologías. Lo que sí debemos cuestionar es la apropiación privada de esas tecnologías por parte de un puñado pequeño de actores, porque quienes las controlan tienen clara incidencia política. Las tecnologías de la mente, como hemos visto, siempre corren el riesgo de transformarse en tecnologías persuasivas y en instrumentos de dominación y manipulación. Este oligopolio tecnológico en manos de un puñado de megacorporaciones da forma entonces a un psicopoder que establece qué cosas deben transmitirse y cuáles no, canalizando la atención y los deseos de las personas.
Si los efectos nocivos de la captología están entrando ahora en el debate público, no significa que el psicopoder nació con las tecnologías digitales. Ya con la aparición de la televisión se produjo una inflación de acontecimientos y fue dando origen a una tiranía de la audiencia que terminó transformando las democracias en telecracias. Pero mucho antes de la invención de la televisión, este fenómeno ya se había manifestado con el cine, que se convirtió en una industria cultural al servicio de la manipulación. Pero también porque el cine impone un ritmo narrativo propio que obliga al espectador a interrumpir sus capacidades mentales para seguir el hilo.
Los riesgos del psicopoder ya estaban presentes antes de las culturas audiovisuales, con la fotografía y su capacidad de ocultar falsedades detrás de una supuesta mirada de la realidad, y también con los soportes escritos como periódicos o libros que aceleraron la circulación de saberes y que ocuparon el lugar jerárquico del entendimiento, bloqueando el pensamiento propio, aunque tengan también la capacidad de potenciar la reflexión y el sentido crítico si los lectores hacen el esfuerzo de reflexionar por sí mismos, tomando los saberes de los libros como insumos para el propio pensamiento. Inclusive Platón, en el siglo V, se interrogó sobre los efectos de la escritura y sintió desconfianza por la herramienta, ya que comprendió que podía utilizarse para manipular conciencias mediante técnicas retóricas. De allí su denuncia hacia los sofistas, cuya capacidad era la de poder demostrar cualquier cosa y su contrario mediante el discurso. Del mismo modo, Platón puso el acento en los peligros de la memoria externalizada en un papel escrito que puede desalentar el uso de la capacidad natural para recordar. Pero a pesar de estos peligros, Platón no condena la escritura, ya que en manos de ciudadanos virtuosos puede enriquecer los espíritus.
Del mismo modo, el mejor estudio y conocimiento de las tecnologías digitales logrará superar el mero uso automático de las interfaces intuitivas y permitir a los ciudadanos recibir los contenidos digitales de forma más crítica, sin dejarse seducir por tecnologías persuasivas. Es muy difícil recibir un contenido de manera crítica si no se tiene conocimiento del modo en que ha sido producido y distribuido, sobre todo cuando hay un mundo de imágenes falsificadas, cuando proliferan las cuentas falsas y los contenidos se clasifican mediante algoritmos opacos. En este marco, no es de extrañar que se multipliquen informaciones falsas o engañosas. La credulidad de las personas ante determinados contenidos enmascara una profunda falta de comprensión del funcionamiento de estos dispositivos.
Las normas técnicas, siempre portadoras de proyectos políticos, se ocultan tras interfaces como programas y aplicaciones que permiten un uso inmediato y sin fricciones, pero raramente reflexivo. Es muy fácil buscar información en un buscador, pero es más complicado entender las operaciones que organizan las respuestas del buscador. El debate sobre el rol de la educación en la tecnología digital no debiera estar volcado sobre enseñar el uso de los dispositivos o las competencias técnicas. El papel de la escuela no es formar consumidores de servicios de determinadas empresas tecnológicas, sino ciudadanos capaces de comprender la sociedad y para eso se requiere un abordaje antropológico, histórico y filosófico de la cuestión. Debemos impulsar el aprendizaje de la gramática y el lenguaje audiovisual. Del mismo modo que aprendemos el análisis de textos y las particularidades del lenguaje escrito, el verdadero desafío en la era de la postverdad consiste en transformar a receptores pasivos de desinformaciones, en que se han convertido los usuarios actuales del universo digital, en productores críticos de saberes colectivos.
Ya se trate de los trabajos de Gödel o de Turing, las teorías matemáticas de principios del siglo XX que abrieron el campo de la informática no podrían haber sido desarrolladas por algoritmos. Al contrario, son el resultado de una revolución científica altamente teórica. Los matemáticos y lógicos que desarrollaron este avance no se limitaron a calcular, sino a interpretar teorías pasadas y elaborar nuevas. Como sostiene el reputado tecnólogo Jan LeCun, las redes neuronales no imitan al cerebro más de lo que el ala de un avión imita a las alas de un pájaro. La estructura biológica del cerebro no tiene nada que ver con un sistema input-output de entrada y salida de datos. No es así como pensamos.
La historia de cada organismo, las fricciones entre el cuerpo y el entorno y las emociones experimentadas condicionan la actividad cerebral y las selecciones cognitivas, siempre determinadas por las expectativas y deseos de un ser viviente actuando con su entorno. Para un ser humano, memorizar no es almacenar datos en el cerebro y aprender no significa reducir la distancia entre resultados y objetivos. Memorizar y aprender suponen interpretar los datos recibidos y darles un sentido singular en función del contexto y de las experiencias vividas. El aprendizaje humano no es un experimento pavloviano. Si bien implica automatismos, no es nunca solamente automático. Aprendemos para inventar, no para adaptarnos.
Hay que desconfiar de las expresiones que nos hablan de "aprendizajes automáticos" o "inteligencia artificial". Estas metáforas antropomórficas dan forma a un lenguaje ideológico que impide plantear las preguntas esenciales en el debate público. Estas expresiones se utilizan para persuadir a la gente de que acepte innovaciones tecnológicas cuyas implicaciones sociales y psicológicas nunca se discuten y que, bien miradas, distan mucho de ser un progreso. La cuestión es saber en qué sentido orientar esa evolución y preguntarse por el significado del progreso en medio de una profunda crisis climática y económica.
Si la llamada "inteligencia artificial" nos hace olvidar cómo pensar, si las llamadas "redes sociales" nos impiden vivir en sociedad, si los llamados "agentes conversacionales" nos quitan la capacidad de desear, ¿qué queda por explotar de nuestra vida? Si bien la recolección de datos puede resultar extremadamente rentable a muy corto plazo para algunos o multiplicar los poderes centralizados del Estado. El verdadero desafío no consiste en acelerar la automatización digital, sino en abrir posibilidades de reflexión y debate.
Los algoritmos no deberían usarse para simular capacidades lingüísticas de los agentes conversacionales, sino para permitir la expresión de puntos de vista diversos, interpretación de contenidos, debates argumentados, crear un espacio público digital. Una sociedad necesita del proceso de comunicación y transmisión de saberes que no caigan en un bucle, sino que circulen por generaciones y a través de la diversidad de componentes de una comunidad. Pero con el estado actual de avance de las tecnologías digitales, este proceso debe consistir en pasar de una economía de la atención y tecnologías persuasivas, que es lo que domina la escena de hoy, a una economía de la contribución y tecnologías contributivas, lo que obviamente requiere de un cambio sustancial en materia de políticas de financiación y organización de las tecnologías.
En la actualidad, estos criterios de organización y financiación se basan en obtener rentabilidad a corto plazo. A las empresas tecnológicas no se les pide contribuir a la vida social, sino a atraer capitales financieros especulativos en base a su valor presente y futuro. Hoy tenemos un modelo de crecimiento relámpago del sector tecnológico que consiste en buscar la eliminación de toda la competencia y la existencia de un único ganador que se quede con todo el sector y homogeneice la tecnología. Esto se ve en todos los aspectos del mundo tecnológico: en redes sociales, en inteligencia artificial, en mercado electrónico; todos buscan ser los únicos ganadores.
Para generar este cambio hacia una tecnología contributiva, se requiere que los estados dejen de resignar poder a manos de las grandes corporaciones tecnológicas y sus aceitados lobbies en todos los sentidos. Se trata de devolver credibilidad a la investigación tecnocientífica, poniéndola al servicio de fines colectivos. Desarrollar investigaciones digitales contributivas permitiría salir en la práctica del terreno de la innovación destructiva y el solucionismo tecnológico, que supone que todo problema tiene una solución digital.
La apropiación ciudadana del entorno supone un profundo cambio de paradigma. No se trata de rechazar a la tecnología, sino de ponerla al servicio de los bienes comunes y de la inteligencia colectiva, no de la explotación de la atención. No se trata de rechazar la innovación y el progreso, sino de trabajar para modelos económicos e industriales basados en el intercambio de saberes más que en la mercantilización de datos que destruye psiques y sociedades. Las circunstancias políticas, económicas, sociales, los intereses y la atmósfera reinante nos dan pocas esperanzas de que las transformaciones puedan producirse, pero su necesidad es cada vez más urgente en medio de un mundo digital que nunca ha sabido menos hacia dónde va.