El despotismo algorítmico. Vaciamiento de la democracia

“Es sencillo buscar correspondencias entre tipos de sociedad y tipos de máquinas, no porque las máquinas sean determinantes, sino porque expresan las formaciones sociales que las han originado y que las utilizan”. Así se expresaba Deleuze hace 36 años, antes de que las tecnologías nos dieran las sorpresas cotidianas que están haciendo que perdamos nuestra capacidad de sorpresa. Así, tres décadas después de Deleuze, un tema que él no mencionó -los conjuntos de datos de información personal- pasa a ocupar un lugar central en las luchas por el control de la sociedad, como anota James Brusseau (2025, “Deleuze's Postscript on the Societies of Control Updated for Big Data and Predictive Analytics”), refiriéndose a las aportaciones de Deleuze.

Continuemos con la cita: “Las antiguas sociedades de soberanía operaban con máquinas simples, palancas, poleas, relojes; las sociedades disciplinarias posteriores se equiparon con máquinas energéticas, con el riesgo pasivo de la entropía y el riesgo activo del sabotaje; las sociedades de control actúan mediante máquinas de un tercer tipo, máquinas informáticas y ordenadores cuyo riesgo pasivo son las interferencias y cuyo riesgo activo son la piratería y la inoculación de virus. No es solamente una evolución tecnológica, es una profunda mutación del capitalismo”. Siguiendo el filón de su argumentación, Deleuze señalaba que “No es un capitalismo de producción sino de productos” (1990). En esta frontera del cambio es que nos encontramos, con tecnologías de la dominación comunicacional que, hasta hace pocos años, eran impensables sus alcances y capacidad de penetración.

Llueve sobre mojado, pues retornamos a un punto que hemos trabajado en estas páginas: las tecnologías digitales son la concreción de las formaciones sociales, es decir, no son políticamente neutrales. Su diseño, sus modelos de negocio y sus formas de uso se encuentran inscritos en relaciones sociales concretas.

Sumemos algo planteado por Santiago Bilinkis: “cada vez pensamos menos […] pensar se está volviendo optativo”. Enredados en una madeja de poder, insiste Bilinkis: en el presente, concretando la tentación de no pensar, existen “redes diseñadas para que no podamos hacer un uso lógico” (https://www.youtube.com/watch?v=8vIt7YQb8sw&t=2574s&pp=ygUXY2FkYSB2ZXogcGVuc2Ftb3MgbWVub3M%3D).

En general, el algoritmo está moldeando socialmente, no hay paciencia en su influencia. Se expresa en algo simple y seductor: el acto de delegar en la máquina actividades cognitivas básicas.

Ahora, a estos factores de tensión problemáticos agreguemos algo más, ahora referido a la cuestión de la democracia. En determinadas condiciones, la personalización algorítmica, la individualización del consumo, la sustitución de espacios físicos de encuentro y la segmentación de los espacios públicos pueden contribuir a debilitar las prácticas de encuentro, conversación, deliberación y organización colectiva, que constituyen algunas de las condiciones sociales de la democracia. Se avanza en esta tarea sobre franjas sociales en las que se han rasurado experiencias de resistencias y de posicionamientos críticos, como formas de control social general.

La oligarquía tecnológica (conformada por los propietarios y controladores de grandes infraestructuras digitales, plataformas, datos, capital financiero-tecnológico y sistemas algorítmicos), ligada en particular a todo el universo de lo digital, no discute, no establece diálogos, simplemente, aun con la complejidad, negocia y acuerda. Los integrantes de estas élites poderosísimas, críticos de la acción estatal, del regulacionismo, que subrayan lo meritocrático y donde la gran ausencia está en pensar la desigualdad, son los primeros que disminuyen cualquier opción democrática. Por ello, vale nuevamente hacer una vieja pregunta: ¿a la derecha le interesa la democracia?

Alejandro Espinosa Yáñez

Recordemos el planteo de Peter Thiel (Palantir, paladín de la Ilustración Oscura), importante agente en Silicon Valley, con influencia clave en D. Trump, y personaje clave de las ligas mayores de la oligarquía tecnológica: “Ya no creo que la libertad y la democracia sean compatibles”. Afirmación tajante. No está de más traer a esta discusión a Javier Milei, presidente argentino, frente a una pregunta de una periodista cuando él era candidato, donde se negó a contestar si creía o no en la democracia. Su respuesta fue: “Digamos, yo creo que la democracia tiene muchísimos errores... A ver, ¿conocés el teorema de imposibilidad de Arrow? […] tampoco se puede pontificar la democracia”, sin contestar si cree en la democracia (entrevista en Todo Noticias, 31/10/2023). Para esta nueva derecha, que no es toda la derecha y que aquí se expresa en dos sujetos, pero que forman parte de la ultraderecha global con los matices enunciados, creo que ahora la discusión de la democracia ocupa un rango de bajo relieve. Eso, por un lado. Por otro, al reducir las tecnologías por la vía de los hechos el encuentro social, disminuye en sus prácticas, aunque no es algo mecánico, el encuentro democrático. Finalmente, pensando en que las tecnologías tienen correspondencia con las estructuras sociales, siguiendo a Deleuze, las tecnologías se construyen con la base de las relaciones sociales, de intenciones concretas, en fin, no son producto del azar. Así, bajo este supuesto, ¿las nuevas tecnologías digitales no estarán desplegando, en sus usos, razones para acentuar el individualismo y al mismo tiempo disminuir la conversación social, como un aspecto central de la democracia?

Las tecnologías digitales no producen mecánicamente individualismo o pérdida de democracia. Pero si determinados diseños tecnológicos, bajo determinadas relaciones sociales y económicas, favorecen, intensifican y normalizan ciertas formas de individualización y de debilitamiento de la deliberación colectiva, con esto contribuyen en la erosión de la democracia. Esto se aprecia en que la oligarquía tecnológica no necesita discutir: necesita negociar. Establezcamos la diferencia entre dialogar y negociar/acordar. La deliberación democrática supone algo incómodo: reconocer al otro como interlocutor, aceptar que puede tener razones diferentes, exponerse a modificar la propia posición y admitir que una decisión puede ser resultado de un proceso colectivo. En las posturas autoritarias, la derecha se inclina por esto, es lo dominante. Y la existencia y reproducción de burbujas digitales compartimentalizadas son parte de esta disminución de la arena pública, de la conversación social.

La negociación es otra cosa. Puede existir entre sujetos con intereses contrapuestos, pero su finalidad no necesariamente es construir una voluntad común. Se trata de hacer compatibles intereses, distribuir posiciones y alcanzar acuerdos. No podemos soslayar que esta nueva oligarquía tecnológica posee una enorme concentración de recursos económicos, información, infraestructura y capacidad técnica, que puede permitirle desplazar el conflicto desde el espacio público hacia la negociación entre élites.

Gilles Deleuze, en “Post-scriptum sobre las sociedades de control” (1990/1992), texto con el que abrimos esta colaboración, plantea el paso de los espacios cerrados, propios de la sociedad disciplinaria, a mecanismos de control continuo, modulación, información y códigos. El individuo empieza a transformarse en lo que llama el “dividuo”, mientras las masas pueden convertirse en datos, mercados o bancos de información. Recordemos que individuo viene del latín individuus, que significa indivisible o lo que no se puede dividir. Dividualización, siguiendo el razonamiento de Deleuze, por su parte, es el proceso por el cual el poder moderno fragmenta la unidad psicológica y corporal del individuo en datos, flujos de información y variables estadísticas, transformándolo en un “dividuo”, un ser fragmentado, escindido, como parte del control de las poblaciones.

En esta rendija analítica, ¿las tecnologías digitales estarán favoreciendo una sociedad cada vez más individualizada y, simultáneamente, menos conversacional? En la saga problemática se puede distinguir tecnología digital, seguida de individualización/dividualización, con el debilitamiento de la conversación y del encuentro, más el control bajo el paraguas del gobierno algorítmico, que en su ensamble incide en la transformación de las condiciones sociales de la democracia.

A partir de lo enunciado, volvemos a la pregunta: ¿A la derecha le interesa la democracia? Incluso, ¿qué tipo de democracia resulta compatible con una sociedad en la que una parte creciente de las decisiones relevantes se desplaza desde la deliberación pública hacia la negociación entre actores económicos, gobiernos y propietarios de infraestructuras tecnológicas?

Esto no acepta un simple sí o no. Así, el problema democrático no está solamente en las ideas de la derecha, sino en la transformación del espacio donde se encuentra la sociedad, en el entendido de que la democracia no es únicamente una institución electoral. También requiere lugares, tiempos y prácticas de encuentro. Hay que llenar de contenidos a la democracia, de manera urgente frente a esta ofensiva neoliberal.

La plaza pública, el sindicato, la asamblea, el partido político, la universidad, el café, la organización vecinal, la iglesia, incluso determinados espacios laborales, han sido históricamente muy importantes. P. ej. las aportaciones de los científicos sociales William H. Whyte y C. Wright Mills que rescataban la importancia de los clubes y organizaciones locales, que trabajaban como observatorios sobre la cohesión social, y los clubes de fútbol en Argentina, que funcionan y se organizan como asociaciones civiles sin fines de lucro, pertenecientes a sus socios, actualmente cuestionados en aras de la privatización de los clubes de fútbol, es decir, de que avancen las Sociedades Anónimas Deportivas como entidades comerciales, la apuesta de Milei en Argentina. Asuntos de negocios y de desarticulación social.

En una colaboración pasada apuntábamos algunas ideas sobre la pérdida de la cohesión social en estas infraestructuras sociales de conversación. Justamente hemos venido trabajando la idea de la desarticulación de nexos sociales convencionales: disminución de la natalidad, aumento de hogares unipersonales, divorcio, debilitamiento de organizaciones colectivas, etc.

Poco abona en la comprensión del problema en tensión señalar que la tecnología causa directamente esos fenómenos. Pero sí puede plantearse que la digitalización encuentra una sociedad que ya se está individualizando y, al mismo tiempo, puede proporcionar las condiciones materiales para profundizar esa individualización, entonces podemos trazar el mapa de un circuito multilineal: individualización social - tecnologías diseñadas para el usuario individual - reducción de determinadas formas de encuentro - mayor individualización - nuevas formas de consumo tecnológico individualizado – individualización social, no necesariamente como una espiral, sino como un eterno retorno.

Las tecnologías digitales no son solamente instrumentos técnicos; forman parte de dispositivos sociales que organizan comportamientos, relaciones, percepciones y formas de subjetividad. En “Control y devenir”, otro texto de Deleuze, la tesis apunta que las sociedades de control no necesariamente necesitan impedir la comunicación; pueden operar precisamente a través de ella. Insistimos, comunicación no es necesariamente conversación, y conexión no es necesariamente encuentro.

La idea de Deleuze de pasar de una sociedad basada en espacios de encierro a otra basada en control continuo, códigos, información y modulación resulta sorprendentemente pertinente para pensar el universo digital actual. No es una causalidad lineal. Es una retroalimentación. ¿Qué tipo de sujeto producen las tecnologías que estamos construyendo? De nuevo, si repensamos las preguntas vinculadas al problema de la democracia, estar conectados no significa conversar. La conversación democrática requiere algo más que intercambio de mensajes. Requiere presencia del otro, escucha, desacuerdo, tiempo, argumentación y posibilidad de transformación recíproca.

Las plataformas digitales pueden producir comunicación sin conversación, interacción sin encuentro y opinión sin deliberación. Pueden producir personalización sin comunidad. De esta manera, el algoritmo conoce progresivamente aquello que nos gusta, aquello que rechazamos y aquello que probablemente querremos consumir después. De esta manera, la tecnología puede ir reduciendo la necesidad de encontrarnos con aquello que nos resulta incómodo o diferente.

El problema democrático entonces no es solamente, en lo delegativo, que alguien nos diga qué pensar. Ya esto de suyo es delicado, pero creo que se trata de algo más profundo: que la arquitectura tecnológica consiga que cada individuo habite un entorno informativo y afectivo progresivamente adaptado a sus propias preferencias, sin ver que no ve por sí mismo, casi construyéndose la pregunta de ¿qué sentido tiene pensar por sí mismo? Sobre esto Yuval Noah Harari alerta sobre el peligro del libre albedrío, y la vulnerabilidad del sujeto frente a la tecnología actual: “Los gobiernos y las corporaciones pronto te conocerán mejor de lo que te conoces a ti mismo. Creer en la idea del ‘libre albedrío’ se ha vuelto peligroso” (The Guardian, 14/09/2018). Es un argumento a problematizar, sobre todo en su segunda parte, pero que, para los fines de la discusión sobre la influencia de las redes sociales en los comportamientos sociales, pasando por lo individual, es pertinente introducir aquí para su discusión, y la noción móvil del libre albedrío.

Eso favorece el individualismo de una manera mucho más profunda que la simple defensa ideológica del individualismo. La tecnología digital promete personalización, mientras la democracia requiere cierta experiencia de comunalidad. Mientras el algoritmo se pregunta y se aplica sobre el individuo, modulando comportamientos, para predecirlos, la democracia se mueve con otros interrogantes, por ejemplo, ¿qué podemos decidir entre individuos diferentes? La democracia implica necesariamente fricción social. Encontrarse con el otro significa encontrarse con alguien que no piensa como uno, que tiene otros intereses, otra experiencia y otra concepción del mundo. Se trata entonces de lógicas diferentes.

Una sociedad completamente personalizada puede volverse muy cómoda para el individuo, pero políticamente peligrosa para la democracia. Relacionemos esto con la oligarquía tecnológica. La oligarquía tecnológica no necesita necesariamente abolir la democracia. Puede contribuir a vaciar las condiciones sociales que hacen posible la deliberación democrática. No tendríamos necesariamente la presencia de golpes de Estado, como los que caracterizaron gran parte de América Latina en el siglo XX; podríamos ser testigos y partícipes de algo mucho más silencioso: menos conversación social, menos organización, menos encuentro, menos espacios colectivos, más personalización, más administración algorítmica y más negociación entre grandes actores.

Entonces la democracia puede continuar formalmente existiendo -elecciones, parlamentos, partidos, instituciones- mientras se debilitan progresivamente las condiciones sociales para su ejercicio real. Para la Comisión Trilateral, en la que reflexionábamos en anteriores colaboraciones, el desafío de la gobernabilidad con reducción democrática implicaba gobernar una sociedad organizada. En la actualidad es otro el desafío, pues la Ilustración Oscura pretende administrar una sociedad atomizada. Porque una sociedad organizada delibera, negocia, protesta, se sindicaliza, se moviliza y construye intereses colectivos, mientras que una sociedad atomizada puede ser administrada, segmentada, perfilada, monitorizada y gobernada algorítmicamente.

Las tecnologías digitales no son políticamente neutrales. Su diseño, sus modelos de negocio y sus formas de uso se encuentran inscritos en relaciones sociales concretas. En determinadas condiciones, la personalización algorítmica, la individualización del consumo, la sustitución de espacios físicos de encuentro y la segmentación de los públicos pueden contribuir a debilitar las prácticas de conversación, deliberación y organización colectiva que constituyen algunas de las condiciones sociológicas de la democracia.

Si la democracia necesita ciudadanos capaces de encontrarse con otros, deliberar y construir decisiones colectivas, ¿qué ocurre cuando las tecnologías digitales tienden a organizar la experiencia social alrededor de individuos cada vez más personalizados, aislados y administrados algorítmicamente, cuando la política se convierte socialmente en una mala costumbre, al menos para amplios sectores sociales?

Quizá estamos en el tránsito de una sociedad estructurada alrededor de vínculos colectivos hacia una sociedad fragmentada, con individuos divididos, intervenidos, con una arquitectura organizacional que exacerba estas inercias, susceptible de gobernabilidad algorítmica. El avance para la disminución de la democracia exige una sociedad degradada en su capacidad reflexiva. Claro que no es una historia clausurada, pero hay señales en curso de este umbral de mínima intensidad democrática. Es parte de lo que quisimos reflexionar en esta nota.

PS. Alto al genocidio en Palestina

(Profesor UAM)

Únete a nuestro canal