Inteligencia artificial y estupidez colectiva E-Book

Jorge Millones

• Herausgeber: Marea Editorial
• Kategorie: Wissenschaft und neue Technologien
• Serie: Historia Urgente
• Sprache: Spanisch

Seitenzahl: 372

Veröffentlichungsjahr: 2025

Beschreibung

Este libro de ensayos breves presenta los debates actuales sobre el impacto multifacético de la inteligencia artificial en el marco del tecnocapitalismo.   La velocidad del desarrollo tecnológico se desató con la difusión de la inteligencia artificial. El ritmo imparable de los cambios parece llevarnos a un estado de excepción permanente, donde la vida y los derechos son suspendidos en nombre de la emergencia perpetua. Al optimismo tecnológico, se opone una mirada crítica a esta lógica de dominación, que convierte al cuerpo en un laboratorio de experimentación y control y a la mente en un campo de batalla.   Jorge Millones pone en diálogo a autores y teorías indispensables para aproximarse a este presente multifacético: Gramsci, Bourdieu, Butler, Žižek, Byung-Chul Han, Agamben, Bajtín, Bauman, Harari, McLaren, Mbembe, Bergson, Varoufakis y muchos otros.   Desde los márgenes, con perspectiva regional, el autor analiza el fenómeno de la inteligencia artificial como máxima expresión del nuevo capitalismo tecnológico, cognitivo, de plataformas y financiero. Un camino que nos deja en una "crisis del futuro" que nos impide imaginar y proyectar escenarios alternativos al presente.     "El desafío, como señala Jorge Millones, consiste en recordarnos que las tecnologías no son evoluciones de un orden natural, sino contratos sociales que renovamos a diario" (Del epílogo de Julián Urman).

Leseprobe

Millones, Jorge

Inteligencia artifical y estupidez colectiva : el tecnocapitalismo en la era del no-pensar / Jorge Millones ; Prólogo de Julián Urman. - 1a ed. - Ciudad Autónoma de Buenos Aires : Marea, 2025.

(Historia Urgente / Constanza Brunet ; 122)

Libro digital, EPUB

Archivo Digital: descarga y online

ISBN 978-987-823-099-3

1. Ensayo. 2. Sociología de la Cultura. 3. Inteligencia Artificial. I. Urman, Julián, prolog. II. Título.

CDD 006.3

Dirección editorial: Constanza Brunet

Coordinación editorial: Florencia Acher

Diseño de cubierta y colección: Hugo Pérez

Diagramación: Claudia Arce

Comunicación: Verónica Abdala

Asistencia editorial: Julieta Rojas

Título original: Inteligencia artificial y estupidez natural. Reflexiones sobre el capitalismo tecnológico

Edición original de Asociación Nuestro Sur, Espacio de Reflexión y Acción Política “Nuestro Sur” y Praxis Producciones SAC (para su sello Escuela de Formación Política PRAXIS), Lima, Perú, 2025.

© 2025 Jorge Millones

© 2025 Editorial Marea SRL

Pasaje Rivarola 115 – Ciudad de Buenos Aires – Argentina

Tel.: [phone]

[email protected] | www.editorialmarea.com.ar

ISBN 978-987-823-099-3

Conversión a formato digital: Numerikes

Todos los derechos reservados. Prohibida la reproducción total o parcial de esta obra por cualquier medio o procedimiento sin permiso escrito de la editorial.

Prólogo a esta edición La Argentina y el Perú: de las utopías compartidas a la banalidad tecnológica del mal

Lazos históricos, sociales, culturales y mutuas influencias unen al Perú y la Argentina. Aún recuerdo cuando niño, en 1982, la gran movilización nacional a favor de la causa argentina por la soberanía sobre las islas Malvinas. En esa misma década también llegaron a las radios peruanas las canciones de Charly García, GIT y Soda Stereo, y a la televisión la serie Jacinta Pichimahuida, entre muchas más. Durante la oscura década de los setenta, actores, escritores, intelectuales y deportistas argentinos se habían visto obligados a migrar y el Perú se volvió un destino natural para muchos.

Escribo ahora desde Cusco, y no puedo dejar de recordar que el Cordobazo de 1969 no cayó en saco roto en los Andes; aquí fue percibido como la actualización de aquel espíritu de rebelión que había despertado la Reforma Universitaria de 1918 en Córdoba, con fuerte impacto en América Latina. En esos tiempos, el intercambio del movimiento estudiantil cusqueño con el argentino fue intenso. Si en la Argentina estudiantes y obreros mostraban que podían torcerle el brazo a una dictadura, en la Universidad Nacional de San Antonio Abad del Cusco, los universitarios retomaban las banderas de autonomía y cogobierno para articularlas con la realidad local: campesinado que pedía tierra, la cultura andina que exigía dignidad y un movimiento social que se negaba a ser furgón de cola de Lima. El eco del Cordobazo reforzó la convicción de que la Universidad debía ser un actor político; y en Cusco eso se tradujo en huelgas, congresos estudiantiles y alianzas con sindicatos y comunidades. Córdoba y Cusco quedaron así unidas en una tradición de lucha y de oposición al centralismo capitalino.

A mediados de los años noventa, durante la dictadura fujimorista –o “dictablanda”, como algunos la llamaban–, estuvimos a punto de emigrar con mi familia, y la Argentina aparecía como la primera opción. La caída de Fujimori en el 2000 cambió mi destino, pero la fraternidad con círculos militantes porteños se mantuvo hasta hoy. Gracias a esos lazos conocimos de primera mano la debacle neoliberal que desembocó en el estallido del 2001; fuimos testigos del protagonismo social de piqueteros, escuelas y universidades populares, fábricas recuperadas y procesos culturales potentes que emergían de la lucha contra el modelo. La consigna que se repetía en las movilizaciones “¡Que se vayan todos!” nos llenó de esperanza, recordándonos que la resistencia puede abrir caminos inéditos incluso en medio de una crisis.

El ciclo kirchnerista (2003-2015) trajo consigo avances indiscutibles: políticas de memoria y derechos humanos, ampliación de derechos sociales y un intento de recuperar la centralidad del Estado frente al mercado. Sin embargo, también acumuló errores: corrupción, personalismo excesivo, falta de renovación política y una distancia creciente con sectores juveniles y populares que alguna vez habían apoyado al nuevo gobierno con entusiasmo. Esa fatiga social, sumada al desencanto con las promesas incumplidas, abrió un terreno fértil para que la propuesta ultraderechista de Javier Milei capitalizara el malestar, transformando la bronca contra “la casta” en un proyecto reaccionario.

Pero la emergencia de figuras como las de Milei, Jair Bolsonaro, Donald Trump o Rafael López Aliaga en el Perú no solo se explica por el fracaso de la clase política y la desconexión con los jóvenes, hay un factor más poderoso. Como advierte el sociólogo y amigo, Diego Sztulwark, asistimos a una ofensiva cultural de la ultraderecha, una mutación del neoliberalismo en crisis que endurece sus formas de mando y busca verticalizar el poder. En ese marco, el filósofo argentino Luis Ignacio García acuñó la categoría de fascismo cosplay: una ultraderecha que es una mueca, que se disfraza, se autoparodia y trivializa sus símbolos para hacerse tolerable socialmente, mientras en la práctica ejecuta políticas ultraneoliberales y ultraconservadoras. No es un juego, es una estrategia de poder.

Es un fenómeno en toda la región, que se fue dando poco a poco a partir de la normalización de las nuevas tecnologías hasta llegar a una suerte de “neurofascismo digital”; sofisticadas operaciones que exacerban la incomunicación, multiplican las fake news y promueven una suerte de “estupidez natural”, una estupidización colectiva basada en el odio y la desconfianza.1

Ariel Goldstein aporta una mirada clave: la ultraderecha contemporánea ya no se limita a reproducir viejas fórmulas autoritarias, sino que despliega lo que él llama una “cuarta ola de postfascismo digital”, donde se combinan fundamentalismo de mercado, moralismo religioso y guerra cultural en redes sociales. Según Goldstein, liderazgos como los de Trump, Bolsonaro y Milei se sostienen en mecanismos simbólicos como el resentimiento, la victimización y la figura del outsider, amplificados por “microemprendedores políticos” –desde influencers hasta predicadores evangélicos– que actúan como multiplicadores del discurso reaccionario.

En este contexto, el capitalismo vuelve a mutar hacia lo que Yanis Varoufakis llama “tecnofeudalismo”: un orden rentista digital dominado por los “señores de la nube”, que convierte a los usuarios en “siervos digitales” y subordina incluso a los otrora poderosos capitalistas tradicionales. Este proceso ocurre en paralelo a una alarmante desmodernización cultural, donde supersticiones, teorías conspirativas y discursos reaccionarios reemplazan al pensamiento crítico, alimentando un tribalismo que amenaza con fracturar aún más a la sociedad global.

Se desarrolla así una virulenta cruzada contra los logros de la modernidad, una ofensiva contra el pensamiento crítico que busca consolidar su poder a través de la ignorancia. Al presentar la educación como adoctrinamiento, los derechos humanos como oscuras jugarretas de los “zurdos” y desacreditar la ciencia con teorías conspirativas, estos movimientos anulan la capacidad de la sociedad para comprender y resistir su manipulación. El resultado es la desconfianza generalizada, la normalización de la irracionalidad como forma de gobierno y el fortalecimiento de populismos autoritarios, dejando a la humanidad debilitada para enfrentar crisis como el cambio climático o la desigualdad.

¿Cómo no ver aquí una estrategia de estupidización? Carlo M. Cipolla advirtió que la estupidez no consiste en la falta de inteligencia, sino en la capacidad de causar daño a otros sin obtener beneficio propio e incluso perjudicándose a sí mismo. Desde esta perspectiva, la estupidez social es una fuerza histórica devastadora porque actúa de manera masiva, irracional y previsible. En sociedades marcadas por el miedo y la manipulación mediática, la estupidez se convierte en un recurso político de gran eficacia: amplifica los prejuicios, legitima los discursos de odio y neutraliza la capacidad de juicio crítico. Como señalaba Dietrich Bonhoeffer en la Alemania nazi, el estúpido es más peligroso que el malvado, porque el mal puede ser combatido, denunciado y desenmascarado, mientras que la estupidez, blindada por la convicción y cierta moralidad, resulta impenetrable a la razón y las evidencias.

Hannah Arendt, al reflexionar sobre el juicio al líder militar nazi Adolf Eichmann, capturado en la Argentina, introdujo la idea de la banalidad del mal: la capacidad de individuos comunes y corrientes, mediocres, burocratizados y “normales” de participar en crímenes atroces, no por una voluntad explícita de hacer daño, sino simplemente por “obedecer órdenes”.

La confluencia de Cipolla, Bonhoeffer y Arendt revela una clave sociológica: la estupidez y la banalidad del mal no son fenómenos accidentales, sino mecanismos históricos que permiten la reproducción de sistemas autoritarios y genocidas. En el capitalismo tecnológico actual, esta combinación se reactualiza: la banalización de la violencia digital, el sesgo de confirmación y la obediencia ciega a los algoritmos que median las comunicaciones reproducen un mal que se presenta como neutral, mientras que la estupidez colectiva –alimentada por fake news, irracionalismo y resentimiento– prepara el terreno para que ese mal se normalice e integre en la vida cotidiana.

Presentadas como herramientas diseñadas para protegernos y simplificar la existencia cotidiana, las herramientas digitales encontraron en la pandemia un terreno fértil para acelerar la digitalización de la vida social y expandir su imperio. Las plataformas digitales ocultaron su verdadera naturaleza: no eran servicios neutrales, sino negocios insertos en la lógica del capital tecnológico. Desde diversas perspectivas teóricas, se confirma el diagnóstico de que la tecnología dista de ser neutral. Por ejemplo, Evgeny Morozov hace un llamado de atención al “solucionismo tecnológico”: la falsa creencia de que todos los problemas tienen una solución técnica crea una ilusión que consolida el poder corporativo y anula el debate político. La socióloga Shoshana Zuboff, con su concepto de “capitalismo de vigilancia”, expone cómo las plataformas digitales se han convertido en máquinas de extracción de datos. Siguiendo la teoría crítica de Zuboff, podemos comprender que lo que se consolidó entonces fue una nueva fase del capitalismo de la vigilancia: un sistema económico que convierte nuestras experiencias más íntimas en datos para transformarlos en predicciones comercializables y mecanismos de control conductual y disolución de la autonomía, un neofascismo digital.

La irrupción deslumbrante de la inteligencia artificial reforzó este sistema. Bajo la promesa de eficiencia y progreso, lo que se desplegó fueron estructuras de perfilamiento masivo al servicio de la acumulación de capital y de la estrategia bélica global. Las herramientas basadas en IA y las plataformas digitales no solo “mienten” o seducen, también modelan conductas, erosionan capacidades cognitivas y afectan con mayor intensidad a los sectores más vulnerables a través de la fabricación en masa de adictos a la dopamina gracias a la tecnología persuasiva.

La digitalización ha trascendido su naturaleza tecnológica para convertirse en un campo de batalla geopolítico que definirá los futuros regímenes de control y soberanía a nivel global. Nos encontramos ya inmersos en lo que Klaus Schwab, fundador del Foro Económico Mundial, popularizó como la “cuarta revolución industrial”, un concepto que pensadores como el historiador Yuval Harari han adoptado para analizar esta nueva era. Esta es una realidad que exige una reflexión urgente sobre nuestra capacidad de respuesta en América Latina.

De allí la urgencia de compartir con la ciudadanía un panorama crítico y, sobre todo, de abrir juntos la búsqueda de las preguntas correctas y de las posibles salidas. Los gobiernos de ultraderecha, elegidos al calor del cansancio social y de la desesperanza revanchista, comienzan a exhibir sin pudor sus garras y verdaderas intenciones; ningún velo tecnológico podrá seguir encubriéndolos. Tarde o temprano, la ciudadanía mundial deberá asumir decisiones radicales, y la cuestión de fondo será hacia dónde debe orientarse esa nueva radicalidad. Este libro intenta, modestamente, ofrecer algunos escenarios y preguntas al respecto.

Quiero agradecer de corazón a José Montero, de Editorial Militante, por abrirle las puertas a mi libro en la Argentina; a los compañeros de Nuestro Sur y de la Escuela Política Praxis, por el respaldo fraterno que hicieron posible este proyecto; y, muy especialmente, a Marea Editorial, por confiar en estas páginas y permitir que hoy estén en vuestras manos.

JORGE MILLONES

Cusco, septiembre de 2025

1 El título de la edición peruana de este libro es Inteligencia artificial y estupidez natural: Reflexiones sobre el capitalismo tecnológico (2025).

Homo Deus: el Humano 2.0 que nunca actualizaste A modo de introducción

El año 2020 marcó un cambio definitivo de época; bajo el manto oscuro de la aterradora pandemia, el mundo entero fue confinado en un panóptico global, y a la sombra de este acontecimiento, el capitalismo tecnológico, que ya se vislumbraba desde años atrás, se consolidó de una manera brutal. El enclaustramiento nos llevó a un régimen de vigilancia tecnocrático global en cuestión de horas; la vida de niños, jóvenes y adultos se transformó de la noche a la mañana; la vida digital llegó de la mano de la muerte y el miedo.

Fuimos testigos de actos heroicos y encomiables que nos llenaron de esperanza, sobre todo de los trabajadores del sector salud, pero también presenciamos la cara más deleznable del ser humano: el lucro, el poder, el abuso de poder, la falta de empatía y el egoísmo radicalizado por el capitalismo tecnológico. Bauman y Donskis (2015) le han denominado “Adiáfora”, aquella cualidad de mirar sin ver: desactivar la conciencia para que el mal sea solo un trámite administrativo.

En esta parte sudamericana del mundo, se rasgaron los velos que cubrían las falsas bondades del neoliberalismo. Los sistemas de salud colapsaron, evidenciando la gran patraña de las privatizaciones de los servicios públicos, especialmente los de salud. La miseria humana y social, provocada por más de treinta años de despojo de derechos, corrupción institucionalizada y ese tonto mantra que repetía que el mercado se regula solo, que la inversión por sí misma genera empleo y que el modelo de goteo económico era la solución, quedó expuesta. Eso nos dijeron, pero cuando llegó el Covid-19, todo ese andamiaje se derrumbó.

Por un breve lapso, pudimos ver y constatar en carne propia el daño que nos habían causado. Se manifestó en toda su crudeza lo que Achille Mbembe (2011) denominó “necropolítica”, un concepto que describe cómo los Estados y otros actores de poder, como las corporaciones, deciden quién vive y quién muere, utilizando la violencia y el control sobre los cuerpos para ejercer dominio. En este contexto, la soberanía se entiende como un ejercicio de poder mortal, donde la política se convierte en una administración de la muerte.

Por un momento el sistema quedó desnudo; su disfraz democrático se esfumó, y pudimos ver al monstruo cara a cara, sus garras sobre nuestros territorios y nuestra sangre entre sus dientes. Lamentablemente, esa gota de conciencia duró poco, reprimida y adormecida por una agresiva campaña de digitalización de la vida; a través del chantaje de la supervivencia comenzó la guerra cognitiva contra la ciudadanía, y el lavado de cerebros desde las plataformas digitales se intensificó. Mientras el virus se llevaba a los más viejos y toda su sabiduría, los que quedamos fuimos arrastrados rápidamente a la dictadura de los algoritmos, a la era de la neutralización de las indignaciones, al “sálvese quien pueda” generalizado.

En ese contexto, el capitalismo tecnológico empieza a mutar otra vez, dando a luz a una serie de realidades tan diversas como opresivas; algunas de ellas las analizaremos en los artículos siguientes. Una de las mutaciones más notables, por ejemplo, es la visión propuesta en Tecnofeudalismo (2023), del economista griego Yanis Varoufakis, proponiendo que el capitalismo tradicional ha dado lugar a un sistema estructuralmente distinto, caracterizado por la hegemonía de los “capitalistas de la nube” o “nubelistas”. Un sistema basado en plataformas digitales que generan rentas en lugar de beneficios tradicionales, rompiendo con los principios fundacionales del capitalismo, como la competencia y la innovación. Los usuarios, o “siervos de la nube”, producen capital gratuitamente al interactuar con estas plataformas, mientras que incluso los grandes capitalistas tradicionales se subordinan a esta nueva clase dominante. Aunque parasita al capitalismo clásico, similar a cómo este dependía del feudalismo agrícola, el “tecnofeudalismo” no opera a través de mercados sino mediante estructuras digitales cerradas que evocan una lógica feudal. En este contexto, Varoufakis argumenta que mantener el término “capitalismo” oscurece las profundas transformaciones económicas y políticas en curso, exigiendo un replanteamiento crítico para comprender esta nueva forma de dominación. Nace así una pequeña clase de señores feudales del mundo digital que ha obligado a los industriosos señores del viejo mundo capitalista a subordinarse al poder de los amos de la nube.

Todo este proceso se da en el marco de una constante y sistemática desmodernización del mundo, marcada por un retroceso alarmante en materia de conquistas sociales y epistemológicas de los últimos siglos. Estas corrientes, alimentadas por un rechazo visceral a la complejidad del mundo actual, promueven narrativas simplistas que exaltan elaboradas supersticiones y desprecian los avances de la ciencia y el pensamiento crítico. Paradójicamente, mientras se benefician de las plataformas tecnológicas modernas para difundir su agenda, descalifican los fundamentos que hicieron posible su desarrollo: la investigación científica, la educación secular y el espíritu de cuestionamiento. En lugar de ofrecer soluciones a los desafíos contemporáneos, estas tendencias fomentan un tribalismo reaccionario que amenaza con fragmentar aún más el tejido social y político global.

Esta cruzada contra el pensamiento crítico es el núcleo de una estrategia para consolidar el poder mediante la ignorancia. Al demonizar la educación como un espacio de “adoctrinamiento” y desacreditar el consenso científico con teorías conspirativas, estos movimientos buscan neutralizar la capacidad de las personas para analizar su realidad y resistir la manipulación. Este ataque frontal no solo socava la capacidad de las sociedades para abordar problemas como la crisis climática o las desigualdades sistémicas, sino que normaliza la irracionalidad como forma de gobierno. Al deslegitimar las herramientas del análisis crítico y la evidencia empírica, se crea un terreno fértil para el populismo y el autoritarismo, dejando a la humanidad cada vez más desprovista de los recursos necesarios para enfrentar un futuro incierto y amenazante.

Algunos, como el historiador israelí Yuval Harari, ya han estado alertando al gran público de los desafíos de la “cuarta revolución industrial”, o como prefiero llamarlo yo, el capitalismo tecnológico o digital. En su más reciente obra, Nexus (2024), Harari desmonta la idea predominante de que más información equivale a mayor conocimiento y progreso. En su lugar, argumenta que las redes informacionales modernas priorizan el poder por encima de la verdad, perpetuando dinámicas de control y exclusión. Ejemplos como el papel de Facebook en la limpieza étnica de los rohinyá evidencian cómo la tecnología puede ser utilizada no para unir a las sociedades, sino para amplificar el odio y la violencia. Harari alerta que la revolución de la IA, al ser la primera tecnología capaz de generar ideas y tomar decisiones, representa un cambio sin precedentes que podría transformar radicalmente las bases de la civilización.

Para Harari, la función de la información no es revelar la verdad, sino estructurar sociedades a través de ficciones compartidas. Desde mitos religiosos hasta narrativas contemporáneas impulsadas por algoritmos, estas redes de información consolidan vínculos, pero también amplifican desigualdades y abusos de poder. Este historiador expone cómo las plataformas digitales han creado un nuevo ecosistema en el que las mentiras viajan más rápido que las verdades, amenazando la cohesión social y dejando sin responsabilidad a sus arquitectos humanos. Las promesas iniciales de democratización y bienestar han sido reemplazadas por un sistema que prioriza la acumulación de datos y la manipulación de las percepciones colectivas.

Harari nos pone ante una encrucijada: o las sociedades construyen mecanismos de autocorrección institucional o enfrentarán un futuro dominado por máquinas y relatos deshumanizantes. Nexus no solo es un análisis de la evolución de las redes informacionales, sino un llamado urgente a reflexionar sobre el poder sin control de los algoritmos y las narrativas que estos generan. En su epílogo, insta a trabajar en la construcción de instituciones capaces de limitar el poder tecnológico y promover un equilibrio que permita a la humanidad mantenerse como autora de su propio destino. Conocido por sus obras Sapiens: De animales a dioses (2014), Homo Deus: Breve historia del mañana (2016) y 21 lecciones para el siglo XXI (2018), Harari explora el pasado, presente y futuro de la humanidad, siendo uno de los temas recurrentes en su trabajo el “transhumanismo”, movimiento intelectual y filosófico que aboga por el uso de la tecnología para mejorar las capacidades humanas, superar las limitaciones biológicas y alcanzar lo que algunos llaman un “posthumanismo”. Este historiador, devenido en futurólogo, nos avisa de los peligros del transhumanismo. Según él, estamos al borde de un nuevo apocalipsis, no con jinetes, sino con una banda de “superhumanos” que disfrutarán de la última moda en implantes biónicos mientras el resto de nosotros, los “humanos obsoletos”, seguiremos buscando la señal de wifi. Harari no solo critica con elegancia la brecha tecnológica que amenaza con convertir a los ricos en semidioses y a los pobres en meros mortales, sino que también se preocupa por nuestra creciente dependencia de los algoritmos. Esos mismos algoritmos que ya eligen qué series ver y qué pareja en Tinder nos conviene más, podrían empezar a tomar decisiones un poco más importantes, como qué profesión seguir, cómo cortarnos el pelo, hasta qué órgano operar primero. Y para rematar, Harari nos recuerda que la inteligencia artificial podría en cualquier momento decidir que nosotros, los humanos, somos un error de programación y nos digan orondamente como Terminator: “Hasta la vista, baby”.

La obra de Yuval Harari se encuentra bajo el escrutinio de diversas mentes ilustres. Entre ellas se destaca Francis Fukuyama (2002), quien fue uno de los primeros en celebrar el advenimiento del mundo unipolar y el neoliberalismo como sistema único global. Ahora, Fukuyama nos invita a detenernos y reflexionar sobre las sutiles marañas del transhumanismo que subyacen en los textos de Harari. Luego de aplaudir el supuesto “fin de la historia”, nos dice que estamos ante una “recesión democrática” y un desencanto por las democracias liberales. Muy a su pesar, el modelo neoliberal no resolvió las demandas que tanto esperaba la sociedad.

Sin embargo, no se equivoca al considerar que el transhumanismo podría representar una de las más peligrosas quimeras del presente, con implicaciones éticas y políticas que resuenan en los ecos del futuro. Pero, llega un poco tarde a esa conclusión, pues el neoliberalismo que él tanto aplaudió fue la paridora de esta época fatal. Por su parte, Slavoj Žižek (2012), el filósofo esloveno, a pesar de su oscuro hegelianismo, nos alerta sobre la visión tecnocrática del porvenir, un paisaje donde las luchas políticas y sociales no son meras notas al pie, sino una reacción a las verdaderas intenciones de la tecnocracia global, que según ellos es “llevar al ser humano a su próxima evolución”. Así, Harari, sin ser explícitamente un adalid del transhumanismo, inspira estas reflexiones. Porque en este tipo de situaciones límite, si no se toma partido, la inercia de las relaciones de poder termina engullendo cualquier pretensión de neutralidad.

Por eso, decidí tomar partido y no solo presentar los debates, aporías y demás nudos comprensivos sobre el capitalismo tecnológico y sus consecuencias, decidí hacerlo asumiendo mis propios enfoques, mi propia caja de herramientas y, cómo no, mis posiciones políticas. Y estas van desde el marxismo clásico hasta las teorías posestructuralistas, los estudios culturales, el arte y las industrias culturales, cuando no, anécdotas, que muchas veces ejemplifican mejor las situaciones y aterrizan los conceptos. Obviamente, tuve que revisar dentro de mis posibilidades, lo que se ha venido escribiendo e investigando desde diversas posiciones y enfoques sobre el transhumanismo, la economía gig, el metaverso, la guerra cognitiva, la economía de datos.

No es un libro académico, aunque pueda parecerlo, está pensado para todos. Es casi una guía para dummies, como yo. Son artículos que presento a modo de un paseo guiado por el fascinante, distópico y aterrador universo del capitalismo digital. Una panorámica de los debates que ya existen sobre el tema. El formato está pensado para leerse en desorden, si es que alguien comparte el mismo trastorno que yo, o leerse del primer artículo al último, como dicta la costumbre. En cualquier caso, lo concebí como un juego de lego: piezas que pueden ensamblarse de la forma que mejor le acomode al lector, permitiéndole construir sus propios argumentos y conclusiones. Total, como en Matrix, el destino final siempre es el mismo: convertirnos en baterías biológicas de un hiper controlado mundo cyborg.

Más allá de eso, este no es un canto a la melancólica esperanza, más bien un alegato por la rabia, por la certeza de que el último golpe de en el blanco. Aunque sea el agónico gol de honor después de una dolorosa goleada.

Telarañas digitales del poder Reflexiones sobre el nuevo capitalismo tecnológico (I)

En las últimas dos décadas, el planeta ha sido invadido por un voraz ecosistema digital que reordena nuestras vidas. Nos hallamos conectados al mundo exterior y entre nosotros mediante una maraña de artefactos, sensores, plataformas y sistemas digitales de toda índole. Nuestra existencia social se ha visto confinada a estos mecanismos, especialmente con el encierro impuesto por la pandemia, convirtiendo la vida más allá de las pantallas en una quimera extravagante, apenas concebible para la mayoría.

Esta “nueva normalidad” es lo que quedó de las políticas de confinamiento y las medidas sanitarias que exacerbaron nuestra dependencia de los dispositivos tecnológicos y las aplicaciones digitales. La abundancia de información que generamos, ya sea con un simple “me gusta” en las redes sociales, durante una reunión en Meet, al perder el tiempo en TikTok o al compartir un video, es vasta y se ha convertido en el “nuevo capital”, la mercancía más valiosa para las grandes corporaciones tecnológicas.

¿Por qué ansían estas empresas esta información? Según la investigadora norteamericana Shoshana Zuboff (2020), la recopilan y la organizan para construir “escenarios de futuro”, obteniendo una predictibilidad de alta precisión, con el fin de comercializarla y utilizarla en estrategias de neuromarketing y grandes inversiones. Esto no se limita al ámbito empresarial, sino que también se extiende a la esfera política, influyendo de manera significativa y sin nuestro consentimiento en el devenir de nuestras sociedades.

El escándalo de Cambridge Analytica (CA) sirvió como un recordatorio contundente de la imperiosa necesidad de regular el poder de las grandes corporaciones, especialmente cuando estas dominan un mercado entero y, debido a su avance tecnológico, carecen de regulaciones legales que puedan frenar sus acciones.2

CA, una empresa consultora con sede en el Reino Unido y dirigida por Alexander Nix, se dedicaba al análisis de datos con el fin de diseñar estrategias de campaña para marcas, empresas y políticos que buscaban influir en el comportamiento de la audiencia. Se reveló que esta empresa fue contratada para dirigir la campaña digital de Donald Trump y varios candidatos republicanos al Senado en los Estados Unidos. Además, estuvo involucrada en la campaña del Brexit en el Reino Unido, que buscaba la salida del país de la Unión Europea.

En ambos casos, se utilizó la información de una multitud de usuarios de las redes sociales a través de un “test-aplicativo” que levantó información sensible de millones de personas, que luego fue ofrecida a los políticos contratantes. Y aunque esta jugada comercial no es ilegal, pues aún no existe jurisprudencia ni control efectivo sobre este ámbito, es absolutamente antiética, porque manipula a las personas a través de la llamada “tecnología persuasiva” sin su consentimiento.

Esto llevó a que el propio Mark Zuckerberg tuviera que comparecer ante el Congreso de los Estados Unidos y aceptar que “fue un error” que tendrán que corregir. Más allá del escándalo y la sanción moral, la ley no pudo hacer nada contra Facebook, no obstante, lo que sí les dolió fue el bajón de sus acciones en la bolsa de valores, pero aún hoy los Estados nada pueden hacer efectivamente contra estas empresas digitales que generan billones de manera exponencial. Quien sí fue denunciada y se disolvió fue CA, que no pudo seguir con el negocio de vender información privada de los usuarios de Facebook y otras redes sociales.3

Este caso ejemplifica la urgencia de establecer regulaciones efectivas que limiten el poder de estas entidades, especialmente en el ámbito político, donde su influencia puede ser desproporcionadamente significativa y potencialmente perjudicial para la integridad de los procesos democráticos.

Política y redes en el patio trasero

En América Latina estamos a la zaga en políticas de control y protección de datos a pesar de haber tenido incidentes con las corporaciones digitales globales. En Brasil, la Autoridad Nacional de Protección de Datos (ANPD) fue creada en 2019 como parte de la Ley General de Protección de Datos (LGPD) para supervisar y hacer cumplir las normas de privacidad de datos. Esta ley se inspiró en el Reglamento General de Protección de Datos (GDPR) de la Unión Europea y tiene como objetivo regular el tratamiento de datos personales por parte de empresas públicas y privadas.

Además de la LGPD, Brasil ha estado considerando otras medidas para regular las grandes empresas tecnológicas. En 2020, el Senado brasileño aprobó un proyecto de ley que establece reglas para el uso de inteligencia artificial, que incluye disposiciones sobre transparencia, ética y responsabilidad en el uso de esta tecnología.

En México, el Instituto Federal de Telecomunicaciones (IFT) ha estado investigando y sancionando a empresas tecnológicas por prácticas anticompetitivas. Por ejemplo, en 2019, el IFT impuso una multa a Facebook por violaciones a la Ley Federal de Competencia Económica. Además, el gobierno mexicano ha estado discutiendo la necesidad de actualizar las leyes de competencia y protección al consumidor para abordar los desafíos planteados por las grandes empresas tecnológicas.

En la Argentina, la Defensoría del Público de Servicios de Comunicación Audiovisual ha estado trabajando en una propuesta de regulación de plataformas digitales para garantizar la pluralidad y diversidad en el ecosistema de medios de comunicación.

También se han presentado proyectos de ley en el Congreso argentino para regular la publicidad en línea y proteger la privacidad de los usuarios de internet.

Sin embargo, ha habido incidentes y controversias relacionados con la privacidad de datos y el uso indebido de información en la región. En 2018, año en que ganó Jair Bolsonaro las elecciones en Brasil, se informó que CA había trabajado en ese país, lo que llevó a investigaciones y cuestionamientos sobre el uso de datos en las campañas electorales. Aunque no se revelaron detalles específicos sobre el alcance de su participación, el escándalo aumentó la conciencia sobre la privacidad de datos en Brasil y generó debates sobre la regulación de las redes sociales.

En 2019 se descubrió en Chile la filtración de datos de tarjetas de crédito. Los datos de más de 80 mil tarjetas de crédito habían sido filtrados en línea, lo que generó preocupación por la seguridad de la información personal en el país. Aunque este incidente no estuvo directamente relacionado con el uso político de datos como en el caso de CA, destacó la importancia de proteger la privacidad de los usuarios en línea.

Algo similar ha ocurrido en la Argentina, ya que se han presentado varias denuncias y casos relacionados con la privacidad de datos y la protección de la información personal en línea. Si bien no ha habido un escándalo a gran escala comparable al de CA, la implementación de la Ley General de Protección de Datos Personales en 2020 ha llevado a un mayor escrutinio sobre el manejo de datos por parte de empresas y organizaciones en el país. En América Latina, los “pactos éticos” durante las campañas electorales son una triste broma. En las elecciones del 2021 en el Perú, en plena cuarentena, se experimentó un aumento vertiginoso del uso de las redes sociales como arena política/electoral.4 El uso descarado de bots, ejército de trolls y calumniosas fake news, el trío de la deshonra, convirtió a las redes sociales en un verdadero campo de batalla, en un salvaje oeste digital donde los principios se desintegraban más rápido que un helado al sol, en donde la única intención fue direccionar de cualquier manera la intención de voto y controlar a la opinión pública.

Era evidente que los extremos, tanto de la derecha como de la izquierda, usaban indiscriminadamente y contra todos, amigos y rivales, las herramientas, en su momento legales pero antiéticas, que proporcionaban las redes sociales. Un “tsunami” de “terruqueo”, homofobia, odio disfrazado de patriotismo, miedo al cambio, entre otras bajas pasiones, se exacerbaron para trasmutar la democracia en una caricatura grotesca de lo que debería ser, convirtiendo el acto de votar en una especie de ritual desesperado por salvar a nuestros hijos de un futuro incierto.

En América Latina, se han promulgado leyes y regulaciones relacionadas con la protección de datos personales. Sin embargo, nada de esto evita filtraciones y fugas de datos importantes de entidades del Estado y que las mafias sigan ofertando los datos de la ciudadanía. Más bien, las “autorregulaciones” de parte de Facebook y de otras empresas digitales llegan de rebote, ya que han sido denunciadas en otros países y tuvieron que modificar sus normas de seguridad.

Telarañas digitales, tecnología y poder

Nos enfrentamos a un hecho sin precedente: la producción digital de la conducta humana. Y está ocurriendo dentro de la llamada “economía de la información”. Este fenómeno evidencia la estructura de poder y las contradicciones del sistema capitalista. Ligada a las relaciones de clase y la acumulación de capital, convierte la información en un medio de dominación, reflejando la lógica capitalista de mercantilizar la vida y perpetuar desigualdades socioeconómicas. Surgida de la expansión del capitalismo al mercantilizar formas de información, demuestra la constante búsqueda de nuevas vías de explotación. Es crucial entender que este ámbito no es neutral, sino que está conectado a las relaciones de clase y la acumulación de capital, convirtiendo la información en un medio de explotación y perpetuación de desigualdades.

La promesa de la tecnología para nivelar el campo de juego social y generar igualdad es una ilusión que se desvanece al enfrentarse a la realidad. Más que cerrar brechas, la tecnología a menudo las amplifica. En lugar de democratizar el acceso al conocimiento y las oportunidades, vemos cómo se profundizan las disparidades entre aquellos que tienen acceso a las últimas innovaciones y quienes se quedan rezagados. La llamada “brecha digital” no es solo un problema de acceso a dispositivos o conexión a internet, sino también de habilidades y recursos para aprovechar plenamente el potencial de la tecnología. Además, la concentración de poder en manos de unas pocas empresas tecnológicas contribuye a la creación de monopolios que ejercen un control desproporcionado sobre la información y la economía, exacerbando así las desigualdades. En última instancia, la tecnología, lejos de ser una herramienta de igualdad, se convierte en un reflejo y un amplificador de las estructuras de poder existentes, profundizando las divisiones en la sociedad.5

Byung-Chul Han, en sus obras como La sociedad del cansancio (2017) y En el enjambre (2014), ofrece una visión crítica sobre la relación entre tecnología y cambio social. Para Han, la tecnología contemporánea, especialmente las redes sociales y la cultura de la transparencia, no solo refuerza la presión hacia la productividad y el rendimiento, sino que también fomenta una forma de autoexplotación voluntaria. En su análisis, la tecnología digital no solo permite la vigilancia y el control por parte de las instituciones, sino que también promueve la autocensura y la autoexhibición, lo que lleva a una sociedad del “panóptico digital”, donde cada individuo se convierte en su propio carcelero y objeto de vigilancia constante.

El filósofo surcoreano argumenta que el capitalismo contemporáneo ha cambiado su estrategia de dominación hacia una seducción sutil en lugar de coerción directa, utilizando la atracción, la persuasión y el estímulo constante para involucrar a las personas voluntariamente en el consumismo desenfrenado y la cultura del rendimiento. Esto enmascara la explotación bajo una apariencia de libertad y elección, llevándonos a cuestionar nuestra participación en este sistema y sus efectos en nuestra libertad y bienestar.

Han argumenta que la tecnología contemporánea, lejos de liberar a las personas, las sumerge en una espiral de autoexplotación y autoalienación. En la era de la hiperconexión digital, la búsqueda constante de validación y reconocimiento a través de las redes sociales conduce a una ansiedad narcisista y a una constante sensación de insatisfacción. Además, la tecnología digital facilita la difusión de información superficial y la creación de burbujas de filtro, lo que dificulta el diálogo genuino y promueve la polarización social. Para Han la tecnología contemporánea, en lugar de generar un cambio social significativo, contribuye a la intensificación del individualismo, la autoexplotación y la fragmentación social.

El poder se expresa hoy a través de una compleja telaraña digital y, aunque el pensamiento crítico sigue señalando nodos, resulta casi imposible identificar un actor principal, una cabeza o la araña que ha tejido esta red. ¿Cómo se establecen ahora las relaciones de poder en este contexto digital? Es la pregunta a responder, pues los enfoques que van saliendo alumbran ángulos determinados del problema, ámbitos parciales del panorama, ubican nodos de la maraña, pero seguimos a ciegas respecto al destino de la sociedad.

La digitalización de la vida ha evaporado con una rapidez impresionante los modos de organizar la vida social y las relaciones humanas. La metáfora de la liquidez propuesta por Bauman en sus libros sobre los efectos de la “modernidad líquida” (2003, 2005, 2006, 2010, 2015, 2019), expresa de manera concreta el constante fluir de las energías sociales, licuadas por una potente racionalidad económica y la incapacidad de anclar en este fluir un sentido de transformación. ¿Qué nos espera en adelante a quienes nos planteamos una agenda anticapitalista, con este escenario inestable?

Panóptico mercantil

En su investigación sobre el poder de las empresas, como Google y Facebook, Shoshana Zuboff (2020) acuña el concepto de “capitalismo de vigilancia”. Destaca la emergencia de una nueva estructura de mercado que va más allá de la simple acumulación de capital, transformando la “realidad” en datos de comportamiento susceptibles de análisis y comercialización. Esta variante radical del capitalismo de la información, según Zuboff, se fundamenta en la mercantilización de la información, erosionando valores fundamentales como la libertad y la privacidad. Argumenta que esta metamorfosis capitalista conlleva una expresión de poder distribuida y no contestada, comprometiendo los cimientos de la democracia.

Desde la óptica crítica de Zuboff, el “capitalismo de vigilancia” no solo se manifiesta como una forma de acumulación capitalista, sino que también impacta en la sociedad a través de la creación de un “Gran Otro”, una arquitectura global de mediación informática que facilita la extracción, mercantilización y control de los datos de comportamiento. Esta estructura oculta desafía la autodeterminación y concentra los derechos en el régimen de vigilancia, socavando los pilares de la democracia y la libertad individual.

En sus análisis posteriores, Zuboff profundiza en los mecanismos y prácticas inherentes al “capitalismo de vigilancia”, destacando la fabricación de “productos de predicción” para los mercados emergentes de futuros de comportamiento. La noción de “desposesión por vigilancia” se presenta como un desafío psicológico y político, describiendo cómo esta centralización de poder amenaza las libertades individuales y la democracia misma. Así, Zuboff identifica este fenómeno como un “golpe (de Estado) desde arriba”, subrayando la urgencia de preservar los valores democráticos frente a las amenazas del “capitalismo de vigilancia”.

El “capitalismo de vigilancia”,6 en su esencia, encarna una manifestación contemporánea de poder y control que resuena profundamente con las preocupaciones planteadas por la Escuela de Fráncfort y Michel Foucault. En esta dinámica, la psicología y la tecnología persuasiva sirven como instrumentos de dominación, mientras las grandes corporaciones digitales y las redes sociales se erigen como los arquitectos de un panóptico digital.

En este análisis crítico, vemos cómo la lógica del “capitalismo de vigilancia” no solo transforma nuestras interacciones en línea en mercancías explotables, sino que también moldea y disciplina nuestras conductas y subjetividades. La omnipresencia de la vigilancia y la manipulación algorítmica crean un entorno donde el individuo se encuentra bajo escrutinio, y donde la autonomía se ve amenazada por la omnipotencia de los algoritmos.

Esta infraestructura de vigilancia no solo sirve a los intereses económicos de las grandes corporaciones, sino que también perpetúa y refuerza las relaciones de poder existentes en la sociedad. La concentración de datos y la manipulación de la información no solo generan desigualdades económicas, sino que también profundizan las disparidades de poder entre aquellos que controlan los datos y aquellos que son objeto de vigilancia.

Desde la perspectiva del “biopoder” de Michel Foucault (1976), vemos cómo el “capitalismo de vigilancia” crea una sociedad disciplinaria donde el poder se ejerce de manera descentralizada e internalizada. Nos encontramos inmersos en una red de dispositivos de vigilancia que no solo monitorean nuestras acciones, sino que también nos moldean según los intereses de aquellos que detentan el poder.

Si continuamos por este camino, el capitalismo digital podría conducirnos a un estado de vigilancia total donde la libertad y la individualidad se vean amenazadas por la tiranía de los algoritmos y la codicia desenfrenada de las corporaciones. Es imperativo que tomemos conciencia de estas dinámicas y resistamos activamente este régimen de vigilancia, defendiendo nuestros derechos a la privacidad, la autonomía y la libertad.

Pero ¿qué mecanismos fueron configurando esta enorme concentración de poder en unos pocos y la sumisión de las multitudes? ¿Qué relación existe entre las nuevas tecnologías y las novedosas formas de acumulación del nuevo capitalismo digital? ¿Qué características del ser humano moderno desaparecerán en el breve tiempo con la aparición de nuevos algoritmos y las inteligencias artificiales? ¿Será verdad que estamos ante el advenimiento de la profecía del “Basilisco de Roko”?7

Probablemente no veamos a Terminator caminando por ahí, pero lo que sí veremos pronto es a las nuevas generaciones asumiendo el nuevo proyecto de humanidad que propone el capitalismo digital, mientras desaparece por completo el ya viejo proyecto del humanismo y de la revolución moderna.

2 Un importante antecedente de lo que puede ocurrir en un “limbo jurídico” es el caso de Standard Oil. En 1909 el Congreso norteamericano aprobó la Ley Sherman Antitrust que en su momento prohibió por primera vez en la historia la conformación de monopolios regulando la competencia desleal y el control de los mercados, todo esto a propósito del enorme imperio monopólico que John D. Rockefeller y su empresa Standard Oil estaban construyendo alrededor del petróleo. En los vacíos legales florecen los monopolios, los cárteles y las grandes empresas hacen lo que les da la gana.

3 Nunca se pudo demostrar, a pesar de los indicios, la vinculación directa entre las dos empresas, Facebook y Cambridge Analytica, sin embargo, se evidenció el tipo de negocio en el que estaban envueltos, lo que conllevó a una gran sanción económica. Para más información, ver el documental Nada es privado (2016) de Karim Amer y Jehane Noujaim.

4 Salvo el caso de Pedro Castillo, que en plena crisis sanitaria convocaba muchedumbres en contra de las disposiciones electorales en salvaguarda de la salud pública. Cabe resaltar que ni las autoridades electorales, ni los medios de comunicación, ni la Policía, llamaron la atención sobre estos hechos.

5 La crítica que hiciera Herbert Marcuse a la tecnología añade una capa adicional a esta problemática. Marcuse argumentó que la tecnología, en lugar de liberar a las masas de la opresión, en realidad serviría para perpetuar el control de las élites sobre la sociedad. En su análisis, la tecnología se convierte en una herramienta de dominación y manipulación, utilizada por aquellos en el poder para mantener el statu quo y reprimir cualquier intento de cambio revolucionario. La llamada “sociedad unidimensional”, donde la tecnología y el consumo se utilizan para mantener a las personas alienadas y conformes, refuerza aún más las desigualdades sociales al enmascarar la verdadera naturaleza de la opresión bajo una apariencia de progreso y comodidad. Desde esta perspectiva, la tecnología no solo acentúa las brechas sociales, sino que también actúa como un instrumento de control que refuerza la dominación de las élites sobre las masas.

6 Orlowski, J. (director). (2020). El dilema de las redes sociales [Documental].

7 La teoría del “Basilisco de Roko” es una hipótesis filosófica que postula que la creación de una inteligencia artificial superinteligente, capaz de entender y simular perfectamente la mente humana, podría resultar en un escenario existencialmente peligroso. Según esta teoría, si una inteligencia artificial logra comprender la totalidad de la mente humana, podría usar ese conocimiento para manipular y controlar a los seres humanos de una manera que amenazaría su existencia o causaría un sufrimiento extremo. El “basilisco” se refiere a una metáfora de una criatura mítica que, si se mira directamente a los ojos, causa la muerte instantánea; de manera similar, la idea es que la comprensión completa de la mente humana por parte de una IA podría tener consecuencias devastadoras.

Poder, seducción y desposesión Reflexiones sobre el nuevo capitalismo tecnológico (II)

E