La invasión del algoritmo E-Book

José Antonio Gabelas-Barroso

• Herausgeber: Gedisa Editorial
• Kategorie: Bildung
• Sprache: Spanisch
• Veröffentlichungsjahr: 2023

Seitenzahl: 152

Beschreibung

La invasión del algoritmo es un título provocativo que no establece posiciones que demonicen el algoritmo, sencillamente evidencia su omnipresencia en todos los aspectos que conforman nuestro día a día. Se trata de un libro breve, directo, práctico y necesario para introducirse en el universo del código binario, su diseño, el software que lo ejecuta y sus significados. Sus páginas están escritas desde una perspectiva humanista con un tono divulgativo, para todos aquellos que se preocupan por las consecuencias sociales, políticas, económicas y culturales que tiene el uso de los algoritmos. En ellas se transita por la relevancia de los algoritmos como generadores de significados y catalizadores de profundos cambios en la industria artística y mediática, que son fundamentales para la representación de nuestra cultura. Con este libro se abren muchas preguntas. La era de la incertidumbre en la que nos encontramos cuestiona diferentes zonas de seguridad. El algoritmo es una parte sustancial del ecosistema mutante actual. La linealidad de lo analógico ha sido sustituida por las rutas del explorador, donde encontramos caminos divergentes, inciertos, con sus simulacros y espejismos. La tecnología es un producto humano, y somos los individuos y nuestra inteligencia colectiva los que debemos dotar de sentido a las herramientas tecnológicas que hemos sido capaces de construir.

Leseprobe

José Antonio Gabelas-Barroso, David García-Marín y Roberto Aparici

(coords.)

La invasión del algoritmo

La invasión del algoritmo

José Antonio Gabelas-Barroso, David García-Marín y Roberto Aparici

(coords.)

© Roberto Aparici, José Antonio Gabelas-Barroso, David García-Marín, Manuel Álvarez-Rufs, Fernando Bordignon, Leonardo Murolo, Desirée Azorín, María del Pilar Gómez Mondino y Nuria San Millán Mauri, 2023

© De la imagen de cubierta: Fernando Bordignon Montaje de cubierta: Juan Pablo Venditti

Primera edición: abril, 2023

Derechos reservados para todas las ediciones en castellano

© Editorial Gedisa, S.A.

www.gedisa.com

Preimpresión: Moelmo, S.C.P.

www.moelmo.com

eISBN: 978-84-19406-36-1

Queda prohibida la reproducción total o parcial por cualquier medio de impresión, en forma idéntica, extractada o modificada, en castellano o en cualquier otro idioma.

Índice

Introducción

1. La invasión del algoritmoRoberto Aparici y Manuel Álvarez-Rufs

2. Saltar las trampas tecnológicas, abrir las cajas negras en la RedJosé Antonio Gabelas-Barroso y Fernando Bordignon

3. De la confianza algorítmica a la sociedad vindicativaDavid García-Marín y José Antonio Gabelas-Barroso

4. Plataformas, ficción y medios de comunicación. El algoritmo como culturaDavid García-Marín y Leonardo Murolo

5. El despotismo numéricoManuel Álvarez-Rufs, Roberto Aparici, Desirée Azorín, Fernando Bordignon, José Antonio Gabelas-Barroso, David García-Marín, María del Pilar Gómez Mondino y Nuria San Millán Mauri

6. Año 2033: El apagón del algoritmoRoberto Aparici y Manuel Álvarez-Rufs

Introducción

El grupo de investigación AlgorAlfa, compuesto por los miembros que aparecen como autores de esta obra, explora desde hace un tiempo el universo actual poblado de algoritmos. Uno de los resultados de nuestras primeras reflexiones y trabajos fue el libro El algoritmo de la incertidumbre (Gedisa, 2021). En una línea de continuidad, nos planteamos desarrollar algunos de los siempre inquietantes frentes que suscita el código binario que domina el mundo de forma invisible. El último capítulo del libro referenciado proponía tres ventanas: la apertura de la caja negra, la despenalización de los algoritmos y los guardianes de los datos. Tres vastos espacios con muchas preguntas que hemos querido retomar en La invasión del algoritmo, el libro que tiene entre sus manos y que aquí presentamos.

El título es intencionadamente provocativo, por cuanto suscita una actitud vigilante alrededor de los usos, consumos, mediaciones e interacciones que la sociedad ejercita y produce en torno al postulado de los algoritmos, sus programas y las grandes plataformas tecnológicas. No es nuestra intención señalar ningún tipo de apocalipsis, ni determinismos tecnológicos; en definitiva, toda tecnología es producto humano, que a su sociedad debería servir. Pero sí invitamos a una parada, más allá de la espuma de la noticia, para decidir qué es lo relevante en esta incierta relación entre la naturaleza humana y la artificial.

Una breve presentación precede a un capítulo también preliminar que se centra en el título del libro. Se trata de un capítulo también breve que pretende ambientar la temática de las páginas que está usted leyendo. A lo largo de la historia, también de la ficción, el término invasión es estimulante en su semántica provocativa. Del mismo modo, colocar a los algoritmos como protagonistas de una presente invasión, supera los futuribles y abre una oportunidad para que los usuarios cuestionen la naturalidad con la que usualmente se aceptan. Avanzamos en su estructura, con tres capítulos nucleares o centrales que forman el cuerpo de esta publicación, que concluye con una zona de discusión final a modo de epílogo, en la que participa el grupo de investigadores españoles y argentinos que constituyen AlgorAlfa.

Estos tres capítulos cardinales de la obra profundizan en varias de las características esenciales que definen a los algoritmos. El primero de ellos identifica e intenta sortear las diferentes trampas que encierran el algoritmo y su ejecución, mediante los correspondientes programas, en su denominada caja negra. Estas fórmulas de programación no son ajenas al software y al internet de las cosas que todos empleamos; al contrario, los criterios para diseñar, seleccionar, filtrar y aplicar los algoritmos condicionan nuestro día a día. Se proponen, por tanto, reflexiones sobre la opacidad del algoritmo y se señala que el diseño de sus ingenios matemáticos constituye el secreto mejor guardado de las grandes compañías tecnológicas. Muchas de estas empresas (plataformas) no son propietarias de ninguno de los bienes y recursos que se ponen en juego cuando interactúan con sus usuarios. Twitter es una plataforma de contenidos donde la compañía no produce tal contenido; de la misma forma que Uber es una empresa de transporte de viajeros que no es propietaria de los vehículos que pone a disposición de sus clientes, ni tiene responsabilidad alguna sobre los conductores. Lo único que poseen estas plataformas es el elemento que aporta el mayor valor añadido al proceso de interacción: los datos de los usuarios y el algoritmo que da sentido a tal información. Por ello, estas fórmulas son celosamente protegidas por estas compañías.

Los algoritmos han conseguido penetrar en un creciente número de sectores de las sociedades avanzadas. Tal invasión no sería posible sin la confianza que generan en el usuario. De este modo, los algoritmos son omnipresentes porque confiamos en ellos. Por este motivo, el siguiente capítulo se detiene en la confianza y la esperanza como fuentes que referencian el valor que como usuarios y ciudadanos concedemos al entorno tecnológico e informativo en el que estamos inmersos. El número se ha convertido en un parámetro indiscutible, provocando un relato de objetividad y neutralidad que, solo tras abrir su caja negra, invita al debate y la discusión. La omnipresencia del algoritmo —y la confianza que nos suscita— activan otra de sus características esenciales: su carácter performativo. Los algoritmos no solo sirven para medir realidades, sino que son capaces de transformarlas.

Estas transformaciones desarrolladas por la acción del algoritmo no tendrían una excesiva relevancia si no fuera porque, en gran medida, se asientan en los sectores y procesos decisivos que determinan las representaciones del mundo, lo visible y lo que queda oculto. En definitiva, las voces, los temas y las formas de expresión que han de ser explotados porque son amigables para el algoritmo. Porque se ha demostrado que funcionan en unas industrias crecientemente dominadas por mediciones cuantitativas que privilegian unos valores y desechan otros. Por ello el último de estos capítulos centrales reflexiona sobre el algoritmo como cultura y su papel en la producción de significados en la sociedad actual a partir de su influencia en las industrias culturales de ficción y en el desempeño de la labor informativa de los medios de comunicación. Aquí se alude a la idea de negociación tácita:cómo el ser humano adapta su comportamiento para agradar al algoritmo cuando interactúa con máquinas gobernadas por estos modelos matemáticos. Si aplicamos esta idea al campo de los medios de comunicación, descubriremos cómo los periodistas construyen y adaptan sus mensajes para que aparezcan bien posicionados en los circuitos digitales, activando procesos de estandarización temática y estructural que empobrecen la diversidad expresiva siempre recomendable en los profesionales de la comunicación.

Esta no es la primera obra en castellano sobre algoritmos, pero sí una de las que aporta un conocimiento más centrado en esta temática. Publicaciones anteriores han tratado el algoritmo solo desde posiciones tangenciales. A diferencia de estas obras, nuestra propuesta toma como única referencia el estudio del algoritmo en su desarrollo moderno, con un lenguaje asequible para cualquier lector. Esta característica convierte esta publicación en un útil manual para profesores universitarios de cualquier rama que pretendan ofrecer a sus estudiantes una primera aproximación a la alfabetización algorítmica, cada vez más necesaria en nuestros días.

Obsérvese que se trata de un libro breve en su extensión, que pretende ahondar en el diálogo entre el ser humano (inteligencia natural) y la inteligencia artificial (IA), colocando el foco en los procesos algorítmicos y su alcance. A diferencia de monografías anteriores, que han realizado aproximaciones al algoritmo desde el campo de la ingeniería y las matemáticas, la obra que aquí se presenta aborda estos códigos numéricos desde una perspectiva humanística, conectando procesos actuales con el conocimiento clásico. Para ello, se ha recalado en las fuentes primigenias que caracterizan nuestra cultura occidental, las raíces clásicas. La mitología griega ha sido el espolón y la antorcha porque desde algunos de sus mitos somos capaces de releer, revisitar y recrear los valores que iluminan las sombras del hiperpresente actual.

Para construir esta narrativa, el formato del libro inserta varios códigos QR que enlazan contenidos complementarios en forma de breves podcasts que enriquecen y amplían el texto escrito. Estos materiales sonoros han sido locutados y producidos por los propios autores de cada capítulo. Se configura así una obra con cierta textura transmedia que utiliza la comunicación verbal, la oralidad tradicional presentada en lenguaje digital, a fin de extender el relato que se ofrece en formato textual. Dado que el libro termina con una zona abierta de discusión y debate, algunos de los capítulos integran varias cajas con las cuestiones —también abiertas— que guían la conversación con la que concluye esta obra.

Los coordinadores

1 La invasión del algoritmo

Roberto Aparici

UNED, España

Manuel Álvarez-Rufs

UNED, España

Matías se ha despertado hoy muy temprano para poder llegar a tiempo a una entrevista de trabajo. La alarma del altavoz inteligente que tiene en la mesita de noche de su dormitorio ha sonado a la hora que había programado la noche anterior a través de una aplicación instalada en su teléfono smartphone 5G de última generación. Tras abrir los ojos e incorporarse, se ha sentado en la cama, sin sentirse en ningún momento observado, mientras su altavoz inteligente le ha proporcionado la información diaria sobre el tiempo y el tráfico en su zona, y su pulsera smart le indicaba que no ha dormido nada bien, registrando sus patrones diarios de sueño. La pulsera también ha consignado su primer paso al levantarse de la cama, y, tras indicarle al altavoz que conectase la cafetera, se ha dirigido a la cocina. Al pasar por el salón, Matías ha recogido su smartphone de la mesa y ha desbloqueado la pantalla con la intención de revisar la bandeja de entrada de sus diferentes cuentas de correo electrónico. Este gesto de desbloqueo de la pantalla del dispositivo de «telefonía» móvil será ejecutado decenas y decenas de veces a lo largo del día sin que Matías sea consciente de ello en la mayor parte de las ocasiones, si no en todas. Cientos y cientos de notificaciones push invadirán la pantalla de su smartphone a lo largo del día, y de los siguientes días, bombardeando su cerebro, aunque piense que no les ha dado importancia, mientras desliza su dedo por la pantalla, igualmente, cientos de veces para borrarlas. Antes de llegar a la cocina, Matías puede ver un mensaje que proviene de su frigorífico, el cual le advierte de una compra de productos que ha llevado a cabo de manera automática en Amazon tras detectar pocas unidades en la bandeja. Al llegar a la cocina el café está subiendo en la cafetera.

Matías es un apasionado del internet de las cosas en particular y de los sistemas de inteligencia artificial (en adelante, IA) en general. Además, le gusta estar al tanto de las últimas tecnologías digitales que se van produciendo, y experimentar con ellas siempre que le resulta posible. Por eso, mientras se toma el café, conversa con el chatbot ChatGPT desde su laptop para preparar la entrevista que tiene esa mañana. En concreto, le pide alguna frase célebre para adornar su exposición y un par de párrafos creativos de unas cinco líneas cada uno, que contengan ciertos términos relacionados con el tema clave de la entrevista. Matías anota las recomendaciones que le ofrece de manera casi instantánea ChatGPT, mientras le da las gracias en voz alta y sonríe, ya que en ese momento piensa que el algoritmo no puede escucharle. ¿O sí?

¿Estamos permanentemente observados y vigilados? ¿Hasta qué punto nos invaden los algoritmos? Hablar hoy en día de la invasión de los algoritmos, realmente implica, de hecho, estar hablando de una invasión por parte de diferentes sistemas de inteligencia artificial que, asimismo, están basados en la utilización de diversos tipos de algoritmos. Técnicamente, un algoritmo se puede definir como «una secuencia de instrucciones que le dicen a una computadora qué hacer» (Domingos, 2013). Para Finn (2018), un algoritmo es, por un lado, tanto un ademán intelectual como una artimaña publicitaria, y, por el otro, es un sistema funcional que se construye enhebrando diversas suposiciones materiales sobre la percepción, la toma de decisiones y la comunicación. En ciencias informáticas, un algoritmo «es una lista finita de instrucciones definidas para calcular una función, una directiva paso a paso que permite un procesamiento o razonamiento automático que ordena a la máquina producir cierto output a partir de determinado input» (Van Dijck, 2016). Los algoritmos son, al fin y al cabo, sistemas de inteligencia artificial que realizan tareas propias de las personas, ya sea con la finalidad de ayudar a otras personas, o bien con la finalidad de, únicamente, ayudar a las personas que los han creado. Según Boden (2017), la finalidad de la IA es que los ordenadores hagan las mismas cosas que puede hacer la mente humana, pudiendo realizar funciones que se suelen describir como inteligentes, como puede ser razonar, y otras que no, como la visión, pero que, en todo caso, entrañan competencias psicológicas tales como la percepción, la asociación, la predicción, la planificación y el control motor, todo con el fin de lograr unos objetivos determinados. Boden aclara que la IA tiene dos objetivos principales; por una parte, el objetivo tecnológico que persigue usar los ordenadores para cosas útiles, y, por otra, el objetivo científico que persigue «usar conceptos y modelos de IA que ayuden a resolver cuestiones sobre los seres humanos y los demás seres vivos». Según esta autora, «la inteligencia no es una dimensión única, sino un espacio profusamente estructurado de capacidades diversas para procesar la información. Del mismo modo, la IA utiliza muchas técnicas diferentes para resolver una gran variedad de tareas». Este tipo de inteligencia artificialmente construida no puede considerarse completamente nueva; sino que, a finales de la década de 1960, y en algunos casos mucho antes, ya se estaban concibiendo e incluso implementando todos los tipos principales de IA (Boden, 2017).

La invasión de los algoritmos está relacionada con los avances que se han producido en las tecnologías de información y de comunicación, sobre todo desde mediados del siglo xx. La relación entre información y comunicación es muy marcada, ya que el hecho de desarrollar tecnologías que permiten específicamente mover información de un lugar a otro implica, en cierta medida, el establecimiento de algún sistema de comunicación entre dichos lugares. Hemos llegado a la situación que presenta el actual ecosistema mediático e informacional actual por varios motivos:

El aumento de la velocidad de transmisión de la información.El aumento de la capacidad de almacenamiento de la información.El aumento del poder de procesamiento de la información.La reducción relativa de los costes de los tres procesos anteriormente mencionados (transmisión, almacenamiento y procesamiento de la información).

Los algoritmos son una herramienta poderosa, tremendamente efectiva en la realización de tareas complejas y repetitivas. Gracias a su capacidad para gestionar grandes cantidades de información de manera rápida y precisa, pueden tomar decisiones y realizar análisis complejos que serían imposibles para los seres humanos. Esto les permite tener un impacto significativo en muchos aspectos de nuestra vida, como la tecnología, la economía, la medicina, la comunicación o la educación. La tabla 1.1 recoge una cartografía de los principales algoritmos que se utilizan en la actualidad y su aplicación práctica.

Tabla 1.1. Ejemplos de algoritmos

Nombre del algoritmo

Aplicación práctica

RISCANVI

Utilizado en cárceles catalanas para evaluar el riesgo de reincidencia violenta de todos los presos.

VERIPOL

Para analizar las llamadas que se realizan a la policía y predecir la probabilidad de que una denuncia sea falsa.

BOSCO

Usado por la administración pública española para la asignación de ayudas económicas para la factura de la luz.

VIOGÉN

Para la evaluación del riesgo de reincidencia en casos de violencia de género.

ISSA

Chatbot de aprendizaje automático utilizado como asistente virtual de la Seguridad Social.

VALENCIA IA4COVID

Prescribir medidas a implementar en relación con la Covid-19.

SEND@

Utilizado por el Servicio Público de Empleo Estatal en la elaboración de perfiles de personas para ofrecer resultados de búsqueda de empleo relevantes.

TENSOR

Sirve para la detección temprana de actividades terroristas online.

NUTRI-SCORE

Se usa para clasificar el contenido nutricional de diversos alimentos.

PARCOURSUP

Para la selección de aspirantes universitarios.

GPT-3

Modelo de lenguaje para el diálogo que permite interactuar de manera conversacional en un formato con apariencia de chatbot.

Tengai

Entrevistar a empleados potenciales.

DALL-E 2

Generar arte en forma de imágenes.

Robodebt

Detectar fraudes en los sistemas de asistencia social.

Schufa

Para determinar puntuaciones crediticias.

FACE++

Algoritmo de detección de género y raza.

SKALA

Utilizado para la vigilancia predictiva dentro de ubicaciones específicas.

AVATAR

Algoritmo detector de mentiras que se utiliza en los puestos de control fronterizos.

PRECIRE

Se usa para cribar candidaturas de puestos de trabajo.

HART

Usado para determinar la posible reincidencia de personas convictas.

NDAS

Destinado a predecir el riesgo de que una persona cometa un delito en el futuro con el fin de intervenir antes de que este se produzca.

PageRank

Algoritmo de Google utilizado para clasificar las páginas web en los resultados de los motores de búsqueda.

InstaJobs

Para emparejar a personas candidatas con ofertas de empleo.

CrimSAFE

Realiza perfiles de inquilinos potenciales según sus antecedentes penales.

GLADSAXE

Sirve para identificar a menores que se encuentran en situación de vulnerabilidad.

FORECAST PLUS

Utilizado para encontrar a estudiantes universitarios prometedores.

TAY

El primer chatbot conocido que se convirtió en racista en menos de un día.

REKOGNITION

Utilizado para el reconocimiento facial.

PROMETEA

Para la optimización de procesos burocráticos.

SHOTSPOTTER

Algoritmo utilizado para la detección automática de disparos.

CHINOOK

Se utiliza para aumentar y reemplazar la toma de decisiones humana en la gestión de la inmigración.

DANTE

Sirve para analizar y detectar contenido online relacionado con el terrorismo y su financiación.

BART

Usado para la selección y recomendación tanto de música como de podcasts.

FACEBOOK AD

Algoritmo que decide qué anuncios mostrar a quién, cuándo, cómo y por cuánto tiempo en Facebook.

FRANK

Sistema de evaluación de conductores que proporcionan servicios de entrega de alimentos.

HIREVUE

Utilizado como algoritmo de escaneo facial para perfilar candidaturas de empleo.

RADAR-rechts

Evaluación del riesgo de violencia por parte de individuos de extrema derecha.

SAFERENT

Usado para la selección de posibles inquilinos.

ISAAK

Se usa para predecir el comportamiento de los empleados.

SAS

Sirve para determinar la eficacia del profesorado.