Erhalten Sie Zugang zu diesem und mehr als 300000 Büchern ab EUR 5,99 monatlich.
- Herausgeber: Editorial Galerna
- Kategorie: Wissenschaft und neue Technologien
- Sprache: Spanisch
- Veröffentlichungsjahr: 2022
"Necesitamos más mujeres escribiendo, produciendo análisis y protagonizando la era de la cuarta revolución industrial, especialmente si lo hacen desde una perspectiva de ética y de derechos humanos. Es por ello que celebro este libro de Cecilia Danesi, que reflexiona sobre qué es la inteligencia artificial (IA) y cómo impacta en los derechos humanos, en consonancia con nuestro trabajo en la Unesco. Señala también la necesidad de alfabetizar en IA, informar e informarse mejor y entender cómo repercuten los algoritmos en nuestra vida diaria, así como los retos y desafíos para desarrollar IA de forma ética, inclusiva y al servicio de la humanidad" (Gabriela Ramos, directora general adjunta para las Ciencias Sociales y Humanas de la Unesco). "Creo que este es un libro necesario por varios motivos. Está escrito por una mujer en tecnología que tiene conocimiento desde las leyes. A su vez, soy testigo de los desafíos que hoy estamos viviendo con las primeras implementaciones de las inteligencias artificiales y mucho tiene que ver con los sesgos y los desafíos de género, pero a su vez con otros sesgos vinculados a problemas que ni siquiera estamos pensando, como lo concerniente a la interculturalidad o a las neurodiversidades. Por eso este texto es clave para comprender esos desafíos y construir una mirada ética y clara para diseñar nuestro presente y futuro" (Melina Masnata, Directora global de Learning and Diversity en Globant).
Sie lesen das E-Book in den Legimi-Apps auf:
Seitenzahl: 285
Das E-Book (TTS) können Sie hören im Abo „Legimi Premium” in Legimi-Apps auf:
Ähnliche
EL IMPERIO DE LOS ALGORITMOS
“Una de las cosas en que los humanos nos parecemos a las máquinas es que a ambos nos encanta aprender de los ejemplos. Y en El imperio de los algoritmos, de mi estimada colega Cecilia Danesi, ¡vas a encontrar muchísimos! Son la mejor forma para entender el momento histórico que estamos viviendo; en los 60 fue la carrera espacial para ir a la Luna y hoy es la incorporación masiva de la inteligencia artificial en todo lo que hacemos”.
—
FREDI VIVAS, Ingeniero y Profesor. CEO de RockingData. Autor del libro ¿Cómo piensan las máquinas?
“Desde la década de 1960 la tecnología evolucionó exponencialmente como ningún otro motor de cambio social. El imperio de los algoritmos de Cecilia Danesi, una querida compañera con la que compartimos la pasión por la investigación y la divulgación tecnológica, es un libro indispensable para reflexionar acerca de cómo enfrentar las consecuencias que trae aparejada esta transformación desde una perspectiva crítica”.
—
JOAN CWAIK, autor del libro El dilema humano y divulgador especialista en tecnología y sociedad.
“Cecilia Danesi nos sumerge en uno de los aspectos clave de la Cuarta Revolución Industrial: el imperio de los algoritmos. Su mensaje es analítico y refleja el grave peligro al que nos aboca esta tiranía indescifrable, pero busca la salida esperanzadora para que la sociedad trabaje en una reducción del riesgo. Danesi propone soluciones concretas como la “IA inclusiva”. En unos años, no se tratará de disrupción sino de una realidad. Para ello, hacen falta autoras como ella y obras como esta”.
—
CRUZ SÁNCHEZ DE LARA, vicepresidenta de El Español. Editora, abogada y activista.
“Es de máxima importancia educarnos para saber cómo los algoritmos controlan nuestras vidas y qué podemos hacer para vivir más libres y con menos manipulación. La inteligencia artificial está en nuestro día a día, pero la clave es hacer un uso responsable y que tengamos una convivencia armónica con ella. Gracias a este libro podremos lograrlo”.
—
NACHO MÜHLENBERG.
“El imperio de los algoritmos profundiza en una de las materias más importantes para el futuro digital que tenemos por delante. Cuenta con todos los ingredientes para convertirse en uno de los libros de referencia en este ámbito, el del impacto de la inteligencia artificial sobre nuestras vidas y especialmente sobre nuestros derechos. Destaco la triple perspectiva desde donde escribe la autora, que es tremendamente necesaria en la materia: la de género, la reivindicación de la identidad iberoamericana y el humanismo tecnológico”.
—
LUCIA VELASCO, autora de ¿Te va a sustituir un algoritmo?
“El Imperio de los algoritmos es un libro de lectura obligatoria por dos motivos principales: nos ilustra en temáticas como IA y tecnología de las que muchos y muchas aún desconocemos y nos informa que la falta de legislación y control actual a nivel global, permite y permitirá peor aún, que este imperio de facto de los algoritmos avasalle nuestros derechos fundamentales y discrimine. Danesi logra en esta obra conjugar información, plantearnos el problema severo que como humanos estamos enfrentando, agudizado en el caso de mujeres y diversidades y nos interpela a empoderarnos a que juntos y juntas derroquemos el imperio y solicitemos regulación y control”.
—
LINA ANLLO, directora Women Economic Forum Argentina.
“Ante todo es para mí un honor participar con estas líneas invitada por Cecilia Danesi con quien tengo el placer de cocrear programas académicos, así como también con quien tenemos una visión compartida sobre la importancia de la diversidad y la perspectiva de género no solo en el desarrollo de la tecnología sino también de la formación de habilidades de las personas detrás de la tecnología. Además, trabajamos de manera conjunta en la creación de modelos de diversidad con perspectiva iberoamericana. El potencial enorme del desarrollo de tecnologías algorítmicas solo puede alcanzar su máximo potencial de innovación asegurando que amplíe la mirada por fuera de los prejuicios y sesgos humanos que se trasladan al desarrollo de la AI y los algoritmos. Es por ello que este libro constituye una herramienta muy valiosa para la consecución esos propósitos”.
—
CINTIA GONZÁLEZ OVIEDO, Fundadora y CEO de Bridge The Gap, Agencia consultora en Diversidad, Igualdad e Innovación.
“Con Ceci mantuvimos muchas charlas (vía chat), sobre IA y derechos, e IA y perspectiva de género. Hemos hablado de sesgos y de cajas negras (o agujeros negros): ¿por qué los algoritmos llegan a determinado resultado? Y, ¿quién nos ampara ante la falta de marco regulatorio en materia de IA? Ceci tiene siempre a mano un buen ejemplo para tratar de entender el contexto de determinada situación que, en general, expone las falencias (o simplemente, sesgos) de la IA. Este libro, sin dudas, es una gran herramienta para comenzar a involucrarte con tu propia virtualidad y reflexionar sobre el concepto de singularidad. También, para repensar tu identidad y tus derechos humanos en Internet y la vida automatizada. Vas a encontrar muchísimos casos que te van a ayudar a comprender la importancia de construir identidad en Internet. La autora de este libro es clara y, para quienes no estudiamos Derecho, nos permite, con un lenguaje preciso, jurídico y ¡humano!, comprender hacia dónde van los algoritmos que nos gobiernan y qué podríamos hacer”.
—
JULIETA SCHULKIN, periodista especializada en nuevas tecnologías, autora de Vuelta por el Metaverso.
“Un libro, necesario y a tiempo. En El Imperio de los Algoritmos Cecilia Danesi plantea la problemática que debe discutirse desde ya en la política mundial (cuya discusión ha sido casi ignorada y/o peligrosamente postergada). Ella no solo describe y explica problemas existentes y amenazas futuras de la inteligencia artificial, sino que también plantea soluciones a los mismos. Este libro es una necesidad”.
—
RAFAEL PARRATORO, artista digital.
“En medio de los discursos que celebran acríticamente las nuevas tecnologías o que simplemente repiten ideas de otras latitudes, Cecilia Danesi alza su voz con una visión propia sobre el impacto de la inteligencia artificial que advierte sobre los peligros de su uso sin perder nunca el optimismo ni la voluntad constructiva. El imperio de los algoritmos es un libro imprescindible para quienes quieren pensar la tecnología desde el sur global y mirar el presente pensando en el futuro”.
—
TOMÁS BALMACEDA, autor de Filosofía on Demand, filósofo y periodista.
“Muchas personas pueden hablar, escribir y explicar sobre el fenómeno de la Inteligencia Artificial, pero son muy pocas las que pueden transmitir sus principios y tecnicismos propios a un lenguaje asequible para los demás. El Imperio de los Algoritmos permite a cualquier muggle de la IA comprender la magia detrás de la Inteligencia Artificial”.
—
JORGE LITVIN,Chief Legal & Compliance Officer en Resguarda, abogado especialista en cibercrimen y ciberseguridad.
“El imperio de los algoritmos es un libro que nace de la observación, se construye sobre la reflexión y se dirige hacia la proposición de directrices y buenas prácticas, ante el vértigo de una era apasionante en la que la observación, la reflexión y la capacidad de avanzar hacia la formulación de soluciones son precisamente esenciales para destilar, entre sus riesgos y excesos, los beneficios de la extraordinaria expansión y penetración de los algoritmos y la inteligencia artificial en nuestra sociedad. Una obra amena, valiente y personal que aporta la reflexión crítica y la proposición innovadora que necesitamos”.
—
TERESA RODRÍGUEZ DE LAS HERAS BALLELL, Profesora titular de Derecho mercantil,Universidad Carlos III de Madrid.
“Es de vital importancia educarnos para saber cómo los algoritmos pueden controlar nuestras vidas y de qué manera lograr vivir más protegidos y sin ningún tipo de manipulación. La inteligencia artificial está presente en nuestro día a día, pero la clave es manejarla responsablemente y así obtener una convivencia armónica con ella. Gracias a este libro podremos conseguirlo”.
—
JULIANA BARRETO GUTIÉRREZ, abogada y empresaria especialista en recursos humanos y ventas consultivas.
“Si la inteligencia artificial es una sucesión de unos y ceros aprendiendo de la inteligencia humana, no es hora que nos detengamos a pensar qué estamos creando y creyendo? Desafiar los propios límites de nuestra naturaleza es lo que nos va a llevar a crear mejor tecnología y, por ende, un mundo mejor. Cecilia nos embarca en un viaje asombroso, instándonos a aprender y sobre todo a desaprender. Porque más allá de las máquinas, el verdadero cambio, es HUMANO”.
—
CONNIE ANSALDI, consultora de innovación y liderazgo, publicista y conferencista y directora para Latinoamérica de Neu21.
“Cecilia Danesi analiza, con agudeza mental pero con los pies bien plantados sobre la tierra, la importancia de estudiar y analizar los distintos escenarios resultantes de la Cuarta Revolución Industrial. Así como en las anteriores, entramos en contacto con nuevas tecnologías que amenazan acabar con el statu quo y lo conocido hasta el momento, pero que también prometen resultar aliadas eficientes para la automatización y mejora de procesos que redunden en una mejor calidad de vida para la sociedad. Es en esta línea que Cecilia decide trabajar, con una mirada crítica pero constructiva hacia las distintas aplicaciones que la inteligencia artificial puede aportar. Esta temática nos resulta de sumo interés a quienes estudiamos la propiedad intelectual, con especial foco en los derechos de autor, considerando las distintas variables y desafíos que presenta la utilización de la inteligencia artificial para la producción artística y creativa desde el punto de vista de la autoría, la titularidad, y los nuevos derechos autorales, por lo que recomiendo profundamente seguir el trabajo de Cecilia Danesi muy de cerca”.
—
AGUSTINA LABOUREAU, Mg. Propiedad Intelectual e Innovación, especialista en Art Law.
“Una IA hecha por y para las personas, que piense y actúe como nosotros, que nos complemente permitiéndonos seguir siendo dueños de un destino común entorno al que generar sociedades más justas, sostenibles e inclusivas. Esa es la perspectiva con la que desde el Gobierno de España tenemos el compromiso de trabajar, estableciendo límites que garanticen la prevalencia de los derechos y libertades de todas y todos los ciudadanos. Un objetivo esencial, que está marcando la senda de la regulación, tanto nacional como europea, orientada a establecer requisitos de transparencia y supervisión humana de algoritmos diseñados teniendo como meta el ajustarse a la realidad y las necesidades de un contexto en el que el bienestar social y medioambiental debe ser siempre la prioridad de una tecnología humana y al servicio del progreso”.
—
CARME ARTIGAS, Secretaria de Estado de Digitalización e Inteligencia Artificial del Gobierno de España.
CECILIA DANESI
EL IMPERIO DE LOS ALGORITMOS
IA INCLUSIVA, ÉTICA Y AL SERVICIO DE LA HUMANIDAD
Danesi, Cecilia
El imperio de los algoritmos / Cecilia Danesi. - 1a ed. - Ciudad Autónoma de Buenos Aires : Galerna, 2022.
Libro digital, EPUB
Archivo Digital: descarga
ISBN 978-950-556-904-5
1. Inteligencia Artificial. I. Título.
CDD 006.301
© 2022, Cecilia Danesi
© 2022, RCP S.A.
Versión: 1.0
Digitalización: Proyecto 451
Primera edición en formato digital: septiembre de 2022
Ninguna parte de esta publicación puede ser reproducida, almacenada o transmitida en manera alguna, ni por ningún medio, ya sea eléctrico, químico, mecánico, óptico, de grabación o de fotocopias, sin permiso previo del editor y/o autor.
ISBN 978-950-556-904-5
Hecho el depósito que marca la ley 11.723
Diseño de tapa e interior: Pablo Alarcón | Cerúleo
Ilustraciones de interior: Teté Cirigliano
A mi amada abuela, Iole.
PRÓLOGO
ROBOTS CON ÉTICA HUMANA
Por Idoia Salazar, presidenta y fundadora de OdiseIA.
Cuando Cecilia me solicitó escribir este prólogo, sentí una gran alegría. Su objetivo es, sin duda, el mío: acercar a todos los públicos, de una manera amena y certera, el impacto real que tiene (y que tendrá aún más en un futuro) la inteligencia artificial. Es una labor importante en el momento de la historia en el que nos encontramos. Un punto en el que cada vez más empresas y organismos usan estas tecnologías y que, de manera imperceptible, empieza a afectar nuestras vidas.
Hay una cuestión que suelo repetir, a menudo, en mis charlas: “No se necesita ser técnico para saber de inteligencia artificial”. Incluso me atrevo a decir que es un conocimiento necesario para “todos los públicos” por una cuestión básica: cuando hablamos de IA, la mayoría de las veces también lo hacemos de “datos personales” y “toma de decisiones” sobre cuestiones que podrían llegar a afectarnos de una manera u otra. Por tanto, resulta lógico pensar que es necesario adquirir, a nivel general, una mayor consciencia sobre el impacto de la IA sobre nuestros derechos fundamentales. Y para eso, como demuestra este libro, no se necesita saber programar. Pero sí saber explicar los diferentes conceptos que rodean a esta tecnología de una manera sencilla y amena.
Intentemos, brevemente, a explicar el porqué de la importancia del impacto de la IA y, por tanto, de este libro.
La inteligencia artificial es, sin duda, una tecnología disruptiva. Ya, en los inicios de su implementación real, está causando cierta conmoción en la sociedad motivada por las peculiaridades asociadas a ella. Pero la gran pregunta es por qué el desconcierto actual no ocurrió con otras innovaciones similares precedentes, tal es el caso de Internet o, en su momento, la máquina de vapor. En este último caso, durante la Revolución Industrial, cabe destacar que sí hubo un movimiento contrario: el ludismo, encabezado por artesanos ingleses que, en el siglo XIX, protestaron contra las máquinas que destruían y despersonalizaban el empleo. Sin embargo, esta resistencia al progreso motivada por los sinsabores que, sin duda, también pueden traer las innovaciones fue superada por las ventajas que, también indudablemente, trajeron las máquinas a nuestras vidas.
Hoy en día el llamado neoludismo persiste asociado a aquellos que, sin ser violentos, ven en las nuevas tecnologías un impacto social claramente negativo y perjudicial. Por supuesto, la IA no se queda al margen en este saco de herramientas —para algunos conflictivas— que están ayudando, de manera ineludible, a forjar nuestro futuro. Además, en esta ocasión, confluyen una serie de variantes que incrementan exponencialmente los argumentos a favor de la resistencia al cambio. Las nuevas “máquinas” parecen tener ciertas “cualidades” que hasta ahora solo podíamos asociar a los seres humanos. Y entonces surge otra gran pregunta: si ahora las “máquinas” también pueden hacer labores con “inteligencia” —en lo que a la toma de decisiones se refiere—, ¿qué nos queda a los humanos?
Normalmente llamamos inteligencia a la capacidad para entender o comprender algo… también la habilidad para resolver problemas. A esta definición normalmente solemos asociarle otra cuestión relativa al contexto en el que se toma la decisión. Percibimos que alguien ha tomado una decisión inteligente cuando la persona ha tenido en cuenta una serie de variantes contextuales —de muchas clases—, además del mero análisis de datos que procesa nuestro limitado cerebro. Una de ellas es, sin duda, la ética. Los principios éticos universales, por un lado, y los culturales —o geográficos, según se mire— por el otro. Y es aquí donde el ser humano encuentra una salida a su gran pregunta. Los algoritmos de IA son capaces de analizar datos e, incluso, pueden llegar a conclusiones mejor fundamentadas —sobre los datos de los que ha dispuesto— que un humano. Pero, al menos por el momento, no son capaces de contextualizar su decisión, de aportar la ética necesaria para que dicha decisión sea válida para la sociedad. Por el momento no, es verdad. Sin embargo, es el momento de empezar a cuestionarnos si estas son las preguntas que deberíamos hacernos en la actualidad o, más bien, centrar nuestros esfuerzos en acoger un razonamiento más lógico y práctico respecto a estas tecnologías de gran impacto. En cualquier caso, tal y como comenta este libro, es importante tener en cuenta la aproximación al factor cultural cuando tratamos con IA. Latinoamérica no es España. Nos unen muchas cosas, pero también hay diferencias a tener en cuenta en la aproximación a los datos y a la IA.
Una IA que complete, no que sustituya
Si abrimos un poco el contexto histórico en el que nos encontramos, nos damos cuenta de que los sistemas de IA —que ya habían comenzado su andadura a mitad del siglo XX— vienen a cubrir una necesidad actual. Nosotros, los humanos, no somos capaces de procesar —con la eficiencia y rapidez de las máquinas— el gran volumen de datos —big data— que, de manera exponencial, crece a cada segundo que pasa. Necesitamos de los algoritmos para aumentar nuestra capacidad física de análisis y aprovechar así las grandes ventajas derivadas del manejo apropiado de estos datos: tratamientos médicos personalizados, previsiones basadas en patrones extraídos de los datos, entre otras muchas. ¿Y la ética de la que hablábamos antes? La ética, por ahora y pensando en planteamiento práctico, la seguimos poniendo nosotros, los humanos. ¿Y por qué no? La IA no ha venido a sustituirnos como “especie superior” ni nada que se le parezca. Es simplemente una tecnología que nos ayuda a mejorar nuestra calidad de vida, como nos ayudó la imprenta en su momento o la lavadora en el suyo.
Actualmente, suele ser un ingeniero el que se encarga de diseñar y desarrollar los algoritmos de IA. Por tanto, debe de ser esta persona —o su equipo— el que se encargue de supervisar —mediante otros algoritmos u ojos humanos— los datos de los que se alimenta ese sistema para evitar posibles sesgos que puedan suponer un perjuicio para otra persona —raza, sexo, ideología…—, dentro o fuera de la empresa u organismo en cuestión, y siempre en función de la finalidad este. Por tanto, la decisión final sigue siendo nuestra, de los humanos, y no tienen por qué cambiar si no lo deseamos así.
Y es que estamos en un momento en la Historia de la humanidad, respecto a la evolución de la tecnología, en la que la pregunta no es si podemos hacer una determinada cosa, sino, más bien, si debemos llevarla a cabo. La cuestión no es si llegará un momento en que los algoritmos de IA sean capaces de tomar decisiones autónomas en cuestiones relevantes para el ser humano, sino si debemos dejar que esto pase. Está en nuestras manos, las de los humanos, en este momento crucial de la historia. Nuestro futuro apocalíptico o integrador dependerá de nuestras decisiones.
Animo al lector a formarse a través de la lectura de este magnífico libro. A adquirir conciencia sobre el impacto de este mundo de datos y máquinas en el que vivimos sobre nuestros derechos fundamentales. Algo importante para evitar posibles manipulaciones —conscientes o inconscientes—. Una obra imprescindible en esta “era bisagra”.
INTRODUCCIÓN
Cuando cursaba la carrera de Abogacía en la Facultad de Derecho de la Universidad de Buenos Aires, frecuentemente se estudiaba el concepto de caso fortuito y fuerza mayor. (1) Estos supuestos eran sumamente lejanos, al tal punto que hasta era difícil encontrar ejemplos en la jurisprudencia. Ahora resulta que estamos en la era de los acontecimientos inesperados: la pandemia iniciada en 2020 por el covid-19, la erupción del volcán en La Palma de Gran Canaria en 2021 (la última erupción había sido en 1971) junto con una serie fenómenos climatológicos extremos y, como si todo esto fuera poco, la guerra en Ucrania. ¿Se avecina la tercera guerra mundial? No lo sabemos, pero después de la cantidad de ejemplos de “caso fortuito” y “fuerza mayor” que tenemos para estudiar en las aulas de la universidad, no nos queda otro remedio que pensar que todo es posible…
Los primeros tipeos de este libro comienzan bajo ese contexto, en una fría mañana en la monumental ciudad de Salamanca; donde se respira cultura, arte, historia y, sobre todo, “universidad”. Justamente es aquí donde, muchos años atrás, nació parte de la inspiración de este libro. Desde la ventana, observo el “aulario” de una de las universidades más antiguas del mundo y puedo espiar a las y los estudiantes en las clases, tomando apuntes y revisando las últimas actualizaciones en sus cuentas de Instagram. Las y los tomo como inspiración.
Allá por el 2015, en aquella ciudad tuve el inconmensurable placer de estudiar por primera vez en otras de las magníficas geografías que la Tierra nos obsequia y fue donde me di cuenta de que quería que estudio, trabajo y viajes fueran parte de la misma historia. Y, sin duda, fue esa la musa que cambió radicalmente el rumbo de mi vida. Me atrevo a afirmar que jamás un viaje pasa desapercibido. Siempre, mal o bien, en algo, nos cambia.
A través de estas páginas vengo a contarles una historia, una historia que recopila diversos trabajos de investigación (2) y que tiene propósitos bien claros. El primero de ellos, y tal vez el más importante, es sumar concientización y divulgar mi conocimiento sobre el impacto que tiene la inteligencia artificial en nuestros derechos especialmente desde que llegó para constituir un nuevo imperio. Se habla mucho de lo bueno y lo malo de la IA con foco en la ética; acá conversaremos en clave de derechos. ¿Cómo repercute la IA en aquellos derechos que a la humanidad le costó años y años conquistar y aún seguimos defendiendo? Estamos hablando, ni más ni menos, que de los derechos humanos.
El libre albedrío en el uso de la IA se justifica con una frase: “no existe regulación”. Sí, es verdad, no existe regulación propia en la materia. Pero, señoras y señores, lamentamos comunicarles que no necesitamos una norma específica que nos prohíba discriminar a través del uso de sistemas de IA; ya tenemos, bien enraizado, un precioso derecho humano que veda absolutamente la discriminación y, de más está decir, en cualquiera de sus formas.
Aclaramos que este no es un libro jurídico, ni pretende serlo. Este libro, a través de casos concretos y contenido interactivo, pone blanco sobre negro en cuestiones cotidianas de la vida de las personas: redes sociales, reconocimiento facial, medioambiente y más. Desnudaremos la inteligencia artificial y marcaremos su impacto en nuestros derechos en un lenguaje comprensible por todas y todos y a través de un dialogo interactivo.(3)
Otro de los propósitos es la marcada perspectiva iberoamericana. La tecnología en general, y la inteligencia artificial en particular, se presenta siempre como “importada”. Aunque no nos demos cuenta, casi la mayoría de los textos que leemos sobre el tema son traducciones del inglés, cuyos autores generalmente son anglosajones, rusos o asiáticos (potencias en la materia).
Aquí buscamos demostrar que Iberoamérica tiene mucho para aportar en el campo de la IA y, sobre todo, necesitamos que el desarrollo de los sistemas y los análisis éticos y de derechos sean bajo nuestra identidad. El hecho de utilizar sistemas y textos con sello de importación es el primer problema con el que nos toparemos. No podemos, ni queremos, ir rezagados. Por ello, en este libro contamos con la colaboración de diversos referentes de Iberoamérica cuyos aportes serán integrados a lo largo del libro y en un apéndice final que evidencia el estado del arte de la IA en Iberoamérica.
Por último, pero no por ello menos importante, buscamos dar herramientas, tanto para las y los ciudadanos de a pie como para todos aquellos que se encuentren en una situación de poder y/o sean capaces de tomar decisiones en el campo de la IA: empresarios, CEO, políticos, legisladores, programadores, etc. A ellas y ellos, les acercaremos lineamientos iniciales para pensar leyes, protocolos, estrategias o guías de mejores prácticas que permitirán desarrollar una IA bajo el paraguas de los derechos humanos, la inclusión y la diversidad. A quienes interactúan día a día con sistemas de inteligencia artificial a ciegas (es decir, todas nosotras y todos nosotros), intentaremos dotarlos del arma más poderosa que una persona puede tener: el conocimiento.
Para alcanzar esos objetivos, debemos transitar unos pasajes previos que nos ayudarán a situarnos dónde estamos parados hoy en la materia. Esto lo haremos con dos enfoques: por un lado, comprender qué es y qué no es la inteligencia artificial (capítulo 1) y, por el otro, a qué le debemos temer concretamente cuando hablamos de aquella (capítulo 2). En esa primera etapa iremos derribando mitos y abordando distintos debates que conforman el panorama actual de la IA.
Una vez desmitificadas varias cuestiones, pasaremos a abordar las áreas que consideramos más relevantes en la defensa de nuestros derechos: el medioambiente (capítulo 3), los sesgos algorítmicos (capítulo 4), las redes sociales (capítulo 5) y el reconocimiento facial (capítulo 6).
Finalmente, intentaremos dar un mensaje esperanzador (¡no todo está perdido!). Brindaremos una serie de ideas para derrocar al “algoritmo emperador” que nos ayudarán a proteger nuestros derechos, principalmente basadas en la prevención: las auditorias algorítmicas (capítulo 7).
El camino comienza con un matrimonio que celebré, hace ya muchos años —todavía no sé muy bien cómo—, con la inteligencia artificial en la pintoresca ciudad de Girona. Como todos y todas sabemos, en las relaciones se aprende, se sufre, se crece, se construye, se experimenta… y esta no es la excepción.
¡SÍ, QUIERO!
Todo comenzó en la bellísima Girona, una pintoresca ciudad catalana con su casco histórico medieval y sus casitas coloridas que se caen sobre el río Onyar. Qué fácil estudiar con ese paisaje, ¿no?
Iniciar un proceso de aprendizaje siempre tiene grandes maestros que te acompañan. Uno de ellos fue el profesor del máster en Derecho de Daños Miquel Martín Casals, con quien, luego de varias charlas y de aceptar ser el director de mi tesina, dimos en el blanco con el tema. Fue una búsqueda un tanto rebuscada: tenía que ser un tema novedoso, innovador, del que haya muy poco escrito, que genere un desafío y que sirva para un doctorado. Así fue como me comentó que había estado en una reunión en Bruselas organizada por la Unión Europea, donde habían debatido sobre la responsabilidad civil en relación con la inteligencia artificial, un tema, para él, con gran potencial. A decir verdad, creo que no se equivocaba.
Allí empecé a investigar sobre esa nueva disciplina de la que poco y nada había escuchado. El tema (que para muchos, en aquel momento, no era tema) cumplía con todos los requisitos: novedoso, casi nada escrito sobre la materia (menos en español) y, sobre todo, un desafío intelectual que celebro haber afrontado.
Comencé a estudiar con la poca bibliografía que encontraba, el problema era que todo estaba en inglés. Si bien tenía dos generosas amigas traductoras, Ani y Naty, como se trataba de inglés técnico en un área tan opuesta a la que había estudiado, me costaba horrores. Pese a los vaivenes de mi ánimo y pensamientos, busque sortear la dificultad contratando un profesor particular cual alumna secundaria en aprietos. Así fue como encontré a Leonardo, un especialista y profesor en inteligencia artificial que preparó unas brillantes clases a medida de una abogada. Ahí sí empezó el verdadero amor con la inteligencia artificial…
1. Si bien ambos términos refieren a situaciones diversas (el caso fortuito a hechos de la naturaleza —terremotos, tempestades— y la fuerza mayor a hechos de las personas —declaración de guerra—), el Código Civil y Comercial argentino los utiliza como sinónimos (art. 1730 CCCN).
2. Harari, en 21 lecciones para el siglo XXI, comenta que su libro fue escrito en diálogo con el público y que versiones cortas de algunos segmentos fueron publicados previamente, lo cual le dio la oportunidad de recibir el feedback de sus argumentos (Harari, Yuval, 21 Lessons for the 21st Century, Jonathan Cape, London, p. 320). En este libro, nos inspiramos en sus palabras y seguimos el mismo lineamiento.
3. ¡Para ampliar la información te iré compartiendo muchos links!
CAPÍTULO 1
DELIMITANDO FRONTERAS ENTRE PERSONAS, MÁQUINAS Y DERECHOS
En el momento de la singularidad no habrá distinción entre humanos y tecnología. Y esto será así no porque los humanos se hayan convertido en lo que hoy entendemos por máquinas, sino más bien porque las máquinas habrán progresado hasta llegar a ser humanas y más que humanas.(4)
Ray Kurzweil
LA ERA BISAGRA
Atravesamos una era bisagra por muchos motivos. Uno de ellos es el avance inconmensurable de la ciencia y sus implicancias en nuestras vidas. Por poner solo un ejemplo, recientemente se popularizó CRISPR (Clustered Regularly Interspaced Short Palindromic Repeats), una técnica de edición genética que puede cambiar el genoma de cualquier ser vivo. Esta técnica permite desactivar un gen o sustituir la secuencia de un gen defectuoso por una secuencia correcta y así curar una enfermedad. Es más, con CRISPR se puede modificar un embrión humano para eliminar una enfermedad genética hereditaria. Como podrán imaginar, este descubrimiento trae consigo un enorme progreso científico pero, a su vez, y más grande aún, un caluroso debate ético.
¿Cómo funciona CRISPR y cuáles son sus debates éticos? “CRISPR: así se editan los genes” https://www.youtube.com/watch? v=ZoE-G7YPvZQ
Entre los avances científicos de la humanidad que nos hacen reflexionar sobre las cuestiones éticas, es la inteligencia artificial la que tal vez ocupa el podio: ¿hasta qué punto las máquinas (5) pueden imitarnos y, peor aún, reemplazarnos?
Ray Kurzweil, inventor estadounidense y científico especializado en Ciencias de la Computación e Inteligencia Artificial que ocupa el cargo de director de Ingeniería en Google, trae esos temas a la mesa en su libro La singularidad está cerca. Para él, la singularidad “representa la fase casi vertical del crecimiento exponencial que tiene lugar cuando el ritmo es tan extremadamente alto que la tecnología parece expandirse a una velocidad finita”. Kurzweil considera que llegará un momento (no muy lejano, pues la singularidad está cerca) en el que las máquinas superarán en habilidades y capacidades a los humanos. (6)
Las contundentes afirmaciones del científico, que seguro alarman —con razón— a más de uno, nos invitan a repensar los principios básicos de las sociedades modernas. Parece ser que estamos en un momento de crisis de la identidad humana, en el que nuestras propias invenciones nos ponen en el banquillo de los acusados y nos interrogan acerca de nuestro futuro cercano.
En ese debate entra también el medioambiente, el cual sufre una desafortunada transformación por el imprudente actuar humano, transformación que, a su vez, reconfigura nuestra identidad. (7) Al fin y al cabo, todo queda en nuestras manos según cómo tratemos a la naturaleza y cómo decidamos utilizar la tecnología.
En este “repensar” acerca de nuestra identidad también entran en crisis nuestros derechos humanos, aquellos que poseemos por nuestra cualidad innata de seres humanos y que hacen a nuestra propia existencia. ¿Están las tecnologías afectando esos derechos tan sagrados? Comencemos nuestro camino por intentar desmenuzar qué es la inteligencia artificial…
LAS RECETAS DE COCINA Y LA INTELIGENCIA ARTIFICIAL
Una de las dificultades más grandes que nos encontramos cuando nos introducimos en el mundo de la inteligencia artificial es entender de qué se trata y cómo funciona. Existen casi tantos conceptos de IA como textos o espacios donde se intente definirla. Esta problemática engloba en general a los grandes fenómenos de esta era, como sucede, por ejemplo, con el Metaverso. Por ello, haremos el mejor de los esfuerzos por brindar una conceptualización lo más clara posible, haciendo foco en ejemplos y advirtiéndoles que seguramente haya muchos detractores.
En criollo (8) (como nos gusta hablar), la IA consiste en hacer predicciones futuras basándose en datos, muchos datos, del pasado. Esas predicciones las realizan algoritmos que tienen la capacidad de aprender de patrones que se encuentran en los datos. Por eso se afirma que sin datos no existe la IA y de ahí que se los considere el petróleo de nuestra era. (9)
