El dilema de la IA E-Book

Rafael Gómez Pérez

• Herausgeber: Ediciones Rialp, S.A.
• Kategorie: Wissenschaft und neue Technologien
• Serie: Bolsillo
• Sprache: Spanisch

Seitenzahl: 114

Veröffentlichungsjahr: 2023

Beschreibung

Para algunos, la Inteligencia Artificial es un progreso inevitable y benéfico. Para otros, un peligro, que se alía con el cerebro y luego podría llegar a sustituirlo. ¿Dónde se encuentra la línea roja en el uso de una herramienta de semejante potencial? El entorno ético depende más de la suma de actitudes individuales que de las advertencias legales. Se hace indispensable la reflexión sobre el sentido de la vida humana y la promoción de una cultura humanística, que ayuden a contemplar los grandes avances desde el pensamiento crítico y no solo desde la euforia.

Leseprobe

RAFAEL GÓMEZ PÉREZ

EL DILEMA DE LA IA

EDICIONES RIALP

MADRID

© 2023 by Rafael Gómez Pérez

© 2023 by EDICIONES RIALP, S. A.,

Manuel Uribe 13-15, 28033 Madrid

(www.rialp.com)

No está permitida la reproducción total o parcial de este libro, ni su tratamiento informático, ni la transmisión de ninguna forma o por cualquier medio, ya sea electrónico, mecánico, por fotocopia, por registro u otros métodos, sin el permiso previo y por escrito de los titulares del copyright. Diríjase a CEDRO (Centro Español de Derechos Reprográficos, www.cedro.org) si necesita reproducir, fotocopiar o escanear algún fragmento de esta obra.

Preimpresión: produccioneditorial.com

ISBN (edición impresa): 978-84-321-6527-6

ISBN (edición digital): 978-84-321-6528-3

ISBN (edición bajo demanda): 978-84-321-6529-0

ÍNDICE

Prólogo

I. La ficción se adelanta a la ciencia

IA en la literatura

IA en el cine

II. Algunas nociones sobre la IA

Memoria, inteligencia y voluntad

Qué es la IA

Humanistas y transhumanistas

Interioridad e IA

IA: consciencia y conciencia

El ChatGPT y los que seguirán

El futuro de la IA

III. Cuestiones éticas sobre la IA

Ética y Moral

La falsedad artificial

Deber de objetividad

IA y trabajo humano

IA y pasiones

El sesgo en la recogida de datos

Privacidad y seguridad

Dependencia y falta de control

Riesgo existencial

Adelantos científicos y pobreza en el mundo

IV. La batalla institucional por la seguridad y la privacidad

Conclusiones

Lo natural y lo artificial

Inevitabilidad del instrumento

Sobre los deberes éticos

Lo perenne y lo nuevo

Un entorno ético

Navegación estructural

Cubierta

Portada

Créditos

Índice

Comenzar a leer

Notas

PRÓLOGO

La Inteligencia Artificial ocupa ya un lugar en el debate internacional y, como ella misma lo alimenta, lo retroalimenta y lo desarrolla, será uno de los temas recurrentes de ahora en adelante. Es vista por unos como un progreso inevitable y benéfico. Por otros como una potencial arma de confusión e incluso de peligro para el mundo del trabajo y de la creación artística. Algunos prevén una creciente inserción de IA en las armas, con consecuencias imprevisibles, y llegan a compararla con los armamentos nucleares.

Los seres humanos han acogido habitualmente con una mezcla de interés, entusiasmo y curiosidad los inventos que iban apareciendo en su cultura. Sucedió con el descubrimiento del fuego y la invención de la rueda y la imprenta, y, en tiempo más recientes, del ferrocarril, la radio, el cine y la televisión y, especialmente, todo lo que ha traído esa alianza entre la mecánica cuántica y la teoría de la computación, hasta terminar, por ahora, en la inteligencia artificial.

Se puede tener en cuenta que esos inventos son eso: descubrimientos de algo que “estaba siempre ahí” como posible resultado del engarce entre realidad, ser y pensamiento humano. De un modo algo críptico ya lo percibió el viejo Parménides en el siglo v a. C. cuando escribió el verso: «Una sola cosa es el pensar y el ser». “Descubrir” es alzar el velo sobre algo que estaba en potencia. Y que –como anotó Galileo en el siglo xvii– estaba escrito en el lenguaje de las matemáticas, expresión de unas leyes del universo que regían el mundo muchos millones de años antes de la aparición del ser humano.

Esos descubrimientos entran todos en la categoría de instrumentos. Muchos podrían relacionarse con una parte del cuerpo humano, ampliando sus posibilidades, como el arado, el arco o la espada. Otros mejoran el desplazamiento, como el carro, el trineo o el avión. Y otros, la capacidad de comunicación, como la imprenta, la radio o internet. Lo propio de la IA es que se presenta como una aliada del cerebro humano, cuando no –en las exageraciones o en la ciencia ficción– como su sustitución.

Mientras se siga considerando como instrumento, la ética no es aplicable a la IA, porque los instrumentos, como los animales, son siempre inocentes. La bondad o maldad estará en el uso o abuso que de ellos haga el ser humano. En ese sentido las utilizaciones viciosas de la IA podrán ser comparadas al ejercicio de los vicios desde que el ser humano lo es. Cambian las formas, los modelos de eficacia, pero la sustancia sigue siendo la misma.

Cuestión muy distinta es el planteamiento del transhumanismo. Gracias a la técnica de la IA y a la intervención genética, se daría un “perfeccionamiento” tal del ser humano que lo convertiría en inmortal. La cuestión tampoco es nueva: el ser humano ha tenido a veces la veleidad, la tentación o la pretensión de crear a otro ser humano, como si fuera Dios: así toda la tradición del golem del Talmud judío, el homúnculus en la alquimia renacentista, con una continuación que llega hasta el Fausto de Goethe, el Frankenstein de la novela de Mary Shelley y una larga lista.

Por usar el manido tópico, la IA ha venido para quedarse. De lo que se trata es de dilucidar cómo se pueden aprovechar sus posibilidades, eliminando o al menos disminuyendo sus posibles peligros.

I. LA FICCIÓN SE ADELANTA A LA CIENCIA

Desde principios de este siglo, las novelas y las películas sobre IA son temas recurrentes y no es difícil pronosticar que irán a más. La fantasía sobre “construcciones” más allá de lo humano es, paradójicamente, uno de los rasgos humanos más desarrollados: la imaginación.

IA en la literatura

La literatura, con siglos de historia y en las más diversas culturas, es pionera en esto, cuando el cine aún no existía. Sólo algunos ejemplos.

De 1872 es Erewhon, de Samuel Butler, donde, extrapolándose las teorías de Darwin, se presenta el peligro de que las máquinas puedan adquirir inteligencia por selección natural.

En 1947 se publica With Folder Hands, de Jack Willianson. Aquí unos humanoides inteligentes se apoderan por completo de la humanidad, después de haberse presentado como dóciles servidores.

Es muy leída una obra de Isaac Asimov, de 1950, Yo, robot. Una serie de relatos en los que se enuncian las llamadas tres leyes de la robótica: «1. Un robot no puede hacer daño a un ser humano o, por su inacción, permitir que un ser humano sufra daño. 2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entran en conflicto con la Primera Ley. 3. Un robot debe proteger su existencia para no autodestruirse, en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley».

Si el robot debe obedecer al ser humano, es fácil imaginar que no lo haga. Ese es el tema de la muy interesante novela de Stanislaw Lem, de 1981, Golem XIV. Es un supercomputador mental, ideado para servir a sus constructores en operaciones bélicas. Pero adquiere conciencia, se rebela y empieza a “filosofar” sobre la condición humana, el destino del universo y de su propio papel en todo eso. Y calcula y predice el futuro del fin del mundo…

Neuromante es una compleja novela, 1984, de William Gibson, mezcla de muchos géneros, con algunos personajes que son transhumanos, a causa de las modificaciones que han recibido en su cuerpo y en su mente.

La era del diamante: manual ilustrado para jovencitas, 1996, de Neal Stephenson, es una fantasiosa aplicación de la IA a la educación. Todo en un mundo donde el Estado-nación es algo inservible y la sociedad está separada en una serie de tribus, o phyles, no concentradas en un solo territorio, sino distribuidas por todo el mundo. Las tribus coexisten más o menos pacíficamente, con diferencias culturales y económicas.

Publicada en 2011, Roboapocalipsis, de Daniel H. Wilson, trata de un tema ya muy trillado: la rebelión de los robots, pero llevado al extremo. Un humano ha conseguido crear un superrobot a través del método del ensayo y error. Lo fabrica y lo destruye varias veces, pero en la más reciente creación, el robot, con toda la experiencia acumulada, decide hacerse el amo. Consigue bloquear todos los sistemas de telecomunicaciones y hacer que todos los artilugios electrónicos que puedan considerarse robots estén bajo su control. Ahí comienza el caos y la destrucción de la humanidad…

Ian McEwan, uno de los mejores escritores actuales, juega al pesimismo en su novela de 2019, Máquinas como yo. Está ambientada en Londres, en los ochenta del siglo xx. Supone que Alan Turing, quien, con su célebre máquina inició todo lo que vino después, no murió a los 42 años de suicidio, en 1954, sino que vivió mucho más y, entre otras muestras de su genio, resolvió los problemas matemáticos que impedían a los robots el acceso a la consciencia. A finales del siglo xx, crea a Adán y Eva, la primera y reducida generación de androides. El protagonista, Charlie Friend, emplea todos sus bienes en comprar un Adán de la primera hornada. Quería una Eva, pero, por lo que sea, estaban más solicitadas, y la mitad no habían salido de la fábrica cuando el resto ya estaban empaquetadas y camino de Riad…

Kazuo Ishiguro, Nobel de Literatura de 2017, publica en 2021 Klara y el sol. Klara es una AA, una Amiga Artificial, especializada en el cuidado de niños. Pasa sus días en una tienda, esperando a que alguien la adquiera y se la lleve a una casa, un hogar. Mientras espera, contempla el exterior desde el escaparate. Observa a los transeúntes, sus actitudes, sus gestos, su modo de caminar, y es testigo de algunos episodios que no acaba de entender, como una extraña pelea entre dos taxistas. Klara es una AA singular, es más observadora y más dada a hacerse preguntas que la mayoría de sus congéneres. Y, como sus compañeros, necesita del Sol para alimentarse, para cargarse de energía...

IA en el cine

Aunque no trate explícitamente de IA, es imprescindible comenzar por Metrópolis (1927), de Fritz Lang, por su carácter distópico y el tema recurrente de la rebeldía del ser humano contra la mecanización.

En las décadas siguientes son numerosas las películas de ciencia-ficción, aunque en la mayoría no hay nada especialmente destacable. Todo cambia a partir de los años sesenta, y el inicio de un nuevo estilo puede cifrarse en 2001, Una odisea en el espacio, de Stanley Kubrick, a la que se hace referencia en otro lugar de este libro.

Otra línea innovadora puede cifrarse en Terminator, 1984, de James Cameron. Un sargento regresa del futuro (2029) para proteger a la que sería madre del líder de la resistencia en un mundo dominado por las máquinas. Se dice que hubo una guerra nuclear: «Nadie supo quién la empezó. Fueron las máquinas. Los ordenadores de la red de defensa, nuevos, potentes, conectados a todo. Se confiaba en ellos para manejarlo todo. Dicen que se hicieron inteligentes. Un nuevo orden de inteligencia. Entonces vieron la humanidad como una amenaza. Nuestro destino es la exterminación». Terminator 2, 1991, del mismo director, presenta, dentro de una compleja trama, la lucha de dos criaturas robóticas, T-1000 y T-800, construidas por la resistencia a la dictadura de las máquinas. T-1000 tiene “instintos” antihumanos. T-800, en cambio, llega a comprender y apreciar las emociones humanas. Convertida en franquicia, se hicieron cuatro películas más de Terminator, todas carentes de interés y muy lejos de las dos primeras.

Tron, 1982, de Steven Lisberger, tuvo una secuela en 2010, Tron: Legacy, de Joseph Kosinski. Las dos son básicamente de entretenimiento, con una típica trama de aventuras, sin incidir para nada en tratamientos de fondo, filosóficos.

De 1999 es Matrix, de las hermanas Lilly y Lana Wachowski. Esta vez son los humanos los que han de luchar contra las máquinas inteligentes en un futuro distópico en el que la humanidad está encerrada, sin consciencia de ello, en una realidad virtual llamada Matrix. Las máquinas inteligentes la han creado para distraer a los humanos, mientras usan sus cuerpos como fuente de energía en campos de cultivo. Cuando un programador informático, con el alias de hacker “Neo”, descubre la verdad y se une a una rebelión contra las máquinas…

Desde el inicio del siglo xxi son ya muy frecuentes las películas de ciencia ficción, con elementos de IA. De 2001 es IA. Inteligencia Artificial, que venía avalada por la firma de Steven Spielberg. Esta vez se trata de un robot niño que puede amar y ser amado, lo que no parece sino una vuelta de tuerca a E.T. Yo, robot, 2004, de Alex Proyas, está inspirada libremente en los relatos de Isaac Asimov. Walle-E, 2008, de Andrew Straton, es una película de animación con las aventuras de Walle-E, un robot encargado de limpiar la basura de una Tierra destruida y desolada. Llegará a enamorarse del robot EVA (en esto de los nombres los guionistas no muestran demasiada imaginación). Juntos colaboran en reinventar a los humanos y en reconstruir la Tierra.

Moon, 2009, de Duncan Jones, combina el tema de los clones con el ya habitual de una inteligencia habitual asistente. Her, 2013, de Spike Jonze, va más allá, y es la historia de un romance, incluso tórrido, entre un humano y Her, Ella, que es una inteligencia artificial. Trascendence, 2014, de Waily Pfister, solo merece citarse por afrontar lo que, por otra parte, se veía venir: construir una máquina inteligente y a la vez emocional. Ex Machina, 2014, de Alex Garland, va más o menos de lo mismo, pero es mejor película.

No cuesta trabajo imaginar que las películas sobre IA con emociones van a ser tendencia de ahora en adelante. La mayor parte, como suele ocurrir, serán productos mediocres fácilmente generados por IA y repetitivos. Platón decía que «lo bello es raro». La originalidad, también.