Pase, el robot le espera E-Book

John Wyatt

• Herausgeber: Andamio Editorial
• Kategorie: Religion und Spiritualität
• Sprache: Spanisch

Seitenzahl: 420

Veröffentlichungsjahr: 2026

Beschreibung

Pase, el robot le espera, de John Wyatt, analiza cómo pueden responder los cristianos a los avances tecnológicos en los próximos años. La última década ha sido testigo de tremendos avances en la inteligencia artificial y en la tecnología robótica, y esto plantea preguntas acuciantes que es necesario responder. Pase, el robot le espera analiza cómo pueden responder los cristianos a estas cuestiones (y progresar) en los próximos años. Una serie de contribuciones de parte de expertos internacionales, incluyendo a los editores John Wyatt y Stephen Williams, exploran toda una gama de cuestiones sociales y éticas planteadas por los avances recientes en la IA y en la robótica. El libro, que estudia el rol que juega la inteligencia artificial en campos como la medicina, el mercado laboral y la seguridad, examina el concepto que se tiene de la IA, así como su impacto real sobre las interacciones y las relaciones humanas. Al mismo tiempo, la obra incluye respuestas teológicas desde una cosmovisión cristiana. Al abordar la manera en que se pueden enfocar la inteligencia artificial y la robótica a la luz de la Palabra de Dios, Pase, el robot le espera ofrece una visión equilibrada y reflexiva sobre cómo pueden comprender los cristianos los retos que plantea el progreso de la IA y cómo prepararse para ellos.

Leseprobe

Índice

Prólogo a la serie

Colaboradores

Prefacio

Introducción editorial

Introducción: Una perspectiva de la tecnología informática

PRIMERA PARTE

¿Qué está pasando? Un análisis cultural e histórico

1. La ciencia ficción, la IA y nuestra insignificancia progresiva

2. Fuera de la máquina: el cine y la ciencia ficción

3. Tras la inteligencia artificial

4. Ser humano en un mundo de máquinas inteligentes

5. La IA y los robots: algunos enfoques asiáticos

Segunda PARTE

Marcos y respuestas teológicos

6. ¿Qué significa ser persona?

7. Los robots, la IA y la unicidad humana: aprender qué no hay que temer

8. ¿Un sustituto, un colaborador o un instrumento? ¿Hasta qué punto debería ser autónoma la tecnología?

9. El futuro de la humanidad

Tercera PARTE

Cuestiones éticas y sociales

10. Sextec: relaciones simuladas con máquinas

11. ¿Nos echarán del trabajo los robots?

12. El impacto de la IA y de la robótica sobre la salud y la asistencia social

13. El arte, la música y la IA: los usos de la IA en la creación artística

14. La cuestión del capitalismo de la vigilancia

Conclusión

Bibliografía adicional

Iglesias y entidades colaboradoras en la publicación de esta serie

Otros libros de la serie Ágora

John Wyatt es profesor emérito de Pediatría neonatal, ética y perinatología en el University College de Londres, y Faraday Associate en el Faraday Institute for Science and Religion de Cambridge. Es autor de Asuntos de vida y muerte y Morir bien: Fieles hasta la muerte (ambos publicados en español por Andamio Editorial en 2007 y 2022 respectivamente) y Right to Die:Euthanasia, Assisted suicide and end-of-life care (publicado por IVP en 2015).

Stephen N. Williams es profesor honorario de teología en la Queen’s University de Belfast, y participó en el proyecto de investigación realizado en el Faraday Institute de Cambridge. Entre sus libros figuran The Election of Grace: A riddle without a resolution? (Eerdmans, 2015), The Shadow of the Antichrist: Nietzsche’s critique of Christianity (Baker Academic Press, 2006) y Revelation and Reconciliation: A window on modernity (Cambridge University Press, 1995).

Editado por John Wyatt y Stephen N. Williams

Pase, el robot le espera

Inteligencia artificial y fe cristiana

Prólogo a la serie

Un sermón hay que prepararlo con la Biblia en una mano y el periódico en la otra.

Esta frase, atribuida al teólogo suizo Karl Barth, describe muy gráficamente una condición importante para la proclamación del mensaje cristiano: nuestra comunicación ha de ser relevante. Ya sea desde el púlpito o en la conversación personal hemos de buscar llegar al auditorio, conectar con la persona que tenemos delante. Sin duda, la Palabra de Dios tiene poder en sí misma (Hebreos 4:12) y el Espíritu Santo es el que produce convicción de pecado (Juan 16:8), pero ello no nos exime de nuestra responsabilidad que es transmitir el mensaje de Cristo de la forma más adecuada según el momento, el lugar y las circunstancias.

John Stott, predicador y teólogo inglés, describe esta misma necesidad con el concepto de la doble escucha. En su libro El Cristiano contemporáneodice:Somos llamados a la difícil e incluso dolorosa tarea de la doble escucha. Es decir, hemos de escuchar con cuidado (aunque por supuesto con grados distintos de respeto) tanto a la antigua Palabra como al mundo moderno. (…). Es mi convicción firme que solo en la medida en que sepamos desarrollar esta doble escucha podremos evitar los errores contrapuestos de la falta de fidelidad a la Palabra o la irrelevancia.

La necesidad de la “doble escucha” no es, por tanto, un asunto menor. De hecho tiene una clara base bíblica. Podríamos citar numerosos ejemplos, desde el relevante mensaje de los profetas en el Antiguo Testamento -siempre encarnado en la vida real- hasta nuestro gran modelo el Señor Jesús, maestro supremo en llegar al fondo del corazón humano. Jesús podía responder a los problemas, las preguntas y las necesidades de la gente porque antes sabía lo que había en su interior. Por supuesto, nosotros no poseemos este grado divino de discernimiento, pero somos llamados a imitarle en el principio de fondo: cuanto más conozcamos a nuestro interlocutor, más relevante será la comunicación de nuestro mensaje.

La predicación del apóstol Pablo en el Areópago (Hechos 17) constituye en este sentido un ejemplo formidable de relevancia cultural y de interacción con “la plaza pública”. Su discurso no es solo una obra maestra de evangelización a un auditorio culto, sino que refleja esta preocupación por llegar a los oyentes de la forma más adecuada posible. Esta es precisamente la razón por la que esta serie lleva por nombre Ágora, en alusión a la plaza pública de Atenas donde Pablo nos legó un modelo y un reto a la vez.

¿Cómo podemos ser relevantes hoy? El modelo de Pablo en el ágora revela dos actitudes que fueron una constante en su ministerio: la disposición a conocer y a escuchar. Desde un punto de vista humano (aparte del papel indispensable del E. S.), estas dos cualidades jugaron un papel clave en los éxitos misioneros del apóstol. ¿Por qué? Hay una forma de identificación con el mundo que es buena y necesaria por cuanto nos permite tender puentes. El mismo Pablo lo expresa de forma inequívoca precisamente en un contexto de testimonio y predicación: A todos me he hecho todo, para que de todos modos salve a algunos. Y esto hago por causa del Evangelio (1 Corintios 9:22-23). Es una identificación que busca ahondar en el mundo del otro, conocer qué piensa y por qué, cómo ha llegado hasta aquí tanto en lo personal (su biografía) como en lo cultural (su cosmovisión). Pablo era un profundo conocedor de los valores, las creencias, los ídolos, la historia, la literatura, en una palabra, la cultura de los atenienses. Sabía cómo pensaban y sentían, entendía su forma de ser (Romanos 12:2). Tal conocimiento le permitía evitar la dimensión negativa de la identificación como es el conformarse (amoldarse), el hacerse como ellos (en palabras de Jesús, Mateo 6:8); pero a la vez tender puentes de contacto con aquel auditorio tan intelectual como pagano.

Un análisis cuidadoso del discurso en el Areópago nos muestra cómo Pablo practica la “doble escucha” de forma admirable en cuatro aspectos. Son pasos progresivos e interdependientes: habla su lenguaje, vence sus prejuicios, atrae su atención y tiende puentes de diálogo. Luego, una vez ha logrado encontrar un terreno común, les confronta con la luz del evangelio con tanta claridad como antes se ha referido a sus poetas y a sus creencias. Finalmente provoca una reacción, ya sea positiva o de rechazo, reacción que es respuesta natural a una predicación relevante.

Pablo era, además, un buen escuchador como se desprende de su intensa actividad apologética en Corinto (Hechos 18:4) o en Éfeso (Hechos 19:8-9). Para “discutir” y “persuadir” se requiere saber escuchar. La escucha es una capacidad profundamente humana. De hecho es el rasgo distintivo que diferencia al ser humano de los animales en la comunicación. Un animal puede oír, pero no escuchar; puede comunicarse a través de sonidos más o menos elaborados, pero no tiene la reflexión que requiere la escucha. El escuchar nos hace humanos, genuinamente humanos, porque potencia lo más singular en la comunicación entre las personas. Por ello hablamos de la “doble escucha” como una actitud imprescindible en una presentación relevante del evangelio.

Así pues, la lectura de la Palabra de Dios debe ir acompañada de una lectura atenta de la realidad en el mundo con los ojos de Dios. Esta doble lectura (escucha) no es un lujo ni un pasatiempo reservado a unos pocos intelectuales. Es el deber de todo creyente que se toma en serio la exhortación de ser sal y luz en este mundo corrompido y que anda a tientas en medio de mucha oscuridad. La lectura de la realidad, sin embargo, no se logra solo por la simple observación, sino también con la reflexión de textos elaborados por autores expertos. Por ello y para ello se ha ideado esta serie. Los diferentes volúmenes de Ágora van destinados a toda la iglesia, empezando por sus líderes. Con esta serie de libros queremos conocer nuestra cultura, escucharla y entenderla, reconocer, celebrar y potenciar los puntos que tenemos en común a fin de que el evangelio ilumine las zonas oscuras, alejadas de la luz de Cristo.

Es mi deseo y mi oración que el esfuerzo de Editorial Andamio con este proyecto se vea correspondido por una amplia acogida y, sobre todo, un profundo provecho de parte del pueblo evangélico de habla hispana. Estamos convencidos de que la Palabra antigua sigue siendo vigente para el mundo moderno. Ágora es una excelente ayuda para testificar con la Biblia en una mano y “el periódico” en la otra.

Pablo Martínez Vila

Colaboradores

Nigel Cameron es presidente emérito del Center for Policy on Emerging Technologies (Centro para las políticas de las tecnologías emergentes), Washington, DC.

Crystal L. Downing es profesora Marion E. Wade de Pensamiento cristiano en el Wheaton College, Illinois, Estados Unidos.

Andrew Graystone es un escritor, locutor y periodista independiente, y Fellow del St John’s College, Universidad de Durham.

Noreen Herzfeld es profesora de Teología y Ciencias de la Informática en el College of St Benedict/St John’s University, Minnesota, Estados Unidos.

Christina BieberLake es profesora Clyde S. Kilby de Lengua inglesa en el Wheaton College, Illinois, Estados Unidos.

Victoria Lorrimar es profesora de Teología sistemática en el Trinity College, Queensland, Australia.

Nathan Mladin es investigador jefe en el grupo de expertos Theos de Londres.

Vinoth Ramachandra es secretario internacional para el diálogo y la participación social, International Fellowship of Evangelical Students, con sede en Sri Lanka.

Peter Robinson es profesor de Tecnología informática en el University of Cambridge Computer Laboratory.

Robert Song es profesor de Ética teológica en la Universidad de Durham.

Andrzej Turkanik es director ejecutivo del Quo Vadis Institute, Salzburgo, Austria.

Prefacio

Con Pase, el robot le espera, John Wyatt y Stephen N. Williams nos ofrecen un libro desafiante y que induce a la reflexión sobre la naturaleza de la inteligencia artificial (IA) y sus implicaciones para los pensadores cristianos en toda una gama de ámbitos. El propio título nos trae a la mente la imagen de un paciente que entra en una consulta médica para que lo examine no un doctor humano de carne y hueso, sino una máquina programada para diagnosticar y recetar. Esto plantea de inmediato ideas de utopías y distopías… o de ambas. La visión utópica contemplaría la posibilidad de que esos objetos inanimados compensaran la carestía de personal médico y su incapacidad de conocer todos los diagnósticos posibles; mientras que a la postura distópica le horrorizaría la posibilidad de que una mera máquina trastease con algo tan delicado como es el cuerpo humano. Quizá en vez de “delicado” debería haber dicho “personal”, porque un leitmotiv que discurre por los excelentes ensayos de este libro es la pregunta de qué significa ser personas creadas a imagen de Dios. El test de Turing sugeriría que si no fuéramos capaces de distinguir entre los diagnósticos y las recetas emitidas por un médico humano y otro robótico, podríamos considerar que el segundo tiene “inteligencia” humana, pero esto plantea de nuevo la pregunta de qué queremos decir cuando usamos la palabra “inteligencia”. Los lectores deberán decidir por sí mismos si el test de Turing sigue siendo la regla de oro en este ámbito.

Este libro llega en buen momento porque, tal como coinciden los diversos autores, ya nos enfrentamos a la realidad de fenómenos tales como “el capitalismo de la vigilancia”, que consiste en la acumulación de información sobre nosotros extraída de los medios sociales, las compras online, los “ayudantes personales virtuales”, las cámaras de circuito cerrado públicas y otras fuentes de información sobre nuestros hábitos y actividades, de todo lo cual se pueden sacar conclusiones extraordinariamente precisas y, dirían algunos, intrusivas sobre nuestros pensamientos y actitudes. La aplicación de la IA a los datos de masas es lo que permite a los gobiernos y a las corporaciones alcanzar esos resultados espectaculares y potencialmente siniestros. Es decir, que la reflexión sobre el impacto que tiene la IA en nuestras vidas no es una cuestión de especulación puramente filosófica o teológica: es tan práctica como urgente.

La forma del libro resulta especialmente útil, dado que recaba datos de distintos contribuyentes que ofrecen perspectivas complementarias desde sus respectivos campos especializados. La mayoría se centra en cuál debería ser la respuesta cristiana a la IA ahora y en el futuro, pero este libro lo pueden leer provechosamente no cristianos y personas carentes de fe, dado que habla sobre cuestiones de la naturaleza y la autonomía humanas, que nos afectan a todos. Rehúye las respuestas fáciles y a menudo plantea preguntas complejas, pero, al hacerlo, nos hace un favor. Estos ensayos, que versan desde el peligro siempre presente del pensamiento reduccionista hasta las implicaciones de los sistemas armamentísticos autónomos y letales (LAWS); desde el interés vital por la dignidad humana hasta la consideración de la naturaleza tremendamente debatida de la consciencia (por no mencionar muchas otras dimensiones de la IA), abarcan una gama impresionante de facetas que tienen las implicaciones de la IA y que, sin duda, afectarán a todos los ámbitos de nuestra vida. Algunos lectores se sentirán especialmente impactados al recordar que la palabra “robot” es el término checo que significa “esclavo”: aun sin aceptar necesariamente la proposición de que las máquinas inteligentes deben poseer unos derechos equivalentes a los humanos, nos vemos obligados a repasar nuestro lamentable historial de explotación de los seres humanos como si en realidad fuesen máquinas. ¿Qué precio tiene la dignidad laboral y qué constituye explotación?

Así, la riqueza de este volumen es muy superior a lo que podría pensarse desde una consideración superficial del tema que desarrolla. La propia complementariedad de los ensayos es una ventaja. En tanto en cuanto los distintos contribuyentes duplican las referencias a fuentes comunes, esto no hace más que fortalecer el todo, casi como las luces que irradian desde distintos puntos sobre una misma gema sirven para revelar todo su potencial. Reto a cualquiera a que acabe de leer este libro sin sentirse conmovido y desafiado… a menos, claro está, que el lector sea un robot. Pero esa es otra historia…

Justin Cantuar

Lambeth Palace, Londres

Introducción editorial

John Wyatt y Stephen N. Williams

La inteligencia artificial (AI) flota en el aire que respiramos. Cuando realizamos una transacción con una tarjeta de crédito, giramos a la derecha obedeciendo a la indicación de un GPS o clicamos sobre un artículo especialmente recomendado para nosotros, normalmente no somos conscientes durante mucho tiempo de que estamos tratando con la IA, ni nos da por reflexionar sobre las cuestiones éticas que surgen en relación con nuestras interacciones. Según parece, la IA es un paso en el camino de una sociedad tecnológicamente avanzada, una parte tan natural de nuestro entorno social como los televisores a color lo fueron para una generación anterior y los teléfonos para la que la precedió.

No obstante, hay formas y perspectivas para la IA (con las que ya nos estamos familiarizando) que la convierten en un asunto digno de la reflexión pública y del debate urgente. El interés por el orden creado y social se encuentra en la esencia del pensamiento y del compromiso cristianos, aunque a menudo los cristianos han descuidado sus responsabilidades en este sentido. La palabra “creado” trasluce nuestra defensa de la creencia en un Dios creador que ha encuadrado a los humanos dentro de un orden. Se trata de un orden estropeado y desordenado por los errores humanos, pero también conducente al bienestar y al progreso de la humanidad, siempre que podamos hallar el camino de la sabiduría y recorrerlo. Nuestro objetivo en este volumen es ofrecer un modesto inicio respecto a la IA.

Cambiando de metáfora, somos muy conscientes de que con los capítulos siguientes no hacemos más que rascar la superficie. Esto no solo se aplica al tratamiento de un tema dado dentro de estos capítulos, sino también a la restricción de los temas tratados. Por ejemplo, el ámbito de la IA y la ley cada vez crece más rápido, y solo las limitaciones de espacio (que, sin duda, no son un juicio que carezca de importancia) explican la omisión de un capítulo sobre ese tema en este libro. De igual manera, no disponemos de un capítulo separado sobre las aplicaciones de la IA a la seguridad y al ejército, aunque estos sean temas que se planteen en más de una ocasión. Sin duda, la evaluación de la tecnología militar tiene una importancia ética primordial, pero conlleva un debate moral sobre el tema más crucial de todos, que es la propia cuestión de la guerra, y esto plantea profundos dilemas morales que son independientes de las cuestiones que rodean a la IA.

Nuestro libro se divide en tres partes, empezando por exposiciones culturales e históricas, pasando a ensayos teológicos y, por último, tocando una serie de cuestiones éticas y sociales que plantean la IA y la robótica. Los capítulos están diseñados para expresar y fomentar una reflexión tanto informada como seria, pero no pretenden ser tratamientos académicos, accesibles solo a especialistas o expertos en el campo de la IA. Que así fuera subvertiría el propósito de este libro, que es informar y acercarse a unos lectores “legos” que están dispuestos y ansiosos por reflexionar sobre cuestiones y problemas relativos a la IA que tienen un impacto social, ya sea directo o indirecto.

Aunque los autores son cristianos que reflexionan sobre la IA desde un paradigma cristiano, a menudo sus exposiciones no presuponen la existencia de una convicción cristiana ni religiosa. También confiamos en que, en los casos en que ofrecen respuestas religiosas, estas resulten interesantes y útiles para quienes no compartan los paradigmas de los autores. Hoy en día el “cristianismo” es una carpa tan grande que deseamos clarificar que intentamos definirlo ni con demasiadas estrecheces (conforme a una sola tradición eclesial o teológica) ni en términos tan generales que se despegue de toda conexión reconocible con lo que tienen en común las principales tradiciones cristianas.

Aunque el alcance y la incidencia de las discrepancias son reducidos, los contribuyentes no siempre coinciden y los editores no han intentado ocultar este hecho. Cada contribuyente recibió el encargo de seguir su propia línea independiente, pero algunos han colaborado dentro de talleres albergados por el Faraday Institute de Cambridge. Como editores, fuimos conscientes desde el principio de que se produciría cierto solapamiento entre los asuntos tratados; en realidad, resultaría extraño y un tanto preocupante que un número determinado de contribuyentes no ponderase, en relación con el tema asignado, las implicaciones del hecho de que la humanidad sea creada a imagen de Dios, que es una convicción cristiana clave. Sin embargo, hemos procurado reducir al máximo ese solapamiento y, cuando se produce, garantizar que sea positivamente útil. Como editores, en ocasiones hemos insertado (o hemos solicitado a los autores que inserten) una frase o una nota al pie que se refiera a las otras contribuciones de esta recopilación.

La IA abarca una amplia gama de fenómenos y siempre hemos de estar en guardia para no caer en la tesitura de no saber distinguir entre todas las cosas que caben en ese encabezado, que van desde una subdisciplina o un subcampo estrictamente matemático o de base científica en las ciencias de la informática hasta los comentarios sobre superinteligencias que pudieran dominar el mundo. Según parece, en el meollo de la preocupación social por la IA hallamos dos elementos. Uno es la naturaleza de la inteligencia de las máquinas y cómo deberíamos entenderla en relación con la inteligencia humana o, en términos más amplios, con los procederes y los actos humanos. El otro elemento tiene que ver con las consecuencias sociales de la incursión práctica de la IA en cierto número de ámbitos, como el entorno laboral y la asistencia sanitaria. Estas dos inquietudes se encuentran vinculadas a menudo, aunque no siempre. Al reunir estos ensayos, como es natural, hemos puesto esas inquietudes en un primer plano, aunque no nos hemos limitado a lo estrechamente conceptual y social.

Este libro tuvo su origen en un proyecto de investigación titulado “La identidad humana en una era de máquinas casi humanas: el impacto de los progresos en la robótica y la tecnología de la IA sobre la identidad y el autoconcepto humanos”, con sede en el Faraday Institute, Cambridge, en 2015-18. Estamos muy agradecidos con la Templeton World Charity Foundation, que nos proporcionó financiación para el proyecto; a la contribución de la Dra. Beth Singler, que trabajó como investigadora adjunta, y al personal del Faraday Institute, que respaldó este proyecto. También vaya nuestro agradecimiento al Quo Vadis Institute, que nos proporcionó fondos adicionales para garantizar que este libro fuese una realidad, y a Alison Barr, de SPCK, por su aliento y su respaldo entusiasta.

IntroducciónUna perspectiva de la tecnología informática

Peter Robinson

“¡Lo que ha creado el hombre!”, exclamaba el titular del editorial redactado por David Lawrence para el United States News1 en los días inmediatamente posteriores a la destrucción de Hiroshima y Nagasaki con bombas atómicas. La frase casi podría aplicarse al mundo de la inteligencia artificial. ¿Qué hemos hecho? Se podría formular la misma pregunta a los tecnólogos que fueron pioneros de la Revolución Industrial a finales del siglo XVIII. Su tecnología ha permitido a la humanidad provocar el cambio climático en todo el planeta. Ahora que vemos estos efectos, doscientos años más tarde, podríamos sentirnos tentados a preguntar: “Pero, ¿qué han hecho?”.

Las escalas de tiempo son muy distintas. Han sido necesarios doscientos años para apreciar los efectos de la creciente concentración de dióxido de carbono en la atmósfera, y los cambios han sido tan lentos que se pasaron fácilmente por alto, o fueron ignorados. La IA se ha desarrollado a un ritmo más lento. Han transcurrido setenta años desde que Maurice Wilkes y su equipo construyeron el primer ordenador práctico del mundo; sesenta y cinco desde que John McCarthy acuñó los términos “inteligencia artificial”; cuarenta desde que los japoneses lanzaron su proyecto informático de quinta generación; veinticinco desde que Deep Blue, de IBM, derrotó al campeón mundial de ajedrez; y diez desde que los productos que usan IA penetraron en el mercado doméstico. ¿Acaso el progreso ha sido tan lento que estamos cayendo en una trampa tan grave como lo fue el cambio climático provocado por la humanidad?

La IA, la energía atómica y la Revolución Industrial son solo los ejemplos más recientes de las tecnologías que plantean estas preguntas. Se remontan a eras prehistóricas, cuando los arados se transformaron en espadas, las carretas en carros de combate y el fuego se usó para destruir y no solo para calentar. La naturaleza caída de la raza humana hace que sea demasiado sencillo encontrar usos inútiles para las nuevas tecnologías. El eminente matemático G. H. Hardy escribió: “Nunca he hecho nada ‘útil’. Nunca he hecho un descubrimiento, ni es probable que lo haga, directa o indirectamente, que haya producido para bien o para mal la mínima diferencia en la comodidad mundial”.2

Hardy no podía estar más equivocado. Sus trabajos en la teoría de los números, la más pura de la matemática pura, es crucial para toda la criptografía moderna empleada para volver seguras las comunicaciones en el ámbito bancario y comercial, para que el ejército controle los armamentos y para que cada día sean posibles miles de millones de conversaciones por teléfono móvil. Pocas son las tecnologías que se crean con una intención maliciosa, pero la mayoría de ellas pueden utilizarse para el mal. Lo mismo pasa con la IA.

Antes de embarcarnos en los capítulos siguientes, vale la pena analizar las distinciones entre la tecnología de la información, la IA y los robots. La tecnología de la información combina la computación y las comunicaciones para automatizar operaciones que podrían realizar personas. La computación las vuelve más rápidas y posiblemente más precisas, mientras que la comunicación electrónica permite su mayor dispersión geográfica. El ámbito bancario es un ejemplo evidente. Los ordenadores automatizan el trabajo de los y las empleados de banco que antes escribían en libros mayores, y la comunicación permite la prestación de servicios bancarios de forma remota, quizá por medio de cajeros automáticos (de efectivo). La navegación por satélite usa la computación y las comunicaciones para automatizar la determinación de una localización que, anteriormente, habría tenido que obtenerse mediante el uso de un sextante y un cronómetro. Ninguno de estos dos es un ejemplo de la “inteligencia artificial” en su sentido más estricto.

La IA es, sencillamente, la manifestación por parte de una máquina de cualquier proceso cognitivo que podríamos esperar en una persona. Se ha extendido más en los últimos diez años, cuando se han producido tremendos avances en la capacidad de procesamiento y de almacenamiento de los ordenadores, lo cual se combina con datos que se pueden usar para caracterizar modelos mediante el aprendizaje de las máquinas. La combinación de estos tres elementos permite que se fabriquen sistemas que identifican patrones en los datos y los usan para hacer predicciones sobre el mundo real en contextos nuevos. Una característica importante es que los sistemas se basan en un modelaje probabilístico para permitir que sus resultados identifiquen lo que es probable en lugar de absoluto. Por supuesto, esto significa que hay que tratarlos con cierta precaución. Los sistemas bancarios también han crecido para utilizar estas técnicas. Retirar dinero mediante un cajero automático que suponga una cantidad inusual o se haga desde un lugar infrecuente, el conflicto con el modelo que tiene el sistema de un cliente particular se puede utilizar para evitar un fraude. La transacción puede ser genuina, pero el cálculo indica que es improbable, lo cual puede crear un problema cuando el cajero rehúse el desembolso.

La expresión “inteligencia artificial” se usa ampliamente con relación al marketing, el alarmismo o, quizá, simplemente para describir algo que pensamos que los ordenadores no pueden hacer todavía pero sí en algún momento del futuro indeterminado. La tecnología informática operativa, por el contrario, tiene términos como “procesamiento de lenguaje”, “comprensión del discurso”, “visión de ordenador”, etc.

Actualmente las aplicaciones prácticas de la IA se introducen sobre todo usando formas de aprendizaje para máquinas, es decir, el análisis estadístico de grandes conjuntos de datos para caracterizar modelos matemáticos, que pueden predecir la respuesta probable de un individuo frente a estímulos nuevos. El análisis es trabajoso desde el punto de vista computacional, pero los ordenadores han duplicado su velocidad cada dos años, desde las 700 instrucciones por segundo en el EDSAC de 1949 a los 700 000 millones de instrucciones por segundo en un ordenador de sobremesa moderno (2021), a la par que su precio ha disminuido a un ritmo similar. La densidad de memoria ha aumentado y su coste se ha reducido incluso más radicalmente en ese mismo período de tiempo. Por último, el uso creciente de ordenadores en cada faceta de nuestra vida cotidiana ha permitido la recolección de los datos necesarios para construir los modelos. Incluso los medios sociales han jugado su papel, reuniendo información sobre sus usuarios que se puede utilizar para predecir su conducta.

Este procesamiento es simplemente un modelaje matemático, pero permite a los ordenadores simular aspectos del entendimiento y de la conducta humana. Muchas personas han confundido esta simulación con una sensibilidad emergente y especulan que las máquinas manifiestan una incipiente inteligencia parecida a la de los humanos. Llevado a su extremo, esto conduce a la idea de la “inteligencia artificial general”, con la cual las máquinas evolucionan más rápidamente que los humanos y se convierten en la especie dominante. Tal como escribió el físico Stephen Hawking:

El desarrollo de una IA plena podría señalar el final de la raza humana. Una vez los humanos desarrollen la IA, esta despegará por su cuenta y se rediseñará a un ritmo cada vez más acelerado. Los humanos, estando limitados por la lenta evolución biológica, no podrían competir con ese proceso, quedando así desbancados.3

Como veremos en los próximos capítulos, el tema de que las máquinas sobrepasen a sus inventores humanos ha permeado la ciencia ficción: las antiguas mitologías judías sobre el gólem; Talos, quien protegía Creta unos cuantos siglos antes de Cristo; el Frankenstein de Mary Shelley en 1818; la obra teatral R.U.R.: Los robots universales Rossum, de Karel Čapek en 1920; la proliferación de novelas que acompañaron la revolución científica del siglo XX. Esto nos lleva a nuestro tercer tema: los robots. Un tema recurrente es el de los robots humanoides, creados para servir a la humanidad, que luego se rebelan contra sus creadores. Existe una fascinación por las máquinas hechas a imagen de los seres humanos. Tienen una semejanza física a la forma humana y a menudo son inherentemente malvados. El carácter de estos robots dice más, quizá, sobre sus creadores que acerca de su tecnología. El hecho es que la mayoría de los robots modernos no son más que máquinas que realizan tareas mecánicas que requieren fuerza, precisión o atención al detalle en un proceso repetitivo.

Vint Cerf, al que se considera ampliamente “el padre de internet”, nos ofrece una útil caracterización de los robots en términos más generales:

En la mayoría de formulaciones, los robots tienen la capacidad de manipular el mundo real y afectarlo. Entre los ejemplos se incluyen los robots que montan coches (o al menos partes de ellos). Los robots menos serviles pueden ser los aparatos que llenan latas o botellas con líquidos y luego las sellan. Normalmente, los robots más primitivos no se considerarían como tales en el lenguaje cotidiano. Un ejemplo es un regulador de la temperatura para una calefacción domestica que depende de un trozo de aleación metálica de dos componentes, que se expande de forma diferencial, abriendo o cerrando un circuito dependiendo de la temperatura ambiente.

Sin embargo, quiero plantear que el concepto de robot podría ampliarse provechosamente para incluir programas que realizan funciones, ingieren input y producen un output que tiene un efecto perceptible.4

Incluso dentro de esta definición tan amplia, a Cerf no le interesa la posibilidad de que unos robots capaces de sentir acaben dominando a la raza humana. Sin embargo, sí le inquieta que un software imperfecto plantee una amenaza real para los humanos. “Si hay virus en el software y algún dispositivo opera de forma autónoma con respecto a este, los virus pueden hacer que pasen cosas malas”.5 La falta de cuidado o la incompetencia de los programadores ya han provocado accidentes catastróficos. Estos programas son los robots que suponen una auténtica amenaza.

El desastre del Boeing 737 MAX nos proporciona un caso de estudio interesante. Boeing incorporó el jet para pasajeros modelo 737 en 1967. Durante los siguientes cincuenta años modificaron el diseño para ampliar su capacidad, incorporar motores cada vez más modernos y mejorar sus sistemas de control, pero conservando al mismo tiempo las características principales del armazón. El 737 MAX se introdujo en 2017 como la cuarta generación de un diseño tremendamente exitoso. Utilizaba un nuevo tipo de motor que reducía el gasto de combustible, motor que, lamentablemente, era demasiado grande como para sustituir directamente a los motores anteriores. Tuvieron que montar de forma distinta los motores nuevos, un proceso que hacía que el avión fuese inherentemente inestable. Boeing resolvió el problema adoptando una técnica usada en el diseño de cazas militares, en el cual los ordenadores preservan el grado de inclinación correcto del avión. El Sistema de Aumento de Características de Maniobra (MCAS) detectó que el avión estaba elevándose y forzaron hacia abajo los controles de los pilotos.6 Las deficientes técnicas de ingeniería de software permitieron que una lectura errónea de un solo sensor le arrebatara el control al piloto sin previo aviso. Esto se hizo evidente solo después de dos accidentes mortales, que acabaron con la vida de 346 personas.

Una programación deficiente condujo a la inestabilidad en los sistemas de transacción bursátil, lo cual exacerbó la crisis financiera de 2007-8 en la estela de la preocupación por las deudas incobrables que afectaban la solvencia de las entidades bancarias.7

Estos dos ejemplos ilustran también un segundo factor que, junto con el software defectuoso, “puede provocar que pasen cosas malas”: la motivación. Tanto Boeing como los bancos estuvieron motivados por los beneficios. Boeing quería conservar la misma certificación de piloto para el 373 MAX, pero incorporando motores más eficientes. Esto les obligó a conservar el mismo armazón básico a pesar de que los motores nuevos hacían que el modelo de avión se volviera inherentemente inestable. El software automático se encargaría de mantener la estabilidad de los aparatos. Lamentablemente, los indicadores de fallo en los sensores que usaba el software suponían un añadido costoso para los aviones, de modo que no todas las aerolíneas los adquirieron. De la misma manera, quienes negociaban en bolsa estaban motivados por los márgenes adicionales que podían obtener mediante el comercio de alta frecuencia.

Es importante señalar que el control de aviones y el comercio automático dependen solo marginalmente de la IA. Sin embargo, la IA se encuentra en la esencia de los medios sociales. La motivación de las compañías es económica: la venta de publicidad requiere que los usuarios sigan clicando en los vínculos de sus páginas, lo cual se consigue al ajustar la presentación para que atraiga a cada usuario individual. Esto, a su vez, se consigue al deducir sus intereses y ofrecerles más de lo mismo. (Por cierto, este es el motivo de que los medios sociales sean tan eficaces para amplificar los prejuicios políticos de las personas). Por último, los sistemas inducen a los usuarios a compartir información con sus amigos, reclutándoles así para un público siempre creciente al que dirigir sus anuncios. La motivación económica se satisface mediante el aumento de publicidad, interacción y crecimiento.8 Por lo que respecta a este objetivo, son muy competentes.

Los sistemas armamentísticos autónomos letales (LAWS) también plantean preguntas sobre la motivación, y la gravedad de sus efectos suscita cuestiones de competencia. Cada vez dependen más de la IA, delegando a los sistemas informáticos las decisiones sobre targeting (o segmentación) e incluso las tácticas. Las decisiones legales, los diagnósticos médicos y las intervenciones médicas también dependen de la IA. Hay decisiones tanto civiles como militares que se pueden delegar a los ordenadores. Estas son cuestiones graves, que tienen que ver con la libertad e incluso con la vida. En su capítulo, Noreen Herzfeld cita apropiadamente las preguntas de los Amish sobre la nueva tecnología: ¿ofrece beneficios tangibles?, ¿cómo afecta a nuestras relaciones?9

Los especialistas profesionales reciben una buena remuneración porque se espera de ellos que estén bien formados y usen sabiamente sus habilidades. Las recompensas son sustanciales porque sus responsabilidades también lo son. La ingeniería de software en general y la IA en particular no son distintos. Se espera de sus practicantes que sigan unos estándares éticos más elevados de motivación y de competencia.

Concluyo regresando a David Lawrence. El titular de su editorial fue un juego de palabras deliberado sobre la declaración de Balaam, “¡lo que ha hecho Dios!”, en Números 23:23. Una traducción moderna sería “¡Mirad lo que ha hecho Dios!”. El contexto es que la voluntad de Dios no puede verse frustrada por los actos humanos. Pero sigue siendo un hecho que los humanos son perfectamente capaces de infligirse padecimientos cuando intentan desobedecer la voluntad de Dios.

La energía nuclear es un ejemplo claro de una tecnología que tiene el potencial de hacer un gran bien así como un enorme mal. Nueve años después del bombardeo de Hiroshima y de Nagasaki, Lewis Strauss, que entonces era presidente de la Comisión de Energía Atómica de los Estados Unidos, declaró: “No es demasiado esperar que nuestros hijos disfruten en sus hogares de una energía eléctrica demasiado barata como para contabilizarla”.10 Esto podría haber sido una hipérbole, pero la energía nuclear ha sido indudablemente una gran bendición, a pesar del temible espectro de la guerra nuclear. Cuanto más poderosa la tecnología, mayor es la sabiduría necesaria para utilizarla.

Lo mismo sucede con la tecnología informática en general y con la IA en particular. Ambas tienen el potencial de hacer mucho bien y mucho mal. Lo mismo es cierto de los robots. Contribuyen al bien al realizar labores peligrosas, repetitivas o delicadas y, posiblemente, al trabajar en la atención sanitaria (aunque los riesgos de renunciar a la responsabilidad humana delegándola a las máquinas resulta preocupante para muchos). Pero su capacidad de engaño podría provocar graves perjuicios. Los profesionales de la informática se encontrarán en la vanguardia de quienes tomen esas decisiones, guiados por sus principios éticos de motivación y de competencia. Muchos otros profesionales tomarán decisiones parecidas en sus especialidades. El rol del profesional cristiano consiste en aplicar esos principios en el cumplimiento de la voluntad de Dios.

Varios de los escritores de este libro subrayan el hecho de que Dios creó a la humanidad a su imagen para gobernar sobre la tierra, y para que disfrutase de la relación con él y con su prójimo. Debemos tener cuidado cuando delegamos ese gobierno a sistemas automáticos computarizados o cuando olvidamos la importancia de esas relaciones personales.

Tal como concluía el editorial de David Lawrence:

Pues por fin se nos ha demostrado a todos que solo siguiendo Su guía en nuestra conducta cotidiana como individuos y como naciones podemos albergar la esperanza de cumplir nuestra auténtica misión como hijos de Dios en el mundo. Es el único camino que aún tenemos abierto: la senda de la tolerancia mutua. Es el camino que conduce a la supervivencia y a la felicidad humana.11

1 David Lawrence, fundador de United States News (más tarde U. S. News and World Report), escribiendo el 17 de agosto de 1945; ver www.usnews.com/news/special-reports/the-manhattan-project/articles/2015/09/28/editorial-from-1945-what-hath-manwrought, consultada el 8 de febrero de 2021.

2G. H. Hardy, Profesor Sadlerian de matemáticas en la Universidad de Cambridge, en A Mathematician’s Apology (Cambridge University Press, 1940), 49.

3Stephen Hawking, citado por Rory Cellan-Jones en “Stephen Hawking warns artificial intelligence could end mankind” (BBC News, 2 de diciembre de 2014), www.bbc.co.uk/news/technology-30290540, consultada el 8 de febrero de 2021.

4Vint Cerf, presidente de la American Association for Computing Machinery, escribiendo en el número de enero de 2013 de Communications of the ACM: “What’s a robot?”, https://cacm.acm.org/magazines/2013/1/158758-whats-a-robot/fulltext, consultada el 8 de febrero de 2021.

5Informe Nextgov sobre un discurso de Vint Cerf en la embajada italiana en abril de 2016; véase Mohana Ravindranath, “Vint Cerf: Buggy software is scarier than a robot takeover” (Nextgov, 26 de abril de 2016), www.nextgov.com/emerging-tech/2016/04/vint-cerf-buggy-software-greater-threat-rogue-robots/127808, consultada el 8 de febrero de 2021.

6Michael Laris, “Changes to flawed Boeing 737 MAX were kept from pilots, Defazio says”, Washington Post (19 de junio de 2019), www.washingtonpost.com/local/trafficandcommuting/changes-to-flawed-boeing-737-max-were-kept-from-pilots-defazio-says/2019/06/553522f0-92bc-11e9-aadb-74e6b2b46f6a_story.html.

7Informe del United States Permanent Subcommittee on Investigations, Wall Street and the Financial Crisis: Anatomy of a financial collapse (13 de abril de 2011), http://hsgac.senate.gov/public/_files/Financial_Crisis/FinancialCrisisReport.pdf.

8The Social Dilemma, un docudrama emitido en Netflix en 2020, www.netflix.com/gb/title/81254224.

9Capítulo 8 de este libro, “¿Un sustituto, un colaborador o un instrumento? ¿Hasta qué punto debería ser autónoma la tecnología?”.

10Lewis Strauss, dirigiéndose a la National Association of Science Writers (Asociación Nacional de Escritores de Ciencia) el 16 de septiembre de 1954; véase www.nrc.gov/docs/ML1613/ML16131A120.pdf, consultada el 8 de marzo de 2021.

11David Lawrence, fundador de United States News (más tarde U. S. News and World Report), escribiendo el 17 de agosto de 1945; ver www.usnews.com/news/special-reports/the-manhattan-project/articles/2015/09/28/editorial-from-1945-what-hath-manwrought, consultada el 8 de febrero de 2021.

PRIMERA PARTE ¿Qué está pasando? Un análisis cultural e histórico

Capítulo 1 La ciencia ficción, la IA y nuestra insignificancia progresiva

Christina Bieber Lake

Aunque se escribió hace poco más de doscientos años, Frankenstein de Mary Shelley, es tan relevante hoy como lo ha sido siempre. Como mínimo, estableció la trayectoria del género que originó: la ciencia ficción, a la que en círculos académicos se la llama SF por sus siglas en inglés (science-fiction). Ciertamente, la “espantosa progenie” de Shelley incluye la replicación y la proliferación dentro de la ciencia ficción de una de las principales inquietudes de la novela: la pérdida del control sobre nuestras creaciones. A medida que la Revolución Industrial iba adquiriendo inercia en Inglaterra, la clarividente escritora de diecinueve años pedía a los lectores que se planteasen si era posible llegar demasiado lejos con el deseo de crear una raza de seres (ya sean humanoides o robóticos) que constituyesen el capítulo final de nuestro triunfante control sobre la naturaleza.

A pesar de sus advertencias (y de las de los escritores de ciencia ficción que vinieron más tarde), muchos teóricos y practicantes contemporáneos piensan que semejante control es el destino evolutivo de la raza humana. Ray Kurzweil quizá sea el más destacado entre ellos. Él aplaude lo que llama “la era de las máquinas espirituales” y espera ansioso el año 2043, la fecha en que él predice que tendrá lugar la Singularidad: cuando las máquinas superarán el grado de inteligencia humana y obtendremos “el poder sobre nuestro destino”, incluyendo nuestra mortalidad.1

El hecho de que el deseo utópico de obtener ese control, y las inquietudes que lo acompañan, sean tan pertinentes ahora como lo fueron entonces explica la constante popularidad de las novelas y de las películas de ciencia ficción en los países tecnológicamente avanzados. Pero sería un error dar por hecho que el miedo a la pérdida de control sobre nuestras creaciones sigue siendo la preocupación primaria de la ciencia ficción. En realidad, una mirada más exhaustiva a la gama de ciencia ficción tal como se desarrolló a lo largo de mediados del siglo XX y en el siglo XXI revela que, a medida que nuestra tecnología ha ido avanzando, nuestros temores primarios han cambiado. Mientras que en otro tiempo nos inquietaba estar rebasando los límites que Dios impuso a la existencia humana, ahora nos inquieta que no haya Dios ni tampoco límites. Lo que antes experimentábamos como un terror emocionante se convierte ahora en un desespero paralizante, porque si no hay Dios, tampoco la existencia humana tiene nada de especial. El temor de que la inteligencia artificial nos prive de nuestros empleos es solo la punta del iceberg. Nuestra verdadera preocupación no es que la IA nos vuelva obsoletos e insignificantes, sino que demuestre que, ya de entrada, nunca tuvimos importancia.

El propósito de este capítulo es seguir la pista a esa transición a través de algunas obras ejemplares de la ciencia ficción para ilustrar cómo nuestra carrera hacia la Singularidad está alterando nuestra concepción de la naturaleza humana, y subrayar las perspectivas teológicas que la Iglesia debe replantearse a modo de respuesta.

Los tres órdenes de simulacros

El teórico Jean Baudrillard escribió su obra más significativa en la década de 1980, justo cuando Apple acababa de sembrar las semillas de su dominio futuro y mucho antes de que la palabra “internet” se incorporase al lenguaje cotidiano. El libro de Baudrillard, cuya primera edición salió al mercado en francés en 1981, titulado Simulacra and Simulation [Simulacros y simulación], se lee hoy en día como una ominosa premonición de mi lucha reciente para apartar con el codo a una adolescente provista de un palo selfie que estaba situada de espaldas a la Mona Lisa. Usando a Estados Unidos (especialmente a California) como caso ejemplar, Baudrillard sostiene que vivimos en los “simulacros de la simulación”, un mundo de imágenes que son, en sí mismas, copias de copias. Lo real se ha visto sustituido por imágenes simuladas; los “signos de lo real” han reemplazado a lo real. La sustitución es completa: el simulacro solo sirve para revelar que, en el fondo, lo real nunca existió. Baudrillard argumenta que esto es en realidad lo que temían los iconoclastas: “Que allá en lo más hondo Dios no existió nunca; que lo único que existió alguna vez fue el simulacro; incluso que Dios en sí mismo no fuera otra cosa que su propio simulacro; de aquí surgió el impulso de destruir las imágenes”.2 Pero, dice Baudrillard, ya hemos superado con creces la iconoclasia. Es el final de la metafísica. Ya ni siquiera buscamos lo que sea realmente real. Ahora damos la espalda a la Mona Lisa y no sentimos que nos estemos perdiendo nada.

Cuando Baudrillard centra su atención en la ciencia ficción, sostiene que su desarrollo puede seguirse hasta lo que él llama los tres órdenes de simulacros, siendo el último orden “los simulacros de la simulación”. Estos presentan un tejido tan denso que voy a analizarlos un poco.

El primer orden de los simulacros lo forman aquellos que son “naturales” y existen como un esfuerzo esperanzado, inherentemente conservador, de restaurar “la naturaleza creada a imagen de Dios”.3 En este orden premoderno, las simulaciones (modelos, obras de arte y demás) representan el sueño de la utopía como algo localizable en otro lugar, como un retorno al Edén. Representan una visión imaginaria que parece estar trágicamente separada del mundo tal como lo conocemos. Esto es la utopía como trascendencia.

El segundo orden de simulacros lo constituyen aquellos que aspiran a ser generadores de un nuevo orden industrial. Son utópicos, y comparten con una sociedad progresiva “el objetivo prometeico de una globalización y una expansión continuas”.4 Los simulacros de segundo orden son más materialistas; son producto de una sociedad comprometida con el progreso, la producción y el sueño del control. Proyectan un mundo real alternativo que creemos de verdad que podemos construir. Estos simulacros respaldan la idea de que los robots deben llegar al poder porque crearían necesariamente una sociedad mejor que la que han levantado los humanos imperfectos.5 Solo este segundo orden se corresponde adecuadamente con la ciencia ficción, y las obras más clásicas de este género celebran este sueño del control robótico (como veremos más adelante).

El tercer orden de simulacros de Baudrillard lo forman “los simulacros de simulación”, en los cuales una imagen es una copia de una copia de una copia, como mencioné antes. Baudrillard llama “hiperrealidad” a esta sustitución total de lo real por lo simulado.6En una economía de la información, el valor de las imágenes ha reemplazado casi por completo el valor de las cosas. El mundo simulado no solo ha sustituido al real; también ha borrado toda traza de sus orígenes. La hiperrealidad parece un concepto extremo solo hasta que reflexionamos sobre el anonadante número de manifestaciones contemporáneas, muchas de las cuales aparecieron bastante después de la época de Baudrillard: celebridades de Instagram, pornografía en internet, noticias falsas (fake news), vídeos Deepfake[los vídeos deepfake están compuestos por imágenes de una persona que han sido retocadas digitalmente para que se asemeje a otra. Su intención suele ser la propagación de informaciones falsas. N. del T.], la “universidad Zoom”[se refiere al sistema de aprendizaje online fruto de la pandemia de la Covid-19, donde habitualmente las clases universitarias se impartían por medio de falsas plataformas Zoom. N. del T.],y el uso creciente de las interfaces de realidad virtual. El tercer orden de simulacros está compuesto por imágenes digitales que están totalmente abstraídas de lo real. Son las “cosas” convertidas en información, el mundo traducido a unos y ceros, y luego manipulado. El modelo para este tipo, sostiene Baudrillard, es el “juego cibernético” o la realidad virtual como juego.7 Si has visto las películas Matrix y Ready Player One, has visto la hiperrealidad en acción.

Durante el resto de este capítulo expondré cómo la ciencia ficción ilustra la manera en que pasamos de una sociedad caracterizada por los simulacros de segundo orden a otra caracterizada por los de tercer orden, y eso nos ayudará a reflexionar sobre las consecuencias de ese paso.

Yo, robot

Estoy exponiendo estos conceptos para exponer la estructura del tremendo cambio que ha tenido lugar en la ciencia ficción. Pero no deberíamos pensar (para discrepar en cierto sentido de Baudrillard) que en algún grado hayan desaparecido las cuestiones pertenecientes a los simulacros de segundo orden, o el sueño del dominio por parte de los robots. El mejor ejemplo de esto que se me ocurre es la serie de HBO Westworld. Mientras que el Westworld original (una película de 1973 de estilo camp, basada en la novela de Michael Crichton) se interesaba principalmente por el tema clásico de la ciencia ficción de unos robots que se rebelan con ansias de venganza, la versión de Jonathan Nolan y Lisa Joy da un salto al mundo de la hiperrealidad, en la que todo es una copia de algo que, ya de entrada, nunca existió. De hecho, los robots ni siquiera empiezan a tomar el control y matar a invitados hasta el final de la segunda temporada. La temporada 1 se ejemplifica por la conversación entre uno de los invitados (las personas que acuden a Westworld para que los sirvan robots humanoides) y uno de los anfitriones (los robots humanoides del parque temático). Cuando el invitado pregunta al anfitrión “¿Eres uno de ellos o eres real?”, el aparente anfitrión responde: “Si no logra apreciar la diferencia, ¿de verdad importa?”.

Antes de que la ciencia ficción se volviera hiperreal (simulacros de tercer orden), se interesó por explorar las ramificaciones del dominio robótico (simulacros de segundo orden). Tal como dije antes, muchos escritores de ciencia ficción se encuadran en el lado utópico de esa proyección, y otros en el distópico, pero las cuestiones teológicas que plantean son en gran medida las mismas.

Empecemos con el lado distópico, porque es mucho más divertido. Desde que se lanzaron los dados con Frankenstein, la ciencia ficción ha estado enamorada de sus robots asesinos. Es importante destacar que los escritores deben dotar a los robots de una apariencia antropomórfica si pretenden que estos deseen buscar venganza. Se ha vuelto habitual que los espectadores y los lectores acepten que una IA que llegue a ser consciente de sí misma quiera destruir por completo a sus creadores. Así acabamos con HAL, el horripilante ordenador de 2001: Una odisea del espacio; la franquicia de películas de Terminator, porque, claro está, las máquinas con conciencia propia querrían borrar del mapa a la humanidad; Battlestar Galactica y su exitoso relanzamiento en el siglo XXI; y en gran medida cualquier novela de Michael Crichton. Quizá la más interesante de estas sea Presa, porque, en lugar de cerebros positrónicos y robóticos individuados, imagina lo que los expertos llaman “cognición distribuida”, que da vida a un enjambre de nanobots, robots nanoscópicos. Nanobots asesinos, cómo no.

Pero la mayoría de escritores clásicos o iniciales de ciencia ficción no comparten esta visión distópica del robot o de la IA. La más ejemplar de las novelas utópicas es Yo, robot, de Isaac Asimov, publicada en 1950. El argumento, que se desarrolla en 2057, gira en torno a la creación de máquinas pensantes que han sido programadas para seguir las tres reglas de la robótica:

Primera ley