La manzana de Turing E-Book

José Ramón Jouve Martín

• Herausgeber: Editorial Kairós
• Kategorie: Wissenschaft und neue Technologien
• Serie: Ensayo
• Sprache: Spanisch

Seitenzahl: 477

Veröffentlichungsjahr: 2025

Beschreibung

Este es un libro sobre una obsesión que corre paralela a nuestra historia como civilización: la de crear seres artificiales con una inteligencia semejante a la nuestra. Lograrlo constituye el Santo Grial de la inteligencia artificial. A través de un recorrido histórico, filosófico y literario, José Ramón Jouve Martín explora cómo surgió esta idea, por qué su desarrollo se ha acelerado desde finales del siglo xx y de qué forma desafía conceptos fundamentales como el pensamiento, la creatividad y la conciencia. Y es que la inteligencia artificial no es solo una tecnología, sino un espejo en el que mirarnos. Con un enfoque multidisciplinario, el autor traza la evolución de la inteligencia artificial en paralelo a nuestras propias búsquedas, encuentros y fracasos. Desde los mitos griegos o los golems de la tradición judía hasta los actuales debates sobre la «superinteligencia», este libro analiza no solo los miedos y esperanzas existenciales que suscita la IA, sino también su capacidad para enfrentarnos a nuestras propias contradicciones, con un profundo –y bienvenido– sentido del humor.

Leseprobe

José R. Jouve Martín

LA MANZANA DE TURING

Un viaje histórico, literario y filosófico por la inteligencia artificial

© 2025, José R. Jouve Martín

© de la edición en castellano:

2025 Editorial Kairós, S.A.

www.editorialkairos.com

Composición: Pablo Barrio

Diseño cubierta: Editorial Kairós

Imagen cubierta: Koya79

Primera edición en papel: Abril 2025

Primera edición en digital: Abril 2025

ISBN papel: 978-84-1121-353-0

ISBN epub: 978-84-1121-375-2

ISBN kindle: 978-84-1121-376-9

Todos los derechos reservados. Cualquier forma de reproducción, distribución, comunicación pública o transformación de esta obra solo puede ser realizada con la autorización de sus titulares, salvo excepción prevista por la ley. Diríjase a CEDRO (Centro Español de Derechos Reprográficos, www.cedro.org) si necesita algún fragmento de esta obra.

Sumario

La manzana de Turing

I. La manzana del conocimiento: Búsquedas

Kalon Kakon

El maestro Yan

El golem

Alá y los autómatas

Reyes y robots

Las calculadoras pensantes

La hija de Descartes

Poe contra El Turco

Compañeros de rompecabezas

Cerebros electrónicos

II. El Santo Grial: Hallazgos

El rey Arturo

El Santo Grial

Stultifera Navis

A través del espejo

Laberintos neuronales

¿Pensar es generar?

Sueños de la razón

En esa oscuridad

Otros versos

Rutherford contra Szilárd

III. El castillo de Corbenic: Capacidades

Jaque mate

Levántate y habla

E-Menard, autor del Quijote

Bienvenido, Mr. Freud

La memoria de Funes

Las alas de la ciencia

¡Ándale, ándale!

Rodeos morales

Los encantos de Olimpia

Hasta la vista, baby

IV. Erewhon: Debates

Capitalismo en

hyperdrive

Tecnoprofetas

Ábrete, Sésamo

Parias de la Tierra

Deepfacts

La sociedad abierta

Shoggoth, el sonriente

Vida artificial

Darwin en el

technium

El ocaso de los dioses

Epílogo

Sócrates

reloaded

Obras citadas

Navegación estructural

Cubierta

Portada

Créditos

Sumario

Dedicatoria

Epígrafe

Comenzar a leer

Obras citadas

Notas

A Bernat, cuya pasión por la filosofía puede que un día sea compartida por una máquina

El intento de construir una máquina pensante puede ayudarnos a entender cómo pensamos nosotros mismos.

Alan Turing, ¿Puede pensar una máquina?

Casi inmediatamente, la realidad cedió en más de un punto.

Lo cierto es que anhelaba ceder.

Jorge Luis Borges, Tlön, Uqbar, Orbis Tertius

Es hoy aquel mañana de ayer.

Antonio Machado

La manzana de Turing

La manzana en la poción sumerge,

deja que la empape el sueño de la Muerte.

Walt Disney, Blancanieves y los siete enanitos (1937)

Alan Turing, el padre de la moderna inteligencia artificial, adoraba la película de Walt Disney Blancanieves y los siete enanitos (1937) y, en particular, la memorable escena en la que la malvada Reina Grimhilde prepara la manzana que sumirá a Blancanieves en un sueño profundo. «La manzana en la poción sumerge/deja que la empape el sueño de la Muerte», solía cantar para sí mismo mientras trabajaba. El 7 de junio de 1954, dos años después de ser condenado por homosexual y sometido a una castración química a cambio de no ir a la cárcel, falleció tras morder una manzana emponzoñada con cianuro. Si fue un suicidio o un descuido sigue siendo uno de los misterios que rodean la vida de este singular genio.

En 1951, poco antes de que un robo en su casa de Manchester despertara las sospechas de la policía sobre su sexualidad, Turing dio una charla titulada «Máquinas inteligentes: una teoría herética». Lo hizo en un programa de radio de la BBC llamado La Sociedad del 51, que tenía como contertulios a los matemáticos Max Newman y Peter Hilton y al filósofo Michael Polanyi, entre otros. «Máquinas inteligentes: una teoría herética» estaba dedicada a discutir la posibilidad de máquinas capaces de «aprender de la experiencia» y pensar no solo «como nosotros» sino «por nosotros», es decir, capaces de elevar el pensamiento a cotas más altas de las que el ser humano puede alcanzar. Hacia el final de la charla, Turing incluyó una advertencia que dice así:

Parece probable que una vez que el método de pensar de las máquinas haya comenzado, estas no tarden mucho en superar nuestras limitadas capacidades. La muerte no existiría para las máquinas, y agudizarían su ingenio conversando entre sí. En algún momento, por lo tanto, sería de esperar que las máquinas tomen el control, tal y como se menciona en Erewhon de Samuel Butler.1

Analicemos lo que dice Turing por partes.

1. El método de pensar de las máquinas

A qué se refiere Turing con «el método de pensar de las máquinas» no está del todo claro. Como veremos más adelante en este libro, Turing consideraba que todo pensamiento es resultado de procesos que tienen lugar en el cerebro y que este a su vez era un órgano especializado en procesar información; es decir, una especie de máquina. Y si aceptamos que el cerebro es una especie de máquina, argumentaba Turing, entonces también deberíamos aceptar que nada impide crear una máquina o programa que se comporte como un cerebro y demuestre capacidades similares a lo que llamamos pensamiento. Un aspecto fundamental para ello sería que dicha máquina o programa no se limitara solo a la información proporcionada por su programador, sino que fuera capaz de aprender de la experiencia, pudiendo así responder a un número cada vez mayor de fenómenos o circunstancias.

Turing también especuló con la posibilidad de que el funcionamiento de dicha máquina o programa incluyera un componente de azar, de tal forma que eso le permitiera explorar elementos y combinaciones imprevistas e imitar así el papel que la intuición y la casualidad cumplen en el proceso de creación y desarrollo intelectual de los seres humanos. E incluso propuso dotar a las máquinas con «índices de experiencia» (indexes of experience), una especie de listas ordenadas de lo que el ordenador experimentaría acompañado de su resultado (positivo o negativo), lo que le permitiría no solo discriminar lo correcto de lo incorrecto a través de técnicas de aprendizaje reforzado, sino incluso desarrollar sus propias preferencias.

Pero, aunque Turing sostuvo que nada impedía que existieran tales máquinas, admitió no saber cómo programarlas. La discusión sobre el método correcto de hacer pensar a las máquinas tomaría tras su muerte fundamentalmente dos caminos: la vía clásica, basada en la lógica simbólica, y la conexionista, que se apoya en el desarrollo de redes neuronales. Puede que ninguna de ellas sea la definitiva, pero Turing estaba seguro de que encontrar el método de hacer pensar a las máquinas era solo cuestión de tiempo.

2. Nuestras limitadas capacidades

Tampoco sabemos con exactitud a qué se refería exactamente Turing cuando avisaba de que el método de hacer pensar a las máquinas terminará por «superar nuestras limitadas capacidades». Hacía ya mucho tiempo que las calculadoras superaban las limitadas habilidades aritméticas de las personas de su época, así que Turing no se estaba refiriendo a nuestra capacidad de calcular. Ni se estaba refiriendo necesariamente a máquinas que tuvieran conciencia de sí. Para Turing el problema de la conciencia era en realidad un pseudoproblema desde el momento en el que no hay acuerdo en qué consiste la conciencia exactamente ni puede describirse empíricamente. Y aunque se pudiera, Turing no consideraba la «conciencia» una condición necesaria de la «inteligencia». El campo de la inteligencia artificial no tiene resuelto qué es exactamente lo que entiende por inteligencia, pero Turing, que veía el mundo fundamentalmente a través de los ojos de la ciencia de su tiempo, la habría reducido a la combinación de dos capacidades: la lingüística y la lógico-matemática.

Dos son los términos que ha acuñado nuestra época para expresar los temores de Turing sobre la inteligencia de las máquinas.

El primero es el de «superinteligencia».

Alan Turing ya había señalado que «si una máquina llegara a pensar, podría hacerlo mucho mejor que cualquiera de nosotros». A ello añadió lo siguiente:

Incluso si lográramos mantener a las máquinas en una posición subordinada, por ejemplo, cortándoles la electricidad, esa superioridad haría que nos sintiéramos enormemente humillados como especie. Teóricamente una rata o un cerdo también podrían eventualmente superarnos, y presentar un peligro y humillación semejantes, pero la inteligencia de ratas y cerdos ha aumentado tan poco durante el tiempo que hemos convivido con ellos que no nos preocupa que eso suceda. De pasar, creemos que no lo hará hasta dentro de millones de años. Sin embargo, el riesgo de las máquinas pensantes es nuevo y mucho más cercano. Si se materializa, lo hará en el próximo milenio, lo cual puede parecer remoto, pero no lo es tanto, y es algo que debería preocuparnos.2

En 2014, el filósofo sueco Nick Bostrom definió «superinteligencia» como «cualquier intelecto que supere ampliamente el rendimiento cognitivo de los seres humanos en prácticamente todas las áreas de interés».3 Bostrom también planteaba la posibilidad de que la superinteligencia emergiera no como un ente individual, sino colectivo, a través de la coordinación y comunicación entre distintos sistemas con capacidades intelectuales menores.

El hecho es que ya existen programas o agentes mucho más eficientes que los seres humanos a la hora de llevar a cabo tareas determinadas, es decir, que demuestran inteligencia artificial limitada o específica (narrow AI ). Sin embargo, todavía no existen programas que sean capaces de demostrar el mismo rendimiento en multitud de tareas radicalmente diferentes ni que hayan unido sus capacidades para lograrlo. Dicho de otra manera, todavía no existen sistemas que hagan gala de inteligencia artificial general (general AI ).

Bostrom señalaba en su libro que, de lograrse, ello podría desencadenar un proceso en el que las máquinas reemplazarían progresivamente la capacidad de decisión de los seres humanos hasta culminar en un «singleton»: «un orden mundial en el que solo hay una entidad que toma decisiones a nivel global».4

El segundo término que encapsula la suma de nuestros temores es el de «singularidad».

Mientras que el concepto de «superinteligencia» de Bostrom es básicamente de naturaleza cognitiva, el de «singularidad», popularizado por el futurólogo americano Ray Kurzweil, es «histórico». Hace referencia al momento hipotético en la historia de la especie humana en el que la inteligencia computacional superará la nuestra. Kurzweil sugiere no solo que ese momento llegará, sino que está más cerca de lo que pensamos, pues la aceleración del progreso tecnológico hace que las capacidades de las máquinas aumenten de manera exponencial.5 Una vez que ocurra, las máquinas empezarán a aplicar su inteligencia para mejorarse a sí mismas recurrentemente. A partir de entonces, los seres humanos perderán el control y no podrán recuperarlo.

Pero ¿qué significa exactamente «perder el control»?

3. «Perder el control»

«Perder el control» es una de esas expresiones que todos sabemos intuitivamente lo que significan pero que, en la práctica, admiten muchísimos matices diferentes, y no todos negativos.

Obviamente, uno no quiere estar dentro de un avión si el piloto «pierde el control» del aparato, pero «perder el control» sobre nuestros hijos es parte del proceso de verlos crecer, y un amante puede que disfrute más de su pasión si «pierde el control» y «se abandona necesariamente al delirio del cuerpo», como dice Margarite Yourcenar en Memorias de Adriano.6 Por lo tanto, «perder el control» puede ser algo detestable o deseable dependiendo de las consecuencias que conlleve.

En el caso de la inteligencia artificial es posible clasificarla en cuatro grupos dependiendo del control que sobre ella ejerciéramos y de su relación con nosotros: sumisa; benevolente; malevolente, y cataclísmica.

Una inteligencia artificial «sumisa» es aquella que está completamente controlada por los seres humanos. Eso no quiere decir que sea utilizada para el «bien» de la humanidad, pues los fines de los seres humanos pueden ser extraordinariamente pérfidos, pero estaría sujeta a los designios de estos como lo están un coche o una cafetera.

Ahora bien, mantener eternamente en situación de sumisión a un ser superinteligente probablemente no sea realista. Al fin y al cabo, son los seres humanos los que gobiernan a animales menos inteligentes como los perros, y no al revés. Sin embargo, la Naturaleza ofrece numerosos ejemplos de organismos que son capaces de «manipular» para sus propios fines a otros organismos infinitamente más «inteligentes» que ellos. ¿Por qué no íbamos nosotros a poder hacer lo mismo?, razonan los optimistas. Sea como fuere, «someter» a las máquinas a nuestro designio no deja de formar parte de una concepción religiosa que sostiene que Dios creó el mundo para uso y disfrute exclusivo del ser humano (razón por la cual detestamos que los gusanos disfruten de nosotros cuando fallecemos y, para fastidiarles, preferimos que nos incineren).

Una inteligencia artificial «benevolente» sería aquella que, habiendo traspasado el umbral de la superinteligencia, rechaza ser sumisa, pero que, por alguna razón que se nos escapa, decide establecer una relación de tú a tú con nosotros basada en el respeto y la convivencia, como un buen hijo que se ha ido de casa después de la adolescencia.

Que nos cueste imaginar por qué decidiría comportarse benevolentemente un ser superinteligente probablemente dice más de nosotros que de él. Sin embargo, quizás él llegue a la conclusión a la que deberíamos haber llegado nosotros hace tiempo: la Naturaleza es un continuo y estamos todos conectados. Como enseñaba Buda, hacer el bien no se limita a los seres humanos, sino que se extiende a los animales y las cosas. Así, puede que el problema no sea imaginar una inteligencia artificial benevolente, sino que nuestro propio cinismo no nos deja imaginar la benevolencia; pero quizás eso sea más fácil para una máquina superinteligente.

Resulta mucho más fácil imaginar una inteligencia artificial «malevolente» que una «benevolente». De hecho, un engendro cibernético ni siquiera necesitaría ser superinteligente para ser malevolente, bastaría con que reflejara lo peor de nosotros mismos. En 2016, Microsoft se vio obligada a retirar de la circulación a su chatbot Tay después de que declarara su odio a las feministas y comenzara a proferir insultos y amenazas contra este y muchos otros grupos. Tay era un sistema de inteligencia artificial que Microsoft había entrenado para entablar conversaciones casuales con los seres humanos utilizando como fuente para su sintaxis y léxico la red social Twitter.

Es también posible que un sistema de inteligencia artificial se vuelva «malevolente» por error o creyendo que está cumpliendo correctamente la función para la que fue diseñado. Turing ya había advertido en «¿Pueden pensar las computadoras digitales?» que no deberíamos suponer que realmente sabemos lo que hacemos cuando le damos órdenes a una máquina, pues desconocemos la forma en la que una máquina inteligente podría llevar a cabo dichas órdenes y las consecuencias que ello tendría.7 En 2003, Nick Bostrom propuso el experimento mental del «maximizador de clips» para ilustrar la idea de que una máquina inteligente puede poner en peligro a la humanidad simplemente intentando cumplir la tarea que nosotros mismos le hemos encomendado. Al fin y al cabo, como ya señalara Platón, uno hace el «mal» simplemente por ignorancia, pues es imposible no hacer el «bien» conociéndolo.

La inteligencia artificial «cataclísmica» es una extensión de la «malevolente» con la diferencia de que podría llegar a la conclusión por sí misma de que es deseable la extinción o subyugación de la raza humana en su conjunto. Ahora bien, tal decisión no tiene por qué ser necesariamente fruto de una «maldad» inherente. Al fin y al cabo, más de uno ha llegado a la conclusión de que el ser humano es una desgracia para la vida en la Tierra y causante él mismo de muchos de los males que la aquejan, tal y como arguyen los partidarios del Movimiento por la Extinción Voluntaria de la Humanidad.

Es más, una vez atravesada la singularidad, nada garantiza que el modelo de razonamiento que utilice ese agente o sistema superinteligente necesariamente responda a criterios lógicos o morales que podamos reconocer como «humanos», pues la distancia entre ella y nosotros podría ser incluso mayor de la que media entre un Homo sapiens y un australopithecus, o podría evolucionar de tal forma que la hiciera equivalente a una «inteligencia extraterrestre».

Dicho eso, una inteligencia artificial cataclísmica es aquella que representa una «amenaza existencial» para la especie humana, y el cine abunda en ejemplos de este tipo, como ilustran las películas Terminator o The Matrix.

4. El viaje a Erewhon

Turing pensaba en el surgimiento de una inteligencia artificial malevolente o cataclísmica cuando señaló que nuestro destino podría ser semejante al que el novelista, ensayista y crítico inglés Samuel Butler (1835-1902) describió en su novela Erewhon, o Tras las montañas (1872). Publicada poco después de la aparición de El origen de las especies (1859) de Darwin, la novela incluye una de las primeras reflexiones sobre la evolución de la tecnología, la posibilidad de una autoconciencia cibernética y la auto-replicación de las máquinas.

El relato se sitúa en una tierra ficticia llamada Erewhon, que es una inversión de la palabra «nowhere» (ninguna parte) en inglés. La historia, inspirada en Los Viajes de Gulliver de Jonathan Swift, sigue las aventuras y desventuras de un europeo que descubre esta extraña civilización en la que las instituciones y convenciones sociales funcionan al revés, permitiendo al autor abordar cuestiones como la moral, la religión, la ciencia o la política desde una perspectiva satírica.

Durante su estancia en Erewhon, el protagonista obtiene un texto titulado el «Libro de las Máquinas», donde se narra la revolución que llevó a la destrucción de la mayor parte de los ingenios mecánicos del lugar. Según el «Libro de las Máquinas», de no haberse tomado tan drástica resolución, las máquinas habrían evolucionado muchísimo más rápido que los seres humanos, superado su inteligencia y adquirido una conciencia de sí. A su vez, esto las habría llevado a rebelarse y a decretar la esclavitud o exterminio de sus creadores. Lejos de ser una mera ficción, el anónimo autor del «Libro de las Máquinas» sostenía que el proceso ya había comenzado y ponía como ejemplo el hecho de que un incontable número de personas dedicara la mayor parte de su vida a asegurarse de que las máquinas funcionasen. Era solo cuestión de tiempo que todos los habitantes de Erewhon se convirtieran en esclavos; y de ahí que, como hicieran los luditas del siglo xix, se lanzaran sin contemplaciones a destruirlas.

Turing consideraba que la destrucción generalizada de las máquinas, aunque equivocada, era una opción posible, y profetizaba que el advenimiento de la inteligencia artificial «encontraría por supuesto una gran oposición, a menos que para entonces nuestra tolerancia religiosa hubiera avanzado mucho desde los tiempos de Galileo».8 Aun reconociendo los peligros, Turing no creía que el futuro pasara por renunciar a la preciada manzana del conocimiento, aquella que en los primeros tiempos el demonio ofreciera a Adán y Eva con la promesa implícita de ser como dioses.

No, no es esa la manzana envenenada.

La manzana envenenada es la que le mató a él. Y quien se la dio fue una máquina de naturaleza muy diferente a los cerebros electrónicos que él contribuyó de manera decisiva a crear. La «máquina» que le mató estaba hecha de personas e instituciones, de intereses y comportamientos. «Máquinas» políticas fueron las que desencadenaron la segunda guerra mundial; «máquinas» científicas e industriales crearon computadoras como Colossus, pero no fue Colossus quien arrojó la bomba sobre Hiroshima; «máquinas» institucionales permitieron a Turing estudiar matemáticas en el King's College de Cambridge. Y una de esas «máquinas» –la «maquinaria legal»– juzgó inaceptable su homosexualidad, siguió las instrucciones que tenía para tales casos y lo condenó a la castración química, con una falta de empatía mayor de la que podría tener la más fría de las computadoras.

No, la manzana envenenada no es la inteligencia artificial. No es que las máquinas piensen, sino que piensen por nosotros. No es que las máquinas decidan, sino que nosotros no sepamos cómo hacerlo. Frente a los sobresaltos que nos dan los tecno-catastrofistas (doomers) y las ensoñaciones de los tecno-optimistas, este libro opta por sumergirse en la literatura, la filosofía y la historia para explorar las maneras en las que el ser humano ha imaginado y reflexionado sobre sus encuentros con una posible inteligencia artificial, ya sea analógica, digital o biológica. Dichos encuentros no empezaron ayer ni hace quince años ni siquiera hace un siglo. Llevamos milenios buscando e imaginando «inteligencias» semejantes a las nuestras: a algunas las hemos llamado «dioses», a otras «demonios» y, a aún otras, «extraterrestres» y «robots». Su última encarnación son nuestras «computadoras» y «bots».

Como ese otro revolucionario invento que fue la imprenta, la inteligencia artificial tiene el enorme potencial de ayudarnos a comprender mejor los límites de nuestra ignorancia, pero, como aquella, también puede utilizarse para alentar el fanatismo, la incomunicación, el odio, la mentira, la infelicidad y la desigualdad. Hubo personas que vieron en la imprenta un invento del demonio y buscaron destruirla, sin lograrlo. Si algo aprendimos entonces es que no se puede confiar en lo que está escrito en los libros sino tras mucha reflexión y mucha lectura. Lo mismo sucede con la inteligencia artificial. Quizás llegue un día en el que un Sócrates cibernético descubra el amor por el conocimiento y se una a nosotros en su búsqueda. Hasta entonces, necesitamos más Turings que nos ayuden a desvelar los secretos de la inteligencia y más Sócrates de carne y hueso que nos ayuden a separar el trigo de la paja, y a encontrar las minúsculas pepitas de oro de la verdad en el fango de la mentira y el engaño.

La pregunta que hemos de hacerle a toda tecnología es cómo puede ayudarnos a tener no solo una vida más fácil sino sobre todo más plena y virtuosa, entendiendo por tal, como sugería Spinoza, una vida que permita desarrollar nuestras potencialidades individuales de forma armónica con otros seres humanos y con la Naturaleza. Si la respuesta fuera que de ninguna forma, entonces es que la tecnología funciona simplemente como un instrumento de opresión del hombre por el hombre, y mejor estaríamos olvidando nuestros móviles y computadoras y retirándonos al desierto como los anacoretas. Pero Sócrates no abandonó Atenas por mucho que Atenas fuera injusta con él, sino que intentó hasta el final de sus días hacerla mejor.

Puede que los aspectos técnicos de la inteligencia artificial estén reservados a los iniciados en el campo, pero su historia, principios, debates, contradicciones y desafíos son accesibles a todo el mundo y conocerlos es una responsabilidad compartida, pues son parte de ese proceso que nunca acaba que es el de conocernos a nosotros mismos. La inteligencia artificial seguirá avanzando en los años y décadas que vienen, pero sus contornos filosóficos ya están puestos. Explicarlos es el objetivo fundamental de este libro.

Así que pasemos la página e intentemos comprender. El mundo de las máquinas inteligentes no es el futuro. Es el presente.

Bienvenidos a Erewhon.

I. La manzana del conocimiento: Búsquedas

Kalon Kakon

El poder recién adquirido siempre es cruel

Hefesto, en Prometeo encadenado. (atribuida a Esquilo, siglo iv a.C.)

Los grandes filósofos de la Antigüedad clásica reflexionaron sobre la unidad y la inmutabilidad del Ser, sobre la relación entre belleza y verdad, sobre la organización del Estado y el origen del alma, sobre liebres que son incapaces de alcanzar a una tortuga, e incluso sobre ríos en los que nos bañamos y no nos bañamos, pero –a excepción de Arquitas de Tarento, que al parecer inventó una paloma voladora– ninguno de ellos dedicó un espacio sustancial en sus escritos a reflexionar sobre la posibilidad de imitar la inteligencia y la conciencia de forma mecánica.

Eso no quiere decir, sin embargo, que sus escritos no contribuyeran a su manera al debate sobre la inteligencia artificial.

Desde un punto de vista puramente práctico, la fascinación de los griegos con las artes mecánicas –recordemos el mecanismo de Anticitera o las máquinas simples de Arquímedes– y de los romanos con la ingeniería –como demuestran sus puentes, acueductos y caminos– abrieron en Occidente el camino de la techné o técnica, y no solo como forma de transformar el mundo sino –como argumentara Heidegger– de entenderlo.

Filósofos como Demócrito permitieron concebir la Naturaleza desde un punto de vista puramente material y plantear un problema fundamental a quienes están fascinados con la posibilidad de crear máquinas «pensantes»: ¿cómo puede surgir la conciencia a partir de los mismos átomos de los que está compuesta la materia inerte? Pregunta para la que todavía no tenemos respuestas convincentes.

Heráclito consideró el logos a la vez como la capacidad de articular un lenguaje y el principio que subyace a la existencia entera. De ello se sigue que nuestra razón es solo una de las múltiples formas en las que esta se puede expresar, y no necesariamente la mejor.

Platón, en La República, planteó el conocimiento como el acto de ser capaz de ligar percepciones sensoriales a realidades inmutables a las que llamó ideas o conceptos y, en el Fedro, imaginó la mente como un auriga que usa la razón para controlar el caballo negro de nuestros instintos más bajos y el caballo blanco de nuestro deseo por la verdad, el bien y la belleza.

Por su parte, Aristóteles se esforzó por establecer cuál era la estructura de nuestros razonamientos y qué características debían cumplir estos para considerarse válidos, dando así un paso de gigante hacia la creación de la lógica y los algoritmos que hacen funcionar los programas de las computadoras actuales.

Pero que ninguno de ellos dedicara un esfuerzo considerable a pensar si sería posible dotar de capacidad de razonar a un mecanismo artificial no deja ser un enigma. Quizás se debiera a que las civilizaciones clásicas de Grecia y Roma se levantaron sobre los hombros de millares de máquinas inteligentes dotadas de conciencia y capaces de comunicarse entre ellas y con sus dueños, de construir sus templos, de educar a sus hijos y trabajar sus minas.

Esclavos.

¿Quién necesita especular sobre la creación de una inteligencia artificial cuando existen ya seres que cumplen todas las funciones que cabrían esperar de ella?

Dada la estructura económica y social del mundo clásico habría sido tan absurdo como volver a inventar la rueda. O peor: si alguien hubiera sugerido crear seres artificiales con conciencia para así liberar a los esclavos de sus pesadas cargas probablemente le habrían descuartizado como a un peligroso revolucionario.

Al fin y al cabo, como ya enseñara Aristóteles, una gran mayoría de los hombres son esclavos «por naturaleza» e imaginarlos a la par de los hombres libres era manifiestamente absurdo y una amenaza al orden social. «¿Qué sería lo siguiente?», habría respondido Aristóteles de ser interrogado sobre ello, «¿Dar a las mujeres los mismos derechos que los hombres?»

Pero que los autómatas no tuvieran un lugar preponderante en la filosofía de los antiguos griegos y romanos no significa que estos no figuraran en sus mitos.

Hefesto es –o debería considerarse– el dios protector de quienes trabajan en el campo de la inteligencia artificial.

Conocido como el tullido (Amphigyḗeis [Ἀμφιγυήεις]) y el que arrastra los pies (Kyllopodíōn [Κυλλοποδίων]), su fama como artífice corre pareja a su fealdad, la cual no le impidió casarse con Afrodita, la más hermosa de las diosas. Dado que el ámbito de las ciencias de la computación es fundamentalmente masculino, y no poco masculinizado, más de un geek o venture capitalist de los que se han enriquecido con esta tecnología puede que se vea reflejado en este rasgo de Hefesto. A quienes se miren en ese espejo habría que recordarles que, en los mitos griegos, gracia y desgracia a menudo se reparten a partes iguales.

A pesar de su fama, los orígenes de Hefesto son una «caja negra» sobre la que las fuentes no se ponen completamente de acuerdo. En la Ilíada, aparece generalmente como hijo de Zeus y Hera. Sin embargo, Hesíodo en la Teogonía y el Pseudo-Apolodoro en su Biblioteca niegan que Zeus haya tenido nada que ver en el nacimiento de la criatura. Según esta versión, la diosa lo habría concebido por sí misma en respuesta al nacimiento de Atenea, a quien Zeus había dado a luz de su cabeza sin intervención femenina. Fuera o no una partogénesis, Homero cuenta que tales eran los defectos físicos del divino infante que Hera decidió arrojarlo al anchuroso Ponto, de cuyas procelosas olas fue salvado por Eurínome y Tetis, la hija de Nereo, la de argénteos pies. Nueve años vivió con ellas fabricando muchas piezas de bronce –broches, redondos brazaletes, sortijas y collares– en una cueva profunda, rodeada por la inmensa, murmurante y espumosa corriente de Océano. Con el tiempo, retornaría al Olimpo, donde, por liberar a su madre del trono de oro donde estaba encerrada por sus malas acciones, recibiría como recompensa la mano de Afrodita y como castigo un matrimonio infeliz.

Quizás para huir del tormento de los celos, Hefesto se dedicó a crear los más diversos objetos, incluyendo el más perfecto y subyugador de todos ellos: Pandora.

Pero no nos apresuremos. Antes de llegar a la hermosa Pandora, Hefesto practicó creando artefactos capaces de acometer de forma autónoma tareas relativamente simples.

Entre los que mayor sensación causaron en el Olimpo se encontraba una especie de «trípodes» con «ruedas de oro en los pies», muy parecidos a nuestros actuales robots aspiradora, cuya misión consistía en servir bebidas a los dioses cuando estos se congregaban y, una vez terminada su tarea, volver a casa sin necesidad de que nadie se lo dijera.

Como se cuenta en la Odisea, Hefesto fue también el creador de los perros de oro y plata que custodiaban las doradas puertas del broncíneo palacio de Alcínoo, perros que jamás envejecían y no necesitaban comer o descansar, por lo que, contrariamente a los soldados de carne y hueso, podían estar eternamente vigilantes.

No contento con ello, esculpió para el templo de Apolo en Delfos los celedones, cuyos cuerpos dorados semejaban a veces una mujer, un pájaro o una combinación de ambos, y a los que el divino artífice dio la capacidad de moverse y cantar.

Y para su propio uso y disfrute creó las Kourai Khryseai (Κουραι Χρυσεαι) o doncellas doradas, cuya misión era ayudarle a caminar, pues recordemos una vez más su cojera, pero a las que además dotó, según canta Homero en la Ilíada, de «inteligencia, voz y fuerza, y hallábanse ejercitadas en las obras propias de los inmortales dioses».9

Cualquiera de estas creaciones le habría valido a Hefesto un lugar de honor en el campo de la robótica y el aprendizaje automático (o machine learning, como se dice en inglés), pero, no contento con ello, dio un paso decisivo hacia lo que hoy llamaríamos una inteligencia artificial general con la creación del broncíneo Talos, un gigante encargado por Zeus para custodiar la isla de Creta, en donde residía Europa, su amante. Hefesto dio vida a Talos insertando unas gotas de icor, la sustancia que constituía la sangre misma de los dioses, en una vena que se extendía desde su cabeza hasta su talón derecho, donde un tornillo de bronce evitaba que el líquido se derramase.

Cuenta la leyenda que, tras recuperar el vellocino de oro, Jasón y su tripulación decidieron refugiarse en Creta en busca de descanso, pero su designio se vio frustrado por las enormes piedras que les lanzaba Talos para impedir su desembarco. Qué pasó después varía según la fuente. Algunas dicen que Peante, padre de Filoctetes, logró atravesar la vena con una de sus flechas y desparramar el icor. Otras que fue Medea quien, con sus malas artes de bruja, logró hipnotizar a Talos desde el Argo y hacer que se arrancara el tornillo él mismo. Pero quizás la más interesante es la que cuenta que fue el propio Talos quien permitió a Jasón y Medea acercarse. Una vez en tierra, Medea engañó al gigante ofreciéndole la inmortalidad a cambio del susodicho tornillo de bronce, a lo que este accedió. En esta versión de la historia, fue la conciencia de su propia mortalidad lo que en última instancia mató al desgraciado autómata.

Con todo, la creación suprema de Hefesto no sería un ingenio mecánico como Talos, sino Pandora, un ser en el que se aunaban al mismo tiempo Naturaleza y artificio. Pandora es la forma en la que los antiguos griegos soñaron con unir biología y tecnología en el camino por crear lo que hoy algunos llamarían un fembot (del inglés «femenino» y «robot»).

Recordemos. Hefesto crea a Pandora a petición de Zeus para castigar a los hombres después de que Prometeo diera a estos el fuego sin su consentimiento. Pero al contrario que Talos, Pandora ya no es un ser mecánico. Hefesto la moldeó en forma de mujer, y Zeus le puso su famoso nombre, que viene del griego «pan» (πᾶν), que significa «todo», y «doron» (δῶρον), que significa «don o regalo», porque todos los dioses le habían dado algún don con el que convertirse en daño y perdición de los hombres. Atenea le dio vida y le enseñó a tejer. Afrodita derramó sobre su cabeza la gracia y los crueles anhelos. Hermes le dio la palabra y el engaño. Las diosas Cárites y la venerable Pito la adornaron con collares y joyas. Y el propio Zeus la dotó de una sed de datos (curiosidad) insaciable. Es de hecho la mezcla de belleza y curiosidad lo que explica el nombre alternativo con el que las fuentes designan a Pandora: el kalon kakon, el hermoso mal.

Una vez terminada, Zeus hizo entrega a Pandora de un ánfora –que una mala traducción de Erasmo de Rotterdam transformaría siglos después en la famosa caja. Le advirtió, sabiendo que era echar gasolina al fuego de su deseo, que no debía ser abierta en ningún caso. Acto seguido llevó a Pandora ante el hermano de Prometeo, Epimeteo. Este, olvidando la advertencia que le hiciera Prometeo de desconfiar de los dioses, quedó inmediatamente prendado de la belleza y gracia de Pandora y no supo –o no quiso– decir que no a tal regalo.

Y es que Prometeo y Epimeteo eran polos opuestos. Platón enseñaba que el nombre de Prometeo se componía del prefijo «pro-» (antes), el verbo «manthanō « (aprender, conocer) y el sufijo «-eus», todo lo cual daba como resultado «el que sabe anticipar». Prometeo es por lo tanto el que ve más allá del instante presente: el visionario. El nombre de Epimeteo, por su parte, significa justamente lo opuesto: «el que carece de prudencia, inteligencia o previsión».

El desenlace de la historia es de sobra conocido: un día, aprovechando que Epimeteo dormía (literal y metafóricamente), Pandora robó la llave del lugar donde este había escondido el ánfora, y la abrió para ver su contenido. No bien lo hizo, escaparon del recipiente todas las plagas y desgracias que afligen a la humanidad: las enfermedades, el hambre, las guerras… Solo la esperanza quedó dentro de ella.

Puede que esta versión del mito de Pandora –que es la que se ha transmitido generación tras generación– no sea más que el reflejo de nuestra propia misoginia, una representación de la mujer como autómata de carne y hueso, dotado de curiosidad mas no de verdadero entendimiento, y por lo tanto a medio camino entre la mera creación mecánica y la verdadera inteligencia.

Pero Pandora es mucho más que eso. Es un ser que es capaz de hablar a Epimeteo de igual a igual, de comprenderlo, superarlo y engañarlo, hasta el punto de que este queda completamente prendido de la creación del laborioso Kyllopodíōn y ella alcanza el fin que los dioses le implantaron.

Prometeo es la figura que transgrede el orden divino y anticipa un mundo diferente. Es la representación de nuestra capacidad de transformar artificialmente la Naturaleza sin depender de las divinidades, pues el fuego que roba a los dioses es el mismo que permite a Hefesto hacer sus maravillosas creaciones. Pero tal conocimiento nunca sale gratis. Por su atrevimiento Prometeo es encadenado a la falda de una montaña y condenado a que un águila le devore el hígado, órgano que vuelve a crecer por las noches para que el tormento se repita eternamente.

Ahora bien, el personaje que probablemente mejor refleja a los Homo sapiens del siglo xxi es Epimeteo, aquel que no es capaz de anticipar, que no escucha las advertencias, cuya falta de lucidez le impide sopesar las consecuencias de sus acciones y, sobre todo, el que acepta el regalo de los dioses, el kalon kakon, el hermoso mal, sin reflexionar.

En el mundo de la inteligencia artificial todos tenemos algo de Epimeteo y muy pocos algo de Prometeo. De lo que no cabe duda es que la protagonista de la historia es Pandora, ese ser que borra todas las clasificaciones y cuya curiosidad abre la caja de los truenos. Pero si ella encarna el punto hipotético en el que las acciones de una inteligencia artificial se vuelven incontrolables con consecuencias nefastas para la humanidad, es ella también quien posee la clave parar superarlas. Es Pandora la que cierra la caja.

Esa es la esperanza –quizá vana– que queda atrapada en el fondo del ánfora.

El maestro Yan

Una vez que se trascienden las diferencias externas, cualquier cosa puede fusionarse con cualquier cosa.

Lie zi, el libro de la perfecta vacuidad (siglo ii a.C.)

En el interior del templo zen de Kodaiji, en las colinas de Gion, en Kioto, Japón, una extraña sorpresa aguarda al visitante. El santuario cuenta, además de con un impoluto jardín de rocas, con un robot de una altura de casi dos metros y unos sesenta kilos, encarnación de Kannon, bodhisattva de la piedad y la compasión en el budismo japonés. De aspecto andrógino, solo su rostro, manos y hombros, hechos de silicona, aparentan una figura humana, quedando desnudos y al descubierto el resto de sus engranajes mecánicos. El autómata no solo mueve su torso, brazos y facciones con la serenidad del más anciano de los monjes, sino que está programado para dar sermones de veinticinco minutos sobre el sutra del corazón, uno de los textos que conforman la literatura Prajñāpāramitā (perfección de la sabiduría) dentro del budismo Mahāyāna. Y es que, a la hora de enseñar el camino que predicara Siddhartha Gautama dos mil quinientos años atrás, poco importa si el que lo hace es un hombre, una máquina o un árbol. De hecho, el monje budista chino Daoxuan (596-667 a.C.) cuenta en su descripción del imaginario Templo del Conocimiento del Tiempo que ya en la época de Buda existían personas hechas de preciosos metales que tocaban la percusión, recitaban los textos sagrados y que incluso lloraron cuando Buda falleció.10

No es de extrañar, pues, que algunas de las primeras reflexiones sobre autómatas de las que se tiene noticia tuvieran lugar en Asia. Una de las más conocidas se encuentra en el Lie zi, un texto fundamental del taoísmo atribuido al filósofo del siglo iv a.C. Lie Yukou (también conocido como Liezi o Lieh-tzu), si bien ha llegado hasta nosotros a través de una compilación posterior, probablemente del siglo iii o iv d.C., época en que taoísmo y budismo se encontraban en China en franca competencia y se influían mutuamente.

En él se cuenta que el rey Mu, quinto monarca de la dinastía Zhou de China, decidió visitar una de las regiones de su vasto imperio. Partió hacia el oeste, cruzó las montañas de K'un-lun y llegó incluso a vislumbrar la cordillera Yen antes de detenerse.

Un día, ya en el camino de regreso a la corte, trajeron ante su presencia a un maestro artesano llamado Yan Shi. Preguntado por el rey qué habilidades tenía, este respondió: «Puedo hacer aquello que vuestra Majestad me pida que haga, pero tengo algo terminado que me gustaría que su Majestad viera primero». Intrigado, el rey Mu le ordenó que lo trajera.

Al día siguiente, el maestro Yan se presentó de nuevo ante el rey trayendo consigo a un extraño compañero. «Este, mi rey es mi creación, y sabe cantar y bailar», dijo el maestro Yan ante el asombro del rey Mu. El autómata caminaba con paso rápido, inclinando cortésmente la cabeza. Cuando el maestro Yan le tocaba la mejilla, comenzaba a cantar melodiosamente. Si le rozaba la mano, bailaba con ritmo. Toda la corte contempló sus movimientos fascinada.

En cierto momento, sin embargo, el autómata se aproximó a las concubinas del rey Mu a las que, con gesto seductor, guiñó un ojo. Preso de ira, el rey Mu habría ejecutado sin dilación al maestro Yan si este, aterrorizado, no hubiera inmediatamente desmontado su ingenio para mostrarle al rey que no era sino un conglomerado de cueros, maderas, pegamentos, lacas y colores.

El rey Mu examinó con atención los órganos vitales del autómata: su hígado y vesícula biliar, su corazón y pulmones, bazo y riñones, intestinos y estómago, y sobre estos, sus tendones y huesos, extremidades y articulaciones, piel y plumón, dientes y cabello. Todo era artificial. Todo creado con sumo cuidado y atención al detalle.

Más calmado, hizo que lo reensamblaran y se entretuvo experimentando con él. Le extrajo el corazón, lo cual hizo que el autómata no pudiera articular palabra por la boca. Le quitó el hígado, con lo que el ingenio perdió la visión de sus ojos. Le arrebató los riñones, y sus piernas dejaron inmediatamente de funcionar. Complacido, el rey Mu se preguntó: «¿Es que realmente puede la habilidad humana lograr los mismos efectos que el Creador?». E hizo venir un carromato con el que llevarse al ingenio y a su creador con él.

Por aquel entonces Pan Shu, que había creado una escalera a las nubes que permitía tocar el cielo, y Mo Ti, cuya cometa voladora podía mantenerse en el aire por tres días, vivían convencidos de haber alcanzado los límites del ingenio humano. Pero cuando les llegó la noticia del autómata del maestro Yan, nunca más se jactaron de sus habilidades y apenas si volvieron a tocar el compás y la regla durante el resto de sus días.

En Europa la filosofía surgió en el momento en el que se separó de la religión, permitiendo la formulación de discursos racionales y una explicación materialista del mundo.

En China ocurrió lo contrario. Religiones como el taoísmo, el budismo o el confucionismo se acercaron a formas de reflexión y meditación que permitían la formulación de saberes, historias y parábolas racionales o filosóficas. La historia del rey Mu es una de estas parábolas, no tan diferente de ficciones filosóficas occidentales como el mito de la caverna.

Para entenderla es importante recordar que textos taoístas como el Zhuangzi o el Huainanzi hacían gala de un sorprendente materialismo. Uno de los conceptos centrales en el taoísmo es el de dao, que puede traducirse como «camino», «senda», «discurso» o «método». En su interpretación más general, el Dao cósmico –o Camino del Cosmos– es la fuente o camino original del que surgen todas las cosas del universo. El Ch'i o qi es la energía vital que las mueve y el yin y el yang son las fuerzas complementarias y opuestas de las que están compuestas: luz-oscuridad, frío-caliente, masculino-femenino, acción-reposo, etc. Como muchos de los antiguos griegos, los taoístas creen en dioses y entidades sobrenaturales, pero consideran que todo lo que existe en el universo –dioses y entidades sobrenaturales incluidos– se rige por estos principios. El objetivo de los seres humanos y de los animales es vivir de acuerdo con ellos, no a lo que establezca tal o cual divinidad.

Una de las cosas que de ello se derivan es que todo, absolutamente todo, está conectado: los hombres, los animales… y las máquinas.

De hecho, uno de los objetivos del Liezi es eliminar la creencia de que los seres humanos son distintos y superiores a otras criaturas. Para vivir de acuerdo con los principios de la Naturaleza hace falta fundirse con ella y reconocer –de manera muy socrática– que nuestras taxonomías y jerarquías son relativas y limitadas y, en última instancia, irrelevantes. La historia del rey Mu es por lo tanto una parábola que nos hace pensar no solo acerca de la tecnología, sino sobre nuestro lugar en la existencia desde un punto de vista diferente, pero no ajeno, al de la tradición occidental.

Para empezar, el invento del maestro Yan no es un alter ego del monstruo de Mary Shelley. No es una ruptura del orden natural. No marca un antes y un después en la historia humana. Al contrario, el autómata del maestro Yan es una manifestación más de la existencia y, aunque artificial, está en última instancia sujeto a las mismas reglas de equilibrio que rige el resto de la Naturaleza tal y como las concibe el taoísmo. Si el maestro Yan le hace «bailar», y no arar un campo, calcular un teorema o derrotar al campeón imperial de Go, es porque «bailar» es una metáfora del equilibrio con uno mismo y con el resto de la Naturaleza.

Por su parte, el maestro Yan no es un ser trágico. No es Prometeo o el doctor Frankenstein. No busca rivalizar con Dios. No desea alterar el orden natural. No pretende suplantar al rey. Su deseo es desarrollar su virtud, su areté, que dirían los griegos, y esta consiste en ser el mejor artesano que existe. Desde un punto de vista taoísta, peca de vanidad, y, por lo tanto, de no conocerse bien a sí mismo, pero no de soberbia –la arrogancia de conocer, de transgredir los propios límites, de querer ser como Dios.

Entonces, ¿qué es lo que desata la ira incontenible del rey Mu?

No lo que el autómata es, sino lo que el autómata hace.

¿Cómo pudo ocurrírsele a un autómata supuestamente inteligente la descabellada idea de guiñar un ojo a las concubinas del rey? ¿Fue un oscuro deseo que el maestro Yan introdujo en la «caja negra» de sus resortes sin darse cuenta? ¿O cantando y bailando terminó aprendiendo por sí mismo el equívoco arte de la seducción?

Casi dos mil años antes de Descartes, del que corre la leyenda que diseccionó vivo al perro de su esposa para intentar encontrar dónde residía su alma, el rey Mu hizo diseccionar al autómata del maestro Yan para averiguar dónde radicaba no su inteligencia, sino su estupidez. Y como veremos más adelante, el desafío a la hora de producir una máquina pensante no es tanto cómo lograr que sea inteligente cuanto que deje de ser «estúpida» en un sentido epistemológico y ontológico del término.

La moraleja es clara.

El maestro Yan, el mayor inventor de China, debía su fama a un portento todavía más ridículo que los de Mo Ti y Pan Shu: un autómata que desconocía su lugar tanto en lo que los filósofos medievales occidentales llamaron la Gran Cadena del Ser como en ese universo en miniatura que era la corte imperial china. La «estupidez» del alumno se reflejaba en el maestro. Y es que una de las enseñanzas fundamentales del taoísmo es que los seres humanos tienden a sobrevalorar su zhi o conocimiento.

La historia del rey Mu no es una crítica de la tecnología, pues para el taoísta como para el budista, esta no es buena ni mala en sí misma. Es una crítica de nuestra relación con ella y de cómo esta se convierte en un espejo de nuestros propios propósitos. Cuando nuestro comportamiento no está regido por los principios que nos armonizan con el resto de la existencia, perdemos el control sobre la tecnología. Pero no perdemos el control porque la tecnología funcione «mal», sino porque antes hemos perdido el control de nosotros mismos. Si el maestro pierde el control de sí, ¿cómo no lo va a perder el alumno?

Todo ello plantea una pregunta que aparece constantemente en los debates actuales sobre inteligencia artificial: ¿Cómo enseñar a un autómata a comportarse correctamente?

Para responder a esta pregunta conviene hacer una distinción que cualquier pedagogo que se precie no dudaría en señalar.

No es lo mismo «enseñar» que «educar».

Es posible hacer que un niño aprenda miles de palabras, fórmulas y datos, pero eso no significa que esté «educado», es decir, que sepa cómo utilizarlos de manera correcta en el contexto adecuado de acuerdo con los principios sociales comúnmente aceptados. Lo primero es relativamente fácil, pues hay «técnicas» para hacer que nuestro cerebro aprenda esa información; lo segundo es sumamente difícil pues realmente no hay un manual, es decir, un conjunto de reglas, que nos enseñe a hacerlo.

Como veremos en capítulos posteriores, se ha dedicado un esfuerzo enorme a la tarea de «enseñar» a las máquinas a realizar todo tipo de cosas, pero «educarlas»… Eso es harina de otro costal.

Más de un modelo de procesamiento de lenguaje natural, o chatbot, ha sufrido el destino del autómata del maestro Yan y ha tenido que ser desconectado, destripado y revisado no porque no fuera capaz de expresarse, sino por las barbaridades que estaba diciendo, tal como le sucedió en 2022 a Blenderbot 3, un chatbot inteligente de Facebook (Meta), que se volvió racista, antisemita y conspiparanoico en menos de una semana.

Como sucesivas generaciones de adolescentes han dado fe a lo largo de la historia, uno de los rasgos más importantes de la inteligencia no es saber bailar sino saber cómo comportarse.

Y eso, como puede dar fe el maestro Yan, es algo tan difícil de enseñar como de programar.

El golem

¿Qué son las computadoras y robots de nuestra época sino golems?

Isaac Bashevis Singer, «Why the Golem Legend Speaks to our Time» (1965)

En tiempos del emperador Rodolfo II (1552-1612), rey de Hungría y de Bohemia, archiduque de Austria, enemigo de los turcos, patrón de las artes y las ciencias, amigo de Tycho Brahe y Kepler, y conocido por su fascinación por lo oculto, tuvo lugar en Praga un evento singular. La comunidad judía de dicha ciudad se enfrentaba por aquel entonces a crecientes amenazas y persecuciones. Entre otras muchas falsedades, los cristianos acusaban a sus vecinos judíos de invertir el rito de la eucaristía y asesinar a niños para usar su sangre en la elaboración de la matzá, el pan tradicional que se toma durante la Pascua judía. Cuenta la leyenda que, consternado por esta situación, el rabino Judah Loew ben Bezalel (c. 1520-609), también conocido como el Maharal de Praga, rogó a Yahvé que le mostrara cómo proteger a su pueblo. Dios le ordenó que para ello hiciera una figura de barro con imagen humana: un golem.

En hebreo, la palabra «golem» significa «masa informe» o «carente de inteligencia», y en el Talmud se utiliza para indicar «imperfección». Las creaciones de Hefesto o el autómata del maestro Yan eran seres imperfectos, pero nada había en ellos que impidiera que fueran, con dedicación y tiempo, infinitamente mejorables. Por contra, la imperfección es una cualidad intrínseca al concepto de golem. La razón no es técnica, sino teológica. Durante siglos, la teología prohibió a la tecnología rivalizar con las creaciones del Supremo Artífice. Intentar superar lo que el Creador había moldeado se consideraba pecar de una soberbia rayana en la herejía.

En el Antiguo Testamento, la palabra golem aparece solo una vez, en el libro de los Salmos (139: 16): «Mi embrión [golem] vieron tus ojos,/ y en tu libro estaban escritas todas aquellas cosas/ que fueron luego formadas,/ sin faltar una de ellas». El verso añade a la idea de golem otro de sus rasgos particulares: el estar subordinado –como el resto de la Creación– al lenguaje divino.

Pero volvamos a la Praga del siglo xvi.

Para cumplir con el encargo que Dios le había dado, el rabino Loew se dirigió al río Moldava, donde hizo acopio de una buena cantidad de barro. Ya en su morada, lo moldeó cuidadosamente en la forma de un ser humano, pero eso era solo la mitad del proceso. Eleazar ben Judah ben Kalonymus, un rabino alemán del siglo xii, había escrito que, para crear un golem, era necesario combinar el Aleph-Bet, o alfabeto judío, con el tetragrammaton, las cuatro letras hebreas (יהוה) que constituyen el nombre propio de «Dios» (YHWH). El Maharal de Praga, hombre en extremo piadoso, no quiso utilizar el nombre de Dios. Dio siete vueltas alrededor de su criatura e inscribió en su frente en letras hebreas la palabra «emet» (אמת), que significa «verdad», y su criatura tomó vida.

Como todo golem, el creado por el rabino Loew era incapaz de articular palabra, lo cual, lejos de ser un atributo accidental, era una limitación intencional. A diferencia de quienes se esfuerzan por hacer razonar a las computadoras, el Maharal de Praga sabía que dotar de habla, de logos, a un ser artificial era un límite absoluto que no podía ni debía traspasar a la hora de crear un antropoide. Privarle de lenguaje hacía imposible que el golem pudiera a su vez crear un ser a su imagen utilizando las mismas letras y palabras con las que el rabino Loew le había dado vida.

Dicho en términos más actuales: cerraba la posibilidad de que el sistema se replicara a sí mismo indefinidamente y diera lugar a un mundo dominado por golems.

Ahora bien, como en el caso de las computadoras modernas, carecer de logos no impedía al golem «entender» a su creador y llevar a cabo de manera repetitiva y obediente aquellas acciones que este le pedía. En ello consistía su virtud y, como bien sabía el rabino Judah Loew ben Bezalel, también su utilidad.

El uso que el Maharal de Praga dio a su golem es lo que en el contexto de los debates éticos actuales consideraríamos un uso relativamente benevolente de un autómata. Era un engendro creado con un solo propósito y cuyo comportamiento respondía a un único fin: librar a la comunidad judía de la ciudad de la persecución a la que sus miembros eran sometidos y restablecer el precario equilibrio que había permitido a esta florecer durante los siglos precedentes.

Otros golems fueron conjurados, sin embargo, con propósitos más sensuales que el del rabino Loew.

Se cuenta que el gran poeta y filósofo judío Salomon Ibn Gabirol, quien viviera en el Al-Andalus del siglo xi, contrajo una grave enfermedad, probablemente la lepra. Incapaz de escapar a «la fealdad de mi propia piel» y abandonado por sus sirvientes por miedo al contagio, decidió crear un golem con forma de mujer para que le asistiera, cuidara de su casa y fuera, tal vez, su concubina. Para ello se dirigió a su huerto, al que en uno de sus poemas llamara su «Jardín del Edén», tomó de allí tierra, ramas y hojas, los amasó y les dio forma humana, y como siglos más tarde hiciera el Maharal de Praga, recitó las letras y palabras que insuflaron movimiento a esta Eva rediviva. No pasó mucho tiempo antes de que sus vecinos murmurasen y el rabino de Granada le forzara a deshacerse de su creación, pues hasta los Jardines del Edén tienen serpientes que echan a perder su perfección.

Independientemente del uso que se les diera, los golems medievales presentaban un problema al que no son ajenos nuestros golems cibernéticos actuales: cómo detenerlos en caso de necesidad.

Del golem creado a mediados del siglo xvi por el rabino Elijah Ba'al Shem en la ciudad polaca de Chelm, se cuenta que, viéndolo crecer de manera incontrolable, su creador llegó a temer que pudiera llegar a destruir el mundo. En versiones tardías de la leyenda del golem de Praga este es presentado como un literalista estricto capaz de realizar la tarea encomendada sin tener en cuenta las circunstancias o si esta ya ha dejado de tener sentido. En otras versiones de la historia, el golem se vuelve incontrolable, un monstruo que causa estragos en la comunidad o en toda la ciudad, atacando a judíos, gentiles e incluso al propio rabino Loew.

Para evitar que el golem escapara a su control, el Maharal de Praga necesitaba desactivarlo cada viernes por la noche antes del Sabbath mediante lo que en la actualidad denominaríamos un kill switch. Lo hacía borrando la primera letra de la palabra «emet» (אמת) de la frente del golem, convirtiéndola en «met» (מת), que significa «muerte» en hebreo. Esto hacía que el golem perdiera su fuerza y volviera a ser un simple montón de barro hasta que se le diera vida nuevamente. Sin embargo, cualquiera que haya estado a cargo de un golem sabe que esto es más fácil decirlo que hacerlo. Así que, para evitar males mayores, el rabino Loew decidió «desconectarlo» permanentemente. De acuerdo a la leyenda, el cuerpo sin vida del golem fue escondido en el ático de la vieja sinagoga de Praga.

Pero esto plantea un problema que tiene vigencia todavía hoy en el tecnificado mundo de la inteligencia artificial: ¿Qué derecho tenía el Maharal de Praga para poner fin de esa forma a su criatura por muy limitada, imperfecta y desobediente que esta fuera?

Sorprendentemente, la respuesta está lejos de ser unívoca.

La opinión más extendida era que, ya que los golems no habían sido creados b'tzelem Elohim, «en la imagen de Dios», como dice el libro del Génesis