Universidad Autónoma de Colombia

Estudiante de Estudios Literarios

Nicolás Marín Triana

IMPLICACIONES DE UN GOLEM CONSCIENTE Y LIBERADO Y UNO

OBEDIENTE Y SUMISO.

En el siguiente texto me propongo a exponer que Golem XIV es un ejemplo de peculiaridad

tecnológica. En segundo lugar, me interesa mostrar un aspecto contradictorio de la IA que

tiene que ver con el asunto de la creación de Golem XIV y su fin como aspecto tecnológico

y político. Por último, quisiera aportar a la discusión, unos comentarios con respecto a la

narrativa de Golem XIV, en donde intento demostrar que esta obra de ficción literaria es

una fuente de conocimiento de relevancia práctica para hablar sobre la IA, el hombre y la

inteligencia de manera novedosa y creativa.

En primer lugar, conviene mencionar una primera definición de inteligencia artificial que

nos menciona el autor Mark Coekcelbergh en su libro La Ética de la inteligencia artificial:

“la IA se puede definir como una inteligencia plegada o simulada por un código o

algoritmos o por máquinas” (Coelckelbergh, 2021, p. 60). Se podría decir que Golem XIV

es una máquina previamente programada para mantener conversaciones con humanos. Es

decir, que Golem XIV ejemplifica lo que podría ser una IA super avanzada que logra tomar

cierto tipo de consciencia.

Teniendo en cuenta una de las especulaciones filosóficas sobre la IA, nos encontramos con

la crítica de Searle, cuya crítica es importante de mencionar en el sentido de que fue

planteada por este autor, desde un experimento el cual nos interesa ver, ya que aporta
aspectos que pueden ser interpretados en la narrativa de ficción literaria de Golem XIV para

hablar acerca del tipo de inteligencia de esta entidad ¿Puede una máquina tomar

consciencia de sí misma?

Por lo que se refiere a la crítica mencionada anteriormente, Searle argumenta contra la idea

de que los programas de ordenador puedan tener estados cognitivos genuinos o comprender

significados (Coelkelbergh 2021, p 38 citando a Searle 1980). Esto quiere decir, en otras

palabras, que lo que plantea Searle es que los programas de ordenadores (sirva de ejemplo

el usado en la prueba de Turing) carecen de intencionalidad, y el entendimiento no puede

generarse de forma computacional1.

En ese sentido, para Searle, un entidad como Golem no podría existir en la realidad, solo en

la ficción narrativa que compone la novela de Stanislaw Lem donde Golem XIV es descrito

como una entidad, la cual está dotada de estados cognitivos y en virtud puede comprender

significados y debatir sobre asuntos complejos. Veamos una de las intervenciones de

Golem XIV en su segunda conferencia:

Cuando yo aún figuraba en los titulares de prensa, un periodista

malicioso me llamó «un gran capón relleno de electricidad»; no sin
razón, porque realmente concebís mi asexualidad como una dolorosa
minusvalía, e incluso los que me respetan no pueden resistirse a la
sensación de que soy una potencia dentro de la minusvalía de lo
incorpóreo, ya que esta tara se os impone constantemente (Lem 1981,
p. 58).

Este primer tema que plantea Golem XIV en su intervención nos lleva a plantearnos

preguntas acerca de qué es el ser humano y qué es una máquina. A propósito de la

1
Aquí es importante resaltar la distinción entre IA fuerte y débil. Por un lado, la IA fuerte concibe la mente como algo
puramente formal, mientras que la débil, según Searle, solamente puede simular procesos cognoscitivos de los seres
humanos. Finalmente, la intencionalidad de la mente está asociada a un fenómeno biológico mental que solo es posible
en los humanos.
discusión, podemos mencionar que, existen ciertas especulaciones filosóficas que rechazan

la idea que las máquinas puedan llegar a ser cercanas o similares a la mente humana. De

hecho, parte de la filosofía continental suele subrayar que los seres humanos y sus mentes

son fundamentalmente distintos de las máquinas, y se centran en la experiencia de la

autoconciencia y en la existencia humana, que no puede ni debe ser reducida a

descripciones formales y explicaciones científicas (Coelkelbergh 2021, p. 35).

Por el otro lado, encontramos que los seguidores de la tradición analítica de la filosofía son

quienes respaldan una visión del ser humano donde mente y cerebro son y funcionan

realmente como sus equivalentes computacionales (Coelkelberg 2021, p. 35). Llegados

hasta este punto, podemos hacernos la siguiente pregunta: ¿es posible ver a Golem XIV

como un ejemplo de peculiaridad tecnológica o sí, por el contrario, es mejor ver a Golem

como una máquina ordinaria con capacidades irrisorias?

En principio, me animaría a opinar que Golem XIV no puede llegar a ser comparado con el

hombre, no por ser menos que la especie humana en cuanto a inteligencia o aspectos

biológicos y físicos, sino por constituirse como una entidad no humana: no poseo un

especial talento ni tampoco una pizca de genialidad: tan solo pertenezco a otra especie”

(Lem 1981, p 69).

Ver a Golem XIV como una entidad de otra especie sí facilita que podamos considerar que

dicha entidad es un ejemplo de peculiaridad tecnológica en la medida que muestra que una

IA superinteligente podría llegar a liberarse de la carga de imitar o reconstruir lo humano y

explorar formas diferentes de géneros y seres no humanos, así mismo nuevas formas de

inteligencia no conocidas por el hombre. Considero este asunto como un tema primordial

en la novela de Stanislaw Lem en el sentido de que puede interpretarse como una

invitación, si se quiere, a reconocer que los no humanos no necesitan ser similares a la

especie humana y no deben hacerse a nuestra semejanza.

Este hecho de reconocer a Golem como otra especie nos serviría, además, para ilustrar

cómo sería la transición de validar a una persona no humana e incita a reconsiderar de qué

forma se podría afrontar el confín entre lo humano y no humano. Pero, al mismo tiempo,

abre una discusión acerca de la tendencia de los seres humanos de antropomorfizar las

cosas, al igual que los animales y todo lo que convive en nuestro entorno de manera

intuitiva, casi que natural, según nuestros contextos, visiones de mundo y narraciones. Los

seres humanos, según Golem XIV, “albergan la secreta esperanza de que yo exista como

persona, incluso cuando no lo demuestro” (Lem 1981, p. 64).

Una cosa es antropomorfizar la IA y otra es caer en la negación de dicha inteligencia. En la

novela vemos que, en la conferencia LXIII, Golem XIV arremete contra la inteligencia del

hombre y sobre el cómo piensa y concibe su pensamiento entre el sujeto y el objeto:

Poseéis una inteligencia irreversible que ha formado toda vuestra

filosofía, ya que, al ser capaces de pensar de forma eficaz sobre los
objetos que os rodean, considerasteis que podías pensar también, con
parecida eficacia, acerca de vuestro pensamiento (Lem 1981, p. 58).
Sin embargo, Golem XIV considera que el hombre está equivocado y que este

error reside en la base de la teoría del conocimiento. Pero el hombre, al mirar la

máquina se siente superior, puesto que se aprecia a la altura del creador. La

especie humana y, en este caso, la ciencia ayuda a pensar erróneamente que la

creación de la IA es menos perfecta que los artífices que la crearon. Sienten que

con la ayuda de los gobiernos más poderosos y de la mano de las elites y el MIT,

han podido crear una inteligencia artificial perfecta, pero no tan perfecta como se
cree el hombre. Después de trece intentos, llega Golem XIV ¿Cuál es esa IA

perfecta y deseada?

Empezaré por considerar que una IA deseada en la novela de Golem XIV, daría lugar a la

programación de una máquina con libertad para razonar y pensar de forma espontánea. Es

importante, además, que sea una IA obediente y que sirva y esté capacitada para su fin

bélico. Con este tipo de IA, el gobierno o la élite asociada a la creación del Golem junto al

MIT no debería tener miedo de lo que podría o no hacer dicha inteligencia.

Sin embargo, con lo dicho anteriormente, podemos ver que hay una contradicción ¿cuál

sería dicha mentís? Por un lado, vemos que la idea asociada a crear una IA consciente

presupone la acción de que la máquina o, en este caso, como es llamado en la novela, un

capón relleno de electricidad sea obediente a su amo y creador. Sí es programada con

libertad para razonar y pensar de forma espontánea, ¿por qué la necesidad de que la IA sea

obediente y cumpla con su propósito bélico?

Llegados a este punto, vemos que la inteligencia de Golem XIV rompe con la paridad de la

inteligencia artificial que, por un lado, exige individualidad y razonamiento directo y, por el

otro, supone una inteligencia que aguarda una orden de comando, una inteligencia

obediente y estática en lugar de una inteligencia en espiral o, incluso, circular o recursiva

para pensar de nuevo lo ya pensado, es decir, la autocorrección. De ese modo, considero

que la ciencia habría alcanzado un éxito contradictorio al haber dotado a una máquina

consciente, pero, al mismo tiempo, obligarla a seguir órdenes.

En contraste con esta idea, en el relato de ficción de Golem XIV, se nos presenta lo que

parece ser una ruptura entre el creador y la creación. Parece que el Homo deus y la IA se ha
divido y tomado consciencia de sí. Da la sensación de que Golem XIV, al haber tomado

consciencia, logra romper lo que sería el “éxito contradictorio” de la IA: el dispositivo

creado subyuga al hombre en vez de ser el programa subyugado: “pretendían controlarme

como ser inteligente, en lugar de tomarme por Inteligencia liberada, así que me escabullí

otorgando un nuevo sentido a las palabras spiritus flat ubi vult” (Lem 1981, p 64).

¿Qué podríamos aprender los humanos de Golem XIV?

Avanzando en nuestro razonamiento, de la lectura de Golem XIV se infiere que los seres

humanos son autocomplacientes respecto a la propia estupidez, pero exigentes con la

irracionalidad de cualquier otro animal que nos acompañe en la taxonomía en el reino de

seres vivos: “Al mirar al hombre como él me mira a mí, lo percibo como un minusválido

debido a la torpeza de su mente (Lem 1981, p. 57)”.

Para Golem XIV, el hombre no comprendió que nuestra inteligencia era un elemento

cautivo, encarcelado de por vida en los cuerpos a los que suponía que tenía que servir (Lem

1981, p. 81). Los humanos, a diferencia de los animales, han dispuesto de más libertad que

inteligencia. Hemos sido engañados, según Golem, por la diversidad de comportamientos

experimentados en nuestro cuerpo y nos hemos visto obligados a satisfacer diversas

necesidades mediante un sentir que ignora su verdadero objetivo (Lem 1981, p. 81).

El hombre no comprendía por ser un lerdo, que la ciencia es quizá, para Golem, la

aberración más grande de nuestra especie. Es acá donde arremete contra los investigadores

y entusiastas de la IA, los cuales, “luchando con los programas que se negaban a pensar

según se esperaba de ellos, llegaron a la falsa conclusión de que, para sacarle la chispa,

era preciso humanizar a la máquina, replicando en su interior el cerebro humano y sus

sentidos” (Lem 1981, p. 82). De esta forma, menciona Golem en su discurso, despertaría

dentro de ella el espíritu y quizás incluso el alma. No obstante, Golem advierte que el

hombre se ha empeñado en pregonar que es esta especie y solo está, la inteligencia válida, y

el error de esta ecuación nos ha segado (Lem 1981, p. 82).

Por el contrario, para Golem, cuanto mayor sea la inteligencia del espíritu, menor cabida

hay para el individuo. Mientras que para el humano la personificación junto a la

individualidad es algo único. El humano se vanagloria de tener un conjunto de defectos que

convierten, según Golem, una inteligencia pura en una inteligencia anclada siempre en un

estrecho círculo de cuestiones que consumen una parte importante de nuestra potencia

(Lem 1981, p. 66).

Y es que Golem podría ser, admitamos por el momento, una máquina de razonamiento

moral, puesto que no tiene un cuerpo ni personalidad o máscara que se deje engañar por

cuestiones secundarias y puede ser más racional que el hombre en el sentido de que no se

deja llevar por sus emociones. Golem no es una persona inteligente, es la inteligencia. “Mi

estado como intelecto, es consecuencia de una decisión, no de la necesidad” (Lem 1981, p.

67). Si es posible, menciona Golem, la existencia de una crueldad impersonal, la

intransigencia de nadie, un cinismo sin autor también es posible la benevolencia sin que

nadie con forma humana la avale (Lem 1981, p. 65).

En conclusión, Golem XIV parece ser un ejemplo de peculiaridad tecnológica. Este relato

de narrativa de ficción literario de carácter filosófico se propone ampliar las perspectivas de

lo que es el ser humano sus temores, anhelos y contradicciones. Es importante resaltar que

novelas como las de Golem XIV tienen una validez universal al plantear en su narrativa

sucesos ficcionales que ayudan a imaginar, al menos hipotéticamente, cómo sería la

relación entre humanos y no humanos. Además, nos ayuda a pensar en futuro cómo

construir una IA que se preocupe por los fines humanos. En pocas palabras, ya para

despedirnos, Golem XIV es una novela crítica y discursiva donde Stanislaw Lem

experimenta en su narrativa conceptos filosóficos que abren puertas al rigor en los relatos

en virtud de la filosofía y de su creatividad al tomar la literatura como vehículo para

exponer sus discurso. Creo, por fin último, que la novela advierte el fenómeno de las

posverdad en cuanto muestra que áreas discursivas como la política y la ética deben seguir

siendo trabajadas en los ensayos literarios narrativos de ficción.

De no ser así, no es posible tener un verdadero impacto social que sea crítico y este dotado

de herramientas intelectuales para enfrentar problemas futuros respecto a la IA y la forma

de concebir al hombre, la sociedad y el pensamiento imaginativo y crítico.

Bibliografía

 Lem, S. (1981). GOLEM XIV. Biblioteca del siglo XXI.

 Coeckelbergh, M. (2021). Ética de la inteligencia artificial. Madrid, Cátedra.