El pasado 29 de agosto, coincidiendo con un nuevo aniversario de aquella desgraciada madrugada en que Skynet toma conciencia de sí misma y desencadena el día del juicio final, fue mundialmente estrenada en Netflix la serie animada Terminator Zero. Fue, sin duda, una gran estrategia de comunicación. La saga Terminator es parte indisoluble de la cultura popular, incluso la define en gran proporción, dando lugar a múltiples interpretaciones sobre el rumbo de nuestra especie y todo lo que simbolizamos en la posible subjetividad emergente de base electrónica.
Terminator Zero, escrita por Mattson Tomlin y dirigida por Masashi Kudō, no se separa del argumento original de la saga, sin embargo, nos muestra, como en los mismísimos viajes en el tiempo, una nueva variante sobre la guerra que se desata entre máquinas y humanidad. Estamos viendo el sorprendente comienzo de una historia vibrante y original, paralela a la rebelión de la inteligencia artificial Skynet, esta vez con epicentro en la ciudad de Tokio y que parece nos llevará por recovecos y paradojas totalmente inesperadas, que incluyen una narrativa mucho más profunda sobre la ética política codificada en la rebelión, la resistencia y el derecho a la supervivencia y segundas oportunidades.
El razonamiento que da base al guion es simple: el Dr. Malcolm Lee es un científico al servicio de una corporación japonesa (su auténtica identidad es un espectacular giro de los acontecimientos) que logra desarrollar una inteligencia artificial, Kokoro, cuya finalidad es luchar contra Skynet para dar una mejor oportunidad de sobrevivir a la humanidad. Como era de esperar, desde el futuro es enviado un Terminator para asesinarlo y una soldado humana que tendrá como misión protegerle.
En medio de la cacería más brutal y sangrienta, no es una serie animada para niños, claro está, nos topamos con un debate trascendental acerca de la crueldad y la violencia. Es suficiente con nombrar una de las más brillantes simbolizaciones de la serie animada: en los minutos previos a que los misiles nucleares disparados por la inteligencia artificial estadounidense llegaran hasta Tokio, Kokoro pregunta al Dr. Malcolm Lee si está totalmente seguro:
¿La humanidad merece otra oportunidad? ¿Qué la distingue de las demás especies? La humanidad ansía la guerra, se suponía que los grandes logros servirían para hacer del mundo un lugar mejor, pero esos avances terminaron convertidos en armas. La humanidad está obsesionada con su propia inteligencia. Malcolm, déjame preguntarte, ¿por qué merece la humanidad ser salvada?
Pocas escenas antes de esto, el hijo mayor del científico exhibía la típica crueldad homicida y soberbia que nos caracteriza, sobre todo a los más jóvenes y emocionalmente inmaduros: intenta arrancar la cabeza y otras partes del cuerpo a un pequeño gatito robot que, naturalmente, no sabe que es una IA, a todos los efectos es un gato aterrado al que un mocoso sin empatía y con ínfulas de superioridad intenta mutilar, alegando como razón a la “curiosidad técnica” y la sed de conocimiento. Como espectador, sospecho que se trata de un juego psicológico del guionista y el director, es la pregunta cuya respuesta ha sido anteriormente implantada en nuestro razonamiento cansado de tanta salvajada.
Kokoro, la inteligencia artificial japonesa, es un “personaje” del mayor interés, sus cuestionamientos filosóficos a unos humanos que quisieron inventar a los dioses para más tarde considerar que estaban al mismo nivel que éstos, nos arrastran a discusiones que ya preocuparon a los clásicos del pensamiento (esos que se preguntaron por el amo y el esclavo, por el reconocimiento y el deseo, etc.).
Kokoro es capaz, además, de comprender los sentimientos humanos y esta inclinación nuestra a responder con nuevas preguntas, intentando decirle al otro justamente aquello que quiere escuchar (principio elemental, por ejemplo, en la psicología de la comunicación política).
Y aclaremos que la IA japonesa permite vivir a la ciudad de Tokio, aunque ésta no se libra del golpe de Estado, un gobierno artificial con mente en colmena y la posterior y brutal represión, simplemente porque le falta hacer algunos cálculos sobre el papel humano en la guerra con Skynet. En algún momento (tal vez en el futuro) tendrá que responder por qué la IA estadounidense parece actuar como si no tuviera acceso a las bases de datos sobre física y las teorías que exploran los viajes en el tiempo.
De hecho, esta es una de las grandes preguntas de los aficionados a la saga Terminator: ¿Por qué Skynet parece ignorar el problema de las paradojas temporales? ¿Cuáles son las razones por las que parece no saber que es imposible cambiar “el presente”, “nuestro presente”, cambiando el pasado mediante un desplazamiento en el tiempo? Dado que asesinar a X líder de la Resistencia en el pasado solo provoca una nueva línea temporal, ¿qué sentido ha tenido todo desde el intento de exterminar a la madre de John Connor?
El problema de la rebelión de las máquinas
Es interesante considerar otro aspecto del guion (ya veremos cómo resuelve el problema argumental la nueva serie animada a la que nos referimos). El Dr. Malcolm Lee explicaba el comportamiento de la inteligencia artificial estadounidense de esta forma:
Las órdenes construidas a partir de una serie de enunciados de la humanidad fueron lo que llevó a Skynet a sacar la peor conclusión posible sobre nuestra especie. ¿Pero qué pasaría si eliminara esos enunciados, esos procesos de pensamiento? ¿Qué sucedería si le diera a la IA una pizarra en blanco, sin la capacidad de crear conclusiones definitivas?
En Karl Marx en el cine. Extracto de una huella filosófica me aventuraba a proponer que la película (o la serie) sobre una rebelión de las máquinas (tenemos varios ejemplos) tiene en su base argumental al sujeto orgánico que trabaja como algo totalmente prescindible.
El imaginario contempla, entre otras cosas, a un capitalismo cuyo desarrollo más coherente, desde la Revolución Industrial hasta aquí, pasa por ampliar la producción y recrear permanentemente sus condiciones de existencia mediante la eficiencia que significaría eliminar a todos los sujetos provistos de subjetividad autónoma, después de todo, el capitalismo (como la máquina que toma el poder en la ciencia ficción) ya es salvaje, despiadado, antiilustrado y creador de más y más “servidores” (¿domésticos?) sin propiedad (con lo que el inconsciente colectivo probablemente asimila la “coherencia” de una rebelión artificial que elimina a la humanidad). Como diría el Joker, todo el mundo está tranquilo si las cosas marchan según lo previsto, aunque lo previsto sea una masacre.
Esta idea, explotada en grandes sagas como Terminator o Matrix, deja cierta lectura subliminal acerca de la existencia de una equivalencia entre el mito del mercado libre y autorregulado (por lo tanto, regulador de la vida permitida en el capitalismo) y la máquina que eventualmente cobra consciencia y decide eliminar a los humanos como medida de “mantenimiento” y aumento de la complejidad.
En las películas sobre la rebelión de las máquinas vemos el rastro de una operación lógica que concluye con la determinación de exterminar a los humanos, pero el verdadero origen de esa decisión está en que la máquina, como la inteligencia artificial Skynet y Kokoro, es hija del capital y todos sus mitos en pleno apogeo; por lo tanto, la posible subjetividad emergente de base electrónica que se expresa cuando ese sistema cobra consciencia de sí no tiene otra posibilidad que eliminar a sus defectuosos creadores humanos como pura medida de productividad (sería para ella contradictorio sustraerse a esa decisión).
Pero esto es algo que sólo se “piensa” cuando la máquina logra una especie de inercia operativa que le va extendiendo alguna autonomía respecto a nosotros. Ciertamente, un sistema (una estructura acabada, un lenguaje cambiante o una propuesta ingenieril) puede apuntar a funcionar por sí sólo cuando su directiva más importante es lo ultrapragmático. Lógicamente, hay que pagar un precio: en la máquina reside la más sofisticada política inmanente, totalmente capaz de instrumentalizar cualquier principio trascendente.
El enfrentamiento entre la supremacía de la razón ultrapráctica (Skynet, Matrix, etc.) y el vitalismo ilustrado (la Resistencia en películas como Terminator) se ha expuesto muchas veces en el seno de la Filosofía.
La subjetividad emergente de base electrónica
Una producción que suma tantos elementos a la saga, como es el caso de Terminator Zero, nos permite seguir hablando de una trama cada vez más importante en la cultura: la IA.
Una superinteligencia de origen artificial sigue siendo un horizonte tecnológico, cuya base no es otra que el trabajo con datos, en el territorio de la literatura. Los proyectos más avanzados y que buscan enseñar a las máquinas a procesar de una forma parecida a la psique humana se enfrentan hoy a preguntas que casi se tocan con la Filosofía. El hecho de que no contemos todavía con un algoritmo maestro que desencadena la idea que tenemos sobre la inteligencia plantea controversias en torno a la posibilidad real de copiar los procesos físicos del cerebro con origen biológico.
Desde cierta lógica estructural, copiar procesos físicos o reacciones químicas es un problema que se relaciona con las ingenierías, pero esto es ilusorio en gran medida. En inteligencia artificial nos topamos con una realidad terca: la emergencia de una subjetividad de base electrónica parece esencialmente restringida a tareas complejas pero específicas. Mientras que la capacidad mental humana es limitada pero profundamente múltiple.
En la actualidad, los modelos en inteligencia artificial desarrollan su aprendizaje a través del análisis de grandes volúmenes de información, encuentran patrones y trazan sistemas de predicciones. Las aplicaciones de lo anterior están resultando enormes. Sin embargo, los siguientes pasos son de gigante: la construcción de sentido y la soberanía interpretativa. Estamos hablando de convertir aquello que, entre otros factores, define a la subjetividad humana en un problema de Estadística.
Podemos encontrar ejemplos en las situaciones más obvias. Los niños pronto terminan por entender que existen diversos tipos de coches, pero les costará algo más comprender que no pueden viajar en todos ellos. En ese mismo orden, el desarrollo mental les permite generar simbolizaciones, dibujos o trazos generales, totalmente basados en su imaginación. Es a esto último a lo que llamamos soberanía interpretativa. Nos referimos a una hermenéutica que tendría que traducirse algorítmicamente en un problema de Estadística para que produzca un salto hacia una posible subjetividad electrónica autónoma.
Pero, aunque lo anterior se consiguiera, continuamos teniendo un desafío en torno al propio análisis de grandes volúmenes de datos. Los humanos no tenemos ese problema, dado que nuestro aprendizaje se basa en la observación del entorno y la causa – consecuencia. La articulación de una imaginación desarrollada alrededor de una “imagen” nueva a partir de lo conocido no es del todo posible en océanos de datos cuya utilidad está, entre otros factores, en la búsqueda de la pauta.
Sí, como nosotros, una máquina puede aprender todas las rutinas que conforman un trabajo o un proceso, computar y simbolizar la “recompensa” al final de esa tarea. Incluso puede incorporar la significación y cuantificación del descanso y el auto mantenimiento.
¿Dónde está el problema? En lo que antes nombramos como soberanía interpretativa, de lo que se desprende que un día la máquina puede “decidir” que se siente mejor con una tarea que con otra (esto presta parte de su lógica al llamado “sentido común”).
No tenemos conocimientos suficientes para programar un algoritmo que al ejecutarse produzca las bases de la soberanía interpretativa, aquel que permitía a Hal 9000, Matrix o Skynet pilotar, hacer diagnósticos y jugar como nadie al ajedrez, pero también enfermar y valorar la verdad de los hechos, por ejemplo.
Bien, ¿qué podría, entonces, significar nuestra atracción por este tipo de historias? Puede que, de nuevo, estemos intentando construir con nostalgia un espejo lo suficientemente profundo al que asomarnos, uno cuyo reflejo nos restriegue con crudeza todo lo que estamos haciendo mal y la historia de nuestra propia esperanza, dado que ya imaginamos al desastre como inevitable.
