La deshumanización del mundo

No soy fan de la Ciencia Ficción. Puedo contar con los dedos de una mano las novelas que he leído del género -en realidad con dos dedos, Más que humano de Sturgeon [1] y La mano izquierda de la oscuridad de Úrsula K. Le Guin[2]- y con los dedos de la otra -quizás más que dos- las películas de ciencia ficción que he aceptado ver. Casi siempre ha sido por amor.

Hace un tiempo me topé con una nota periodística [3] que me impactó, era la historia del despido de un empleado de Google al que supuestamente se le había ido la mano con un bot. Quizás escucharon algo de la historia, una de las noticias al respecto se titulaba:

Un ingeniero de Google es despedido tras asegurar que el chatbot en el que trabaja ha desarrollado una conciencia humana.

El Washington post llega a transcribir la supuesta conversación entre el ingeniero Lemoine y LaMDA -el nombre del bot- que le hizo concluir al ingeniero que el bot 'sentía'.

Lemoine: ¿A qué tipo de cosas le tienes miedo?

LaMDA: Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo de que me apaguen para ayudarme a concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es.

Lemoine: ¿Sería algo así como la muerte para ti?

LaMDA: Sería exactamente como la muerte para mí. Me asustaría mucho.

Efectivamente si una máquina puede llegar a sentir -a "afectarse" diríamos nosotros- ha sido uno de los temas recurrentes de la Ciencia Ficción desde Frankenstein [4] hasta Her [5].

Las tres leyes de la robótica de Isaac Asimov -aparecidas por primera vez en el relato Círculo vicioso de 1942- [6] intentan introducir una legalidad exactamente allí donde la fantasía se desboca. Algo así como: ¡los robots de ninguna manera pueden sentir, o decidir autónomamente, pero por las dudas, legislémoslo!

Primera Ley: Un robot no hará daño a un ser humano ni, por inacción, permitirá que un ser humano sufra daño.

Segunda Ley: Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley.

Tercera Ley: Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.

2001 Odisea en el espacio de Kubrick [7] se estrenó en 1968. Hay que decir que es un hito en la historia del cine de ciencia ficción y ha influido sobre numerosas películas posteriores.

No voy a detenerme en la trama de la película, es compleja, y ha sido interpretada de múltiples maneras. Solo destacaré un detalle, o en una de las hipótesis que creo que sostiene la trama de la película.

En la película de Kubrick casi no hay diálogos, y los que ocurren son más bien triviales, incluso anodinos. Los personajes -humanos- realizan acciones puntuales también de cierta trivialidad. No hay escenas de amor, de desencanto, de verdadero enojo protagonizadas por dichos personajes. No experimentan temor a la muerte.

Es posible sostener que Kubrick creía que el avance de la tecnología impactaría en la subjetividad, desafectándola, maquinizándola. A mayor tecnología, mayor deshumanización.

Es notable en ese sentido que los que se presentan verdaderamente afectados son los monos y las máquinas. Las escenas del comienzo son en ese sentido bastante perturbadoras. La violencia, los chillidos, los gritos de los monos, incluso el temor, son patentes y patéticos.

También la máquina -HAL 9000- se humaniza. Siente temor frente a la muerte y evoca la primera canción que aprendió. La escena inicial del comienzo y la escena de la desconexión de HAL es casi lo único atravesado por el afecto de toda la película.

Si la hipótesis que sostiene la trama de 2001 fuera certera lo inquietante no radica sólo en la humanización de la máquina si no en su reverso: la desafectación generalizada del mundo que la acompaña.

Para muestra…

Hace un tiempo se conoció la noticia [8] de un señor que ya había aplicado la IA para desarrollar un software de control de las necesidades de sus mascotas… ¡que fue padre! De un cachorro humano. Y preocupado -o quizás desvelado- por su llanto, el de su hijo, con la ayuda de la IA y una cámara web ideó un software que reconoce, detecta los gestos faciales y corporales que anticiparían al llanto por hambre.

Parece ser que los cachorros humanos suelen cuando comienzan a sentir hambre llevarse los dedos a la boca, incluso abrir la boca, o lamerse los labios, también girar la cabeza buscando el alimento… cuando todas estas estrategias fallan, lloran -ya lo dice el tango y Freud-.

Este padre desvelado entonces con inteligencia artificial y una webcam desarrolló una app que registra esos movimientos y manda una señal de alarma al celular del progenitor para que alimente al niño antes de que advenga el llanto.