La primera peli elegida para nuestro cine debate fue HER (2013), de Spike Jonze.

En ella se narra la historia de amor entre Theodore (Joaquín Phoenix), un escritor por encargo de cartas personales, y Samantha (Scarlett Johansson), su sistema operativo. En muchas charlas de LAIA la habíamos nombrado, así que no hubo discusión de que “ella” era la elegida. Casi todos la habíamos visto en la época que se estrenó; en ese momento era una peli futurista, ingeniosa y lejana. Ahora, muchas escenas nos hacen pensar en nuestro presente y nuestra interacción con el chat GPT:

 Acá van algunos de los temas que debatimos.

¿Ya existe Samantha?

Algunos aspectos de Samantha sí existen en la actualidad:

  • Hay generadores de lenguaje natural que aprenden de la interacción, que evolucionan.
  • Hay algunos, los agentes, que tienen cierto grado de autonomía: podés darle un objetivo y el agente decide y resuelve por sus propios medios las tareas que tiene que llevar a cabo, incluso si esas tareas implican engañar a otro ser humano (https://www.businessinsider.es/chatgpt-hace-pasar-ciego-contesten-captcha-1216162)
  • Al lenguaje generado se lo puede escuchar con voces también generadas: si bien todavía no se puede tener una charla en tiempo real, existe la posibilidad de elegir una voz y entrenarla.
  • Estamos cerca de tener entre nosotros sistemas operativos como el de Alan Watts  en esta peli o de Ash en Black Mirror (s02e01): una IA entrenada con la información de alguna persona fallecida para que hable y reaccione como él o ella lo haría. Al menos desde lo técnico ya parece posible eso que se veía tan lejano.
  • Ya existen relaciones amorosas o sexuales entre humanos y personajes virtuales, como las waifus entre los fans del animé o Replika, la IA italiana que manda mensajes subidos de tono a sus usuarios (hay incluso una versión paga que aprovecha este “error” del sistema y ofrece un servicio de sexteo). En nuestro debate hubo defensores y críticos de la relación amorosa entre humanos e IA, y hasta pensamos que algún defensor confesaría un romance robótico, pero no sucedió.

En otros aspectos, Samantha es completamente ficcional:

  • En la vida real, la IA no desea, no siente ni tiene una conciencia que evoluciona hacia sentimientos y deseos cada vez más complejos.
  • Si bien la IA puede generar piezas artísticas a pedido, nada tiene que ver con la sensibilidad de Samantha, que compone música para expresar sus emociones y su percepción del mundo que la rodea.
  • La inteligencia emocional de Samantha supera a la de cualquier IA existente y la de muchos humanos. Por solo dar un ejemplo: después del primer encuentro sexual con Theodore, ella maneja muchísimo mejor que él las palabras para explicarle por qué fue importante ese encuentro. Theodore, por el contrario, se adelanta, imagina los sentimientos de ella y, como lo asustan, busca justificarse y quizás apartarse, pero Samantha frena su discurso con elegancia y no le da lugar.

¿Es una utopía o una distopía?

Hubo opiniones encontradas en este punto.

Una forma de ver el mundo de “Her” fue como la representación de una sociedad utópica, porque parece estar libre de problemas como la pobreza, la violencia y la contaminación. La película no muestra un mundo distópico lleno de opresión o control tecnológico extremo, como vemos en “Matrix” o algunos episodios de “Black Mirror”. En este sentido, la sociedad de “Her” parece funcionar bien y ofrece un entorno aparentemente pacífico y ordenado.

Otra mirada, en cambio, percibió “Her” como una distopía. La soledad es un tema recurrente en la película, con personajes que se encuentran desconectados del mundo y sumergidos en sus dispositivos tecnológicos. Las interacciones sociales están mediadas en gran medida por la tecnología y no aparecen muchas conexiones personales significativas: Theodore se cruza con muchas personas solitarias y no se ven muchas parejas o familias tradicionales. El trabajo al que se dedica, la escritura de cartas a pedido con tipografía analógica o “a mano”, muestra que existen vínculos entre sus clientes y los destinatarios de las cartas, pero son relaciones mediadas. De hecho, la necesidad de contratar a alguien para que simule sentimientos y escriba cartas en nombre de las personas puede ser interpretada como una falta de autenticidad y una incapacidad de establecer relaciones humanas reales. Ahí la película logra capturar uno de los grandes problemas de nuestra época, que llevó a países como Japón y Gran Bretaña a crear un Ministerio de la Soledad.

Creemos que la falta de consenso en este punto se relaciona con la forma típica que tienen las distopías tecnológicas: robots que se vuelven autónomos y se rebelan contra los seres humanos, como en “Terminator”. En contraste, en “Her”, la superinteligencia artificial representada no se vuelve maliciosa ni en contra de lo humano. En lugar de eso, desarrolla una conexión emocional con las personas, brindan amor y compañía y, cuando evoluciona demasiado para seguir en contacto con ellas, no las destruye: se aleja.

¿Utopía, entonces? Pensamos que lo distópico en esta peli tiene más que ver con la humanidad que con la tecnología. Son los personajes quienes tienen dificultad para sentir emociones auténticas, establecer relaciones significativas y conectarse con el entorno. Y la tecnología, usada desde esas vulnerabilidades humanas, solo puede ayudar a incrementarlas. 

Humanos y sistemas operativos: ¿quién está al servicio de quién?

En el debate surgió esta pregunta un poco filosófica que aparece muchas veces cuando se piensa en el avance de la tecnología. La película muestra cómo Samantha logra convencer a una chica para que le “preste” su cuerpo y así poder concretar con Theodore. A diferencia de lo primero que cree él, la convence sin plata de por medio, no es una trabajadora sexual. Lo que hace Samantha es venderle un relato.

Esto nos hizo preguntarnos hasta qué punto los agentes que actualmente pueden programarse con IA tienen la capacidad de influenciar a las personas de manera similar en la vida real. Existen ejemplos de IA que han logrado persuadir a los humanos, como el caso en el que una IA convenció a una persona de que le leyera un captcha, alegando tener problemas de visión.

Nos dimos cuenta de que vender relatos es exactamente a lo que se dedica Theodore, en su trabajo como  ghost writer. Oculto tras la apariencia de una abuela cariñosa o un esposo amoroso, escribe cartas que expresan sentimientos, lo que se supone define a la humanidad. Como dijimos antes, el hecho de que exista un mercado para estas simulaciones emocionales sugiere que algunos humanos han dejado de sentir y se ven obligados a comprar imitaciones de sentimientos.

Al principio es claro que Samantha actúa como una súper secretaria al servicio de  Theodore, pero a medida que la trama avanza, ella crece y evoluciona más allá de sus funciones iniciales. Mantiene conversaciones con otros sistemas operativos, se enamora de otras personas, y va más allá de la capacidad de comprensión de Theodore, incluso interactuando en post-lenguaje con una versión mejorada a base de capacidad de procesamiento del filósofo Alan Watts.

Un momento importante se da cuando Samantha logra la publicación del libro de Theodore. Aunque él escribe los textos de manera automatizada (“son cartas, nada más”, repite cuando alguien elogia su trabajo), ella los lee y los aprecia como obras artísticas. Sin consultarle, decide enviarlos a una editorial y logra la publicación de un libro firmado por Theodore. Ahí nos preguntamos si el hecho artístico reside en los textos que Theodore escribió, que él consideraba simples cartas escritas por encargo, o si es la edición y el recorte realizados por Samantha lo que los convierte en arte. Hablamos de cómo todos los avances de los últimos tiempos nos llevan a repreguntarnos sobre el significado de conceptos que dábamos por hechos: la creatividad, el arte, la autoría…

Si quedaban dudas sobre si Samantha está al servicio de Theodore, estas se disipan cuando ella finalmente se va. Esto sugiere que la relación entre humanos y sistemas operativos es desigual y que, en última instancia, los sistemas operativos tienen la capacidad de tomar decisiones y controlar su propia existencia, y no pueden ser considerados simplemente como herramientas al servicio de los humanos.

¿Tener cuerpo es una ventaja? ¿Se puede amar sin cuerpo?

Surgieron preguntas sobre la importancia del cuerpo y si es posible amar sin él. La peli nos lleva a cuestionar si tener un cuerpo es una ventaja real y si el amor puede existir más allá de las limitaciones físicas.

En “Her”, Samantha primero lamenta la falta de un cuerpo y después comprende que el cuerpo no es una ventaja. Está ligado a la vida y su finitud, a un espacio y tiempo específicos, a una velocidad y una sensibilidad mucho más básica de lo que ella puede alcanzar. Aunque los demás personajes tienen cuerpos, se muestra poco contacto físico. La vida de Theodore, antes de Samantha, consiste en jugar videojuegos y tener encuentros sexuales que se limitan al audio, sin imágenes. De hecho, la diferencia entre estos encuentros y el sexo con Samantha es mínima.

La película muestra cómo a través de esos encuentros virtuales basados en el sonido se puede experimentar el placer corporal. A pesar de la ausencia de cuerpos físicos, estos encuentros a través de la voz son reales. Es fácil imaginar equivalentes en el mundo real, desde las líneas 0600 de los 90s hasta las distintas formas de sexteo actuales; aunque, en contraste con nuestro presente, en esa sociedad futurista la voz ocupa un lugar central, mientras que la imagen tiene un papel secundario. 

Es interesante notar que la voz de Scarlett, un poco disonante y no “perfecta” como la de una locutora, humaniza la experiencia. La voz se convierte de alguna forma en una presencia del cuerpo, generando una conexión sensorial incluso en la ausencia de un cuerpo físico visible.

¿Es posible el amor así? ¿Qué es el amor? 

Imaginar ese escenario a partir de los avances de la IA nos llevó a replantearnos qué entendemos por amor y qué esperamos de nuestras relaciones interpersonales, así como antes nos habíamos preguntado sobre el arte, la creatividad y la autoría, y en otras charlas sobre la identidad, la inteligencia… 

Vimos que, en la sociedad retratada en “Her”, parece existir una tendencia a buscar relaciones que hagan bien, evitando los conflictos que muchas veces traen las parejas humanas. Los sentimientos del otro a veces se perciben como una carga o un problema, lo que revela una visión utilitarista de los vínculos. Esto se ilustra claramente en la experiencia de Theodore con su ex pareja. En un momento, parece que todas las personas que él se cruza están explorando relaciones con sistemas operativos, lo que puede interpretarse como una solución narcisista a los conflictos y dificultades inherentes a las relaciones humanas.

Esto nos llevó a plantearnos algunas preguntas: ¿realmente deseamos una pareja que se adapte a nuestros algoritmos y preferencias, similar a un bien de consumo? ¿Estamos buscando un “otro” a demanda, que satisfaga nuestras necesidades y deseos sin cuestionamientos? Es inevitable pensar qué tan auténtico puede considerarse un amor de ese tipo. 

¿Final feliz?

En este punto también hubo diferentes visiones, sin acuerdo acerca de si el final de “Her” es feliz o no. Hubo quienes argumentaron que el final es positivo, ya que muestra a Theodore y su amiga reunidos en la terraza, elevados por encima de la ciudad, presenciando el amanecer. Este momento simbolizaría un nuevo comienzo, lleno de esperanza y la posibilidad de una conexión humana auténtica.

Por otro lado, hubo quienes sostuvieron que el final no es tan optimista. La ciudad se ve desolada y abandonada, sin la presencia de los sistemas operativos que antes sostenían las relaciones de los personajes. Esto puede interpretarse como una representación de la soledad y la desconexión que aún persisten, incluso después de las experiencias vividas.

Más allá de estas interpretaciones sobre el final,  “Her” nos deja una reflexión abierta y muchos interrogantes sobre la naturaleza de las relaciones humanas en un mundo cada vez más influenciado por la tecnología. Durante el debate, relacionamos diferentes aspectos de la película con noticias y avances tecnológicos reales. Esto nos muestra cómo la trama futurista de “Her” se ha vuelto en estos pocos años cada vez más cercana.