En una tienda en el centro de una ciudad sin nombre, se exhiben robots humanoides junto con artículos para el hogar y revistas. Observan el mundo en rápido movimiento fuera de la ventana, esperando ansiosamente la llegada de clientes que podrían comprarlos y llevarlos a casa. Entre ellos se encuentra Klara, un robot particularmente astuto que ama el sol y quiere aprender tanto como sea posible sobre los humanos y el mundo en el que viven.
Así comienza la nueva novela Klara y el sol de Kazuo Ishiguro, publicada a principios de este mes. El libro, contado desde la perspectiva de Klara, retrata una sociedad futura inquietante en la que las máquinas inteligentes y otras tecnologías avanzadas se han integrado en la vida diaria, pero no todo el mundo está contento con ello.
El desempleo tecnológico, el progreso de la inteligencia artificial , la desigualdad, la seguridad y la ética de la edición de genes, el aumento de la soledad y el aislamiento, todos los cuales estamos lidiando hoy, aparecen en el mundo de Ishiguro. Es como si presionara un botón de avance rápido, reflejándonos cómo se desarrollarían las cosas si no abordamos estas tecnologías con precaución y previsión.
Los ricos editan o “levantan” genéticamente a sus hijos para prepararlos para el éxito, mientras que los pobres tienen que arreglárselas con los viejos cerebros y cuerpos que les ha legado la evolución. Los niños levantados y no levantados generalmente no se mezclan, y esta es solo una de las muchas delimitaciones siniestras entre una nueva generación de ricos y pobres.
Hay indignación por la constante infiltración de los robots en la vida cotidiana y hay dudas sobre cuán similares deberían ser sus derechos a los de los humanos. “Primero toman los trabajos . ¿Luego toman los asientos en el teatro? una mujer echa humo.
Las referencias a "cambios" y "sustituciones" aluden a una economía en la que la automatización ha eliminado millones de puestos de trabajo. Mientras que las personas "post-empleadas" ocupan edificios abandonados y las comunidades marginales se arman para prepararse para el conflicto, aquellos cuyos medios de vida no han sido destruidos pueden permitirse tener amas de llaves y comprar amigos artificiales (o AF) para sus hijos solitarios.
“El viejo modelo tradicional con el que todavía vivimos ahora, donde la mayoría de nosotros puede obtener algún tipo de trabajo remunerado a cambio de nuestros servicios o los bienes que fabricamos, se ha derrumbado”, dijo Ishiguro en un podcast de la novela. “No estamos hablando solo de la diferencia entre ricos y pobres cada vez más grandes. Estamos hablando de la aparición de una brecha entre las personas que participan en la sociedad de forma obvia y las que no lo hacen ”.
Él tiene un punto; Por mucho que los tecno-optimistas afirmen que los cambios económicos provocados por la automatización y la IA nos darán a todos más tiempo libre, nos permitirán trabajar menos y dedicar tiempo a nuestros proyectos apasionantes, ¿cómo se desarrollaría eso realmente? ¿Qué harían realmente con su tiempo y energía millones de personas “post-empleadas” que reciben ingresos básicos?
En la novela, no podemos vislumbrar mucho este lado de la ecuación, pero sí vemos cómo viven los ricos. Después de una larga espera, justo cuando el gerente de la tienda parece estar dispuesto a dejar de venderla, Klara es elegida por una niña de 14 años llamada Josie, la hija de una mujer que usa "ropa de alto rango" y vive en un Vivienda amplia y soleada a las afueras de la ciudad. Alegre y amable, Josie sufre de una enfermedad no especificada que estalla periódicamente y la deja confinada a su cama durante días.
Su vida parece algo sombría, la necesidad de un AF clara. En este mundo futuro, los hijos de los ricos ya no van a la escuela juntos, sino que estudian solos en casa en sus dispositivos digitales. Las “reuniones de interacción” se establecen para que aprendan a socializar, sus padres escuchan cuidadosamente desde la habitación de al lado y tratan de no intervenir cuando hay un conflicto o sentimientos heridos.
Klara hace todo lo posible por ser amiga, ayudante y confidente de Josie mientras continúa aprendiendo sobre el mundo que la rodea y descifra los misterios del comportamiento humano. Suponemos que fue programada con una capacidad básica para comprender las emociones, que evoluciona junto con sus otros tipos de inteligencia. “Creo que tengo muchos sentimientos. Cuanto más observo, más sentimientos se vuelven disponibles para mí ”, explica a un personaje.
Ishiguro hace un excelente trabajo al representar la mente de Klara: una combinación de programación predeterminada, observación y aprendizaje continuo. Su narración tiene cualidades tanto robóticas como humanas; podemos decir cuándo se ha programado algo (ella "da privacidad" a los humanos que la rodean cuando eso es apropiado, por ejemplo) y cuándo ha descubierto algo por sí misma.
Pero el autor mantiene cierto misterio en torno a la vida emocional interior de Klara. "¿Ella realmente comprende las emociones humanas, o simplemente está observando las emociones humanas y simulándolas dentro de sí misma?" dijo . “Supongo que la pregunta vuelve a ser, ¿cuáles son nuestras emociones como seres humanos? ¿A qué ascienden? "
Klara está particularmente en sintonía con la soledad humana, ya que esencialmente fue creada para ayudar a prevenirla. En su opinión, es el mayor temor de la gente, y algo que harán todo lo posible por evitar, pero que nunca podrán escapar por completo. “Quizás todos los humanos se sientan solos”, dice.
Proteger la soledad a través de la tecnología no es una idea futurista, es algo que hemos estado haciendo durante mucho tiempo, con las tecnologías a la mano cada vez más sofisticadas. Ya existen productos como los AF. Está XiaoIce , un chatbot que usa "análisis de sentimientos" para mantener a sus 660 millones de usuarios comprometidos, y Azuma Hikari , una IA basada en personajes diseñada para "brindar comodidad" a los usuarios cuyas vidas carecen de conexión emocional con otros humanos.
La mera existencia de estas herramientas sería siniestra si no fuera por su adopción generalizada; Cuando millones de personas usan IA para llenar un vacío en sus vidas, surgen preguntas más profundas sobre nuestra capacidad para conectarnos entre nosotros y si la tecnología la está construyendo o derribando.
Esta no es la única gran pregunta que aborda la novela. Un tema general es uno que hemos estado contemplando cada vez más a medida que las computadoras comienzan a adquirir capacidades más complejas, como los inicios de la creatividad o la conciencia emocional : ¿Qué es lo que realmente nos hace humanos?
"¿Crees en el corazón humano?" pregunta un personaje. “No me refiero simplemente al órgano, obviamente. Hablo en sentido poético. El corazon humano. ¿Crees que existe tal cosa? ¿Algo que nos haga especiales e individuales a cada uno de nosotros? "
La alternativa, al menos en la historia, es que las personas no tienen una esencia única, sino que todos somos una mezcla de rasgos y personalidades que pueden reducirse a cadenas de código. Nuestra comprensión del cerebro es todavía elemental, pero en cierto nivel, ¿no se reduce toda la experiencia humana a la activación de miles de millones de neuronas entre nuestros oídos? ¿Algún día, en un futuro más allá del pintado por Ishiguro, pero ciertamente presagiado por él, seremos capaces de "decodificar" nuestra humanidad hasta el punto de que no quede nada misterioso en ella? "Un corazón humano está destinado a ser complejo", dice Klara. "Pero debe ser limitado".
Estés o no de acuerdo, vale la pena leer Klara y el sol. Es a la vez una historia maravillosa y atractiva sobre lo que significa amar y ser humano, y una advertencia profética para abordar el cambio tecnológico con precaución y matices. Ya vivimos en un mundo en el que la IA nos hace compañía, influye en nuestro comportamiento y está causando estragos en diversas formas. La novela de Ishiguro es una instantánea de uno de nuestros posibles futuros, contada a través de los ojos de un robot que te mantiene alentándola hasta el final.
Crédito de la imagen: Marion Wellmann de Pixabay