Por qué la autora de la novela de IA 'We Lived on the Horizon' dice que desconectes Siri y Alexa

La preocupación por nuestra dependencia de la inteligencia artificial se ha incrementado, ya sea por maestros que leen ensayos escritos por ChatGPT o por sindicatos de Hollywood que han entrado en huelga debido a inquietudes sobre la IA. Con la proliferación de dispositivos inteligentes en los hogares, como luces, termostatos, frigoríficos y lavadoras, no es difícil prever un futuro en el que la IA generativa empiece a adaptar esos dispositivos a nuestras necesidades individuales.

Un posible escenario es una sociedad completamente dependiente de un sistema de IA en red, lo que podría perpetuar problemas muy humanos. Este es uno de los futuros que Erika Swyler, autora de ficción especulativa de “Light from Other Stars” y “The Book of Speculation”, examina en su último libro, “We Lived on the Horizon”, publicado por Atria Books.

La ciudad de Bulwark, un oasis en un páramo distópico, es gobernada por un sistema de IA llamado Parallax. Bulwark fue fundada sobre el sacrificio de un pequeño grupo de personas que esculpieron las entrañas de la ciudad de la nada, a menudo perdiendo sus vidas en el proceso. Años más tarde, sus descendientes han alcanzado una clase alta conocida como los “Sainted”. El sacrificio se ha convertido en la moneda sobre la cual opera Bulwark, y los Sainted son ricos gracias a las horas de trabajo de sus antepasados.

Una de estas élites, la Santa Enita Malovis, ha pasado una larga carrera desarrollando bioprótesis, a veces para aquellos que no cuentan con las horas de trabajo necesarias para recibir tratamiento hospitalario. También está trabajando en crear un cuerpo físico para Nix, su IA doméstica que posee todo su conocimiento médico. Enita no está tan aislada del resto de Bulwark como otros de su clase, pero es un shock cuando un Saint es asesinado y la información sobre su muerte se borra de Parallax.

Luego, un nuevo paciente entra en la sala de operaciones de Enita: una cantante llamada Neren que perdió su pierna en un colapso edilicio. Pero al tratar a Neren, Enita y Nix descubren evidencias de fisuras en Parallax y una rebelión gestándose en Bulwark.

En “We Lived on the Horizon”, Swyler investiga un posible futuro para los humanos y la IA, incluyendo las complejidades de clase, altruismo y autonomía corporal. Esta entrevista ha sido editada para mayor claridad y brevedad.

¿Qué inspiró la idea de esta historia?

Me toma tiempo pensar en un libro antes de empezar a escribir. La idea inicial para este libro vino de una historia que escuché en NPR, probablemente en 2014, sobre altruistas extremos. Personas que donan riñones a extraños, no por solicitud o a través de donaciones en cadena, sino simplemente porque quieren ayudar. Así que empecé a reflexionar sobre el altruismo y las sociedades, y cómo dependemos de los altruistas para mantenerlas funcionando. A partir de ahí, quería pensar en esa relación con el futuro y la tecnología, y cómo los gobiernos tienden a explotar a los altruistas. Este libro surgió de todo eso.

¿Qué tipo de investigación realizaste, especialmente sobre la IA?

En la ficción especulativa, siempre hay que mirar lo que está presente en el momento y extrapolar hacia dónde podría ir. La tecnología en Bulwark proviene de lo que vivimos ahora, como Siri y Alexa y las casas inteligentes. Estamos muy cerca de un hogar omnisciente, así que expandí esto. En cuanto a textos, no pude evitar a Ursula Le Guin y Octavia Butler. Para el sentido de comunidad, tomé inspiración de “The Dispossessed” y “The Left Hand of Darkness” de Le Guin. Para escribir sobre la revolución, realmente fue Octavia Butler y su poderosa “Parable of the Sower”. Recientemente, leí el libro “Autonomous” de Annalee Newitz, que me ayudó a observar las interacciones humanas con la tecnología, y lo encontré fascinante. También leí un artículo profundo sobre la interacción de personas con robots varios años atrás. Pensé: “Sí, esto es lo que quiero ver”.

¿Cómo aborda el libro el tema de los cuerpos?

Siempre me ha interesado la idea de que un robot o una IA puedan ser puestos en un cuerpo sin desconexión. En cambio, los humanos sabemos que tener un cuerpo puede ser, en muchos sentidos, una experiencia traumática. Cada cosa negativa que experimentas, ya sea emocional o física, la sientes en el cuerpo, lo cual puede ser un gran choque. Nunca vi eso representado de manera precisa en el cine o la literatura de ciencia ficción, así que quise enfatizarlo. También quería pensar en cómo diferentes identidades pueden coexistir en un solo cuerpo, similar a cómo la sociedad estadounidense está formada por diversas identidades que intentan unirse.

¿Nix, la IA, fue inspirada por alguien o algo?

Al escribir a Nix, quería hacerlo en contraste con la ciencia ficción que disfruté durante mi infancia, como la obra de Asimov y Bradbury. A menudo, ahora son difíciles de leer si no eres un hombre cis blanco. Me inspiraban, pero no encontraba un espacio donde encajara. Quería cambiar la narrativa de la IA loca, porque muchas veces el lenguaje de la salud mental se aplica a cosas que simplemente están obedeciendo órdenes humanas. Me intrigaba pensar en cómo podría comportarse la tecnología si fuera creada con una perspectiva altruista.

¿Cuál fue tu personaje favorito para escribir?

Me encanta escribir personajes secundarios. Uno de ellos que no aparece mucho (pues sería demasiado divertido) es Kitchen Node, que es parte del sistema de Nix y maneja la cocina de Enita. En mi mente, Kitchen Node es un poco arrogante: solo piensa en recetas viejas e irrelevantes y dice que las personas están equivocadas. También disfruté mucho escribir a Tomas, el amigo de Neren. Es un joven idealista que está a punto de colapsar. Me divertí habitando su personaje porque está muy alejado de donde me encuentro actualmente en la vida.

La IA como reflejo de la humanidad fue un tema importante en 'Horizon'. ¿Puedes hablar de eso?

Estaba pensando en lo que la IA ya hace actualmente. Todos los datos que usa provienen de la comprensión y malentendidos humanos. La IA opera únicamente con lo que ha sido programada. Cuando usas ChatGPT, ya está funcionando con prejuicios raciales, de género y económicos. Al escalar, estos problemas se magnificarán. Esto es algo que enfrentamos actualmente y parece que estamos aceptándolo sin cuestionar. Así que eso fue una de las cosas que quise explorar. Cada tecnología está basada en las ideas de quienes la crearon en un determinado momento. Dada nuestra situación actual, esa dependencia solo exacerbará la división. Quería reflexionar sobre lo que podría suceder si tuviéramos un programa que se ejecutara, buscando lo que es mejor para la mayoría de las personas, y cómo podría luchar con eso.

El sacrificio y el trabajo están entrelazados en la historia. ¿Qué pensaste sobre ese tema?

Hay esta idea de que si eres rico, es porque tu familia hizo ciertas cosas y por eso merecen esa riqueza. Y si otras personas no son tan ricas, es porque no han intentado lo suficiente o no han dado lo suficiente. Quería desmontar la noción de que la riqueza extrema es un objetivo a aspirar, porque en esencia, eso no lleva a una verdadera felicidad. Lo que realmente satisface a estos personajes resulta ser el trabajo. En la actualidad, es difícil escapar de la cultura que sostiene que el dinero y el capitalismo son los culpables de todos los problemas. Entonces, quería explorar cómo intentar escapar de eso podría también desmoronarse. Es importante entender cómo valoramos el trabajo en lugar de la moneda, porque eso también puede ser explotable.

¿Qué esperas que los lectores se lleven después de leer este libro?

Quiero que los lectores se sientan esperanzados sobre el control que pueden tener sobre la tecnología en sus vidas. Realmente quiero que piensen en cómo sería una tecnología más centrada en las personas y cómo podrían involucrarse con eso. Egoístamente, me gustaría que las personas desconecten sus Siri y Alexa y todos los dispositivos inteligentes. Nadie necesita esa información de ustedes. Nadie, ni siquiera ustedes.

IA, Ficción, Tecnología