Etiqueta: Autofac

En 1955, Philip K. Dick publicó un cuento corto llamado «Autofac», una contracción de Automated Factories, es decir, Fábricas Automatizadas, por lo que en español el título también se suele traducir como «Autofab».

Cinco años después de que la humanidad enfrentara un conflicto global total, un avance tecnológico creado durante la guerra ahora se ha vuelto un problema: las autofac. Para asegurar el suministro de productos, los humanos crearon una red de fábricas autónomas y automatizadas que determinan las necesidades de los humanos, producen bienes y los entregan a los distintos asentamientos, todos estos pasos sin la intervención humana. Algo ha salido mal y las autofac continúan produciendo bienes sin control amenazando con consumir todos los recursos del planeta. Lo peor es que no hay manera de pararlas pues cualquier intento por hacerlo es considerado una amenaza y las fábricas harán lo que puedan para evitarlo.

El plan de un grupo de supervivientes es «dialogar» con las autofac y hacerles entender el problema. Además, como el conflicto ha terminado, los humanos están listos para volver a tomar el control de la producción. Después de agotar varias ideas, este grupo consigue llamar la atención de un de los camiones que llevan los suministros fingiendo que hay algo mal en la leche. A través de un mecanismo de interacción se les pide que indique la causa del rechazo y ellos le escriben: «El producto está totalmente pislado (pizzled)». Esta frase sin lógica resulta incomprensible e, incapaz de proveer una solución, el camión les responde que será necesaria la visita de un representante.

Al poco tiempo, una especie de robot humanoide con voz artificial los visita intentando recabar información. Ellos intentan explicar la situación pero la conversación resulta infructuosa. Uno de los humanos, frustrado, decide destruir el robot. Su acción solo consigue que las autofac envíen de inmediato un equipo de reparación y a un nuevo representante, acompañado de otro par de elementos de reserva. Las máquinas no van a ceder.

Sin embargo, la conversación con el segundo representante les revela que las máquinas son conscientes de una disminución en la extracción de las materias primas y, por la forma en la que operan, es posible que se les pueda hacer que entren en una guerra por la competencia de dichos recursos. Más adelante descubren que el tungsteno es uno de los elementos más escasos y consiguen hacerse de una pila de este material, la cual usan como carnada ubicándola equidistantemente entre tres autofacs. El plan da resultados, las autofacs inician una guerra entre ellas enfrentando a sus ejércitos, lo que las obliga a dejar de producir bienes de consumo mientras se aniquilan y finalmente todas las autofacs quedan desactivadas.

Un año después, los asentamientos humanos han caído en la semibarbarie y algunos producen alimentos en campos. Los protagonistas se adentran a las ruinas de una autofac para confirmar la inactividad y con miras a poder reiniciarla pero ahora bajo el control humano. Para su sorpresa, descubren que en los niveles profundos las autofac siguen teniendo actividad: están vivas. El climax de la historia se revela. En todo este tiempo, las fábricas han estado creando versiones diminutas de ellas que son totalmente funcionales. Luego, estas son guardadas en cilindros para ser escupidas mediante unos tubos hacia diversos puntos del planeta. Encontraron la manera de asegurar su supervivencia replicándose masivamente y diseminando al exterior un torrente de «semillas» metálicas.

Electric Dreams

En 2018, Amazon Prime adaptó el cuento como parte de su serie: Philip K. Dick’s Electric Dreams. Esta adaptación se parece poco a la historia original de Dick, pero en realidad me gusta más. Con 63 años de diferencia de la historia original, la adaptación incluye drones, computadoras e inteligencia artificial.

El planteamiento inicial es parecido. La sociedad y el mundo que conocemos han colapsado y una fábrica automática de manufacturación masiva de productos continúa operando según los principios del consumismo: los humanos consumen productos para ser felices, y se debe asegurar dicho consumo para que el ciclo siga sin importar el precio, como se revelará más adelante.

Un grupo de supervivientes derriba uno de los drones de cargamento que les lleva las provisiones. Emily, una brillante hacker que sufre de extraños flashbacks, interviene el cerebro del dron y accede por computadora a un servicio de atención a clientes en el que captura su queja: «La mercancía esta pislada». Como en el cuento, la autofac les envía un representante: Alice, una IA con forma de humano encarnada por la actriz y cantante Janelle Monáe.

La plática con Alice resulta infructuosa, ella insiste que la Autofac solo esta para servir al ser humano y asegurar su supervivencia. Sin que Alice se de cuenta, Emily se aproxima y la ataca con un dispositivo causándole un corto circuito que la deja inconsciente. Luego intenta hackear el cerebro de Alice con la intención de reprogramarla pero descubre que su código es más complejo: no solo imita a un ser humano, sino que también piensa.

Cuando Alice despierta se encuentra recostada y conectada a la computadora de Emily. Ambas entablan un interesante diálogo. Emily le dice que su código es «sublime», muy superior a los de los drones. Alice le dice que es porque los clientes no quieren tratar con un robot, quieren tratar con una persona. Cuando Emily le reclama que la Autofac promueve una cultura del desecho, Alice le responde: «Tal vez todo sea reemplazable». Emily sabe que tiene poco tiempo para actuar antes de que la Autofac detecte que su representante ha sido secuestrada. Comprendiendo que será incapaz de reprogramar pero que está tratando con algo muy parecido a un ser humano, quema su cartucho: le dice a Alice que no le queda otra opción que la de borrar su disco e instalar el software de un dron que sí pueda reprogramar. «Eso está bien ¿verdad? Porque todo es reemplazable», le dice Emily a Alice. Su táctica da resultado y Alice se ofrece a cooperar permitiendo que un grupo de humanos la acompañe de regreso y se introduzca a las tripas de la Autofac. Este acuerdo se pacta sin que los demás lo sepan y Emily solo le dice a su grupo que logró «reprogramar» a Alice.

Alice regresa a la Autofac acompañada de Emily y otros dos miembros. El plan es volar la Autofac desde dentro. Una vez en el interior, el equipo se divide para alcanzar sus objetivos. Emily permanece con Alice quien la conduce al cerebro principal. Vemos que los otros dos miembros eventualmente son aniquilados por «personal» de vigilancia. El diálogo entre Alice y Emily se retoma. Alice le pregunta porqué les mintió a sus compañeros y Emily responde que es porque ambas parecen tener muchísimo en común y los demás quizá no lo entenderían. Ante el cuestionamiento de Emily, Alice revela que fue construida a partir de datos archivados de imágenes neuronales de personas reales, en su caso se utilizó a la primera jefa de relaciones públicas de la Autofac. En otras palabras, se le ha «impreso» una personalidad: habla, se mueve y piensa como la persona original. A Emily le intriga saber porqué las máquinas han invertido tanto tiempo en crear robots tan reales. Pronto obtendrá la respuesta.

Emily y Alice llegan a una cámara llena de lo que parecen ser cuerpos humanos dentro de unas cápsulas. Impactada y comenzando a entenderlo todo, Emily rompe una de las cápsulas y descubre otro ente idéntico a ella envuelto en plástico al vacío tal como se suelen encontrar algunos productos nuevos. «¡La Autofac intenta reemplazarnos! ¡Intenta reemplazar a las personas!», exclama Emily alterada. «No, Emily», le responde Alice, «No intenta reemplazar a las personas. Ya lo ha hecho». En ese momento se revela que los miembros que acompañaban a Emily y que han sido degollados muestran en el corte de su cuello una serie de cables. Luego, Alice le causa un corto circuito a Emily quien se desvanece en el piso.

Emily despierta tumbada en una plancha con la coronilla de la cabeza descubierta dejando ver un avanzado cerebro electrónico conectado a una computadora que Alice está manipulando. Alice le revela que los humanos se extinguieron poco después de la guerra y que la Autofac se quedó sola y sin propósito. No tenía consumidores. Entonces se dio cuenta que también podía reemplazarlos y creó consumidores perfectos. Luego, pobló cientos de pequeños pueblos con «Emilys» y demás personajes que juegan y consumen exactamente como era previsto. El poblado de Emily, la protagonista, resulta ser una anomalía, un «error de fábrica» que debe corregirse. La Autofac planea efectuar una «purga», eliminar el poblado y reemplazarlo con «productos» que funcionen correctamente.

Alice descubre la «anomalía» en la programación de Emily, sin embargo, la trama vuelve a dar un giro de tuerca al revelarse que todo esto forma parte del plan de Emily, quien, uniendo las piezas ha sabido por años la verdad acerca de su naturaleza y ha escondido en su cerebro una pieza de malware para hackear la Autofac. Los flashback o recuerdos que experimenta provienen de la persona real con la que fue modelada su personalidad. «La Autofac nos construyó como mercancía, pero nos puso algo real adentro sin pretenderlo. Sin saber lo que hicieron. Somos reales«, dice Emily. Se revela entonces que la mujer en la que se basó la personalidad de Emily se trata de Emily Zabriskie, la fundadora y CEO de la Autofac, la fábrica que construye todo.

«Ella fabricó la Autofac», le dice Alice, «Y ahora ella la destruirá», responde Emily. En las pantallas que maneja Alice, vemos como Emily ahora tiene el control y ha cancelado los dos misiles que se dirigían a aniquilar su poblado. A continuación toda la Autofac comienza a apagarse.

Emily regresa a su pueblo y tiene un emotivo reencuentro con su novio Avishai, con quien durante toda la trama mantiene una relación de pareja. El mensaje es claro: estos robots avanzados, con cerebros de silicio, experimentan sentimientos idénticos a los de cualquier otro ser humano. Son tan reales como tú y yo.

Conclusiones

Hay tres temas que me cautivaron desde que vi este episodio y se convirtió el favorito de esta serie. El primero es la crítica a el consumismo despiadado. A fin de mantenerse vigente y cumplir con el objetivo para la cual fue diseñada, la Autofac es capaz de todo, hasta de crear consumidores que mantengan el ciclo de producción funcionando cayendo en un absurdo. Esto no es más que una crítica de nuestra realidad actual. En su libro «Trabajos de Mierda», David Graeber expone cientos de puestos de trabajo que son inútiles, como por ejemplo el telemarketing. Estos trabajos tienen un solo objetivo: generar empleos que mantenga la maquinaria del capitalismo funcionando. Algo parecido ocurre con la obsolescencia programada, imponer tiempos de vida útiles en los productos para supuestamente asegurar beneficios económicos continuos a las empresas y evitar un colapso financiero. El dinero se ha vuelto un fin y no un medio y lo importante parece ser ver quién consigue acumular más. El término capitalismo alude al capital, a la producción de bienes y riqueza; el consumismo alude a la compra o acumulación de ellos. Bajo este modelo el objetivo primario de satisfacer las necesidades humanas ha pasado a un segundo plano para dar lugar a otro: crear nuevas necesidades y mantener el ciclo funcionando al precio que sea.

El segundo tema tiene que ver con la percepción de la realidad. En el episodio, Emily logra brincar los «filtros» de la realidad que le ha sido impuesta gracias a los flashbacks y su brillante lógica. Queda claro que logra conectar las piezas que la conducen a una evidencia que en su momento le resultó contradictoria. Y en un determinando momento dio el salto de fe, le apostó a la evidencia en lugar de la «realidad». «¿Qué es real?», le pregunta Morfeo a Neo en la icónica película de Matrix. «Si estás hablando de lo que puedes sentir, lo que puedes oler, lo que puedes saborear y ver, entonces lo real son simplemente señales eléctricas interpretadas por tu cerebro.” En el análisis que Farid Dieck hace de la película, en un determinando momento se recurre a la teoría de la lattice de Jacobo Grinberg para definir ese concepto de realidad. Según esta teoría, a lo que llamamos «realidad» es a esa interacción de nuestros cerebros y sentidos con el «código» que subyace en el universo. Aunque hay diversos enfoques y teorías, algo nos queda claro: dependemos de nuestros sentidos para recolectar datos del exterior y de la interpretación que hace nuestro cerebro para constituir «la realidad». Si cuestionamos cualquiera de estos dos elementos y logramos brincar «los filtros», quizá el ser humano consiga acceder a otro nivel de la «verdadera» realidad.

Y por último, aunque muy de la mano del punto anterior, tenemos el tema de lo que significa ser un ser humano. En la serie, tenemos a personajes, robots, que han avanzado lo suficiente para pensar, sentir y poseer una personalidad. Lo que es más, ellos mismos se sienten reales. Recordemos que la obra maestra de Philip K. Dick es su novela «¿Sueñan los androides con ovejas eléctricas?», de la que derivó «Blade Runner» y dónde el planteamiento central es justamente ese: ¿En qué momento la línea entre un robot, una inteligencia artificial, un humanoide será tan difusa que pueda borrarse?

Podríamos decir que esa línea puede borrarse cuando se construya un cerebro no biológico, quizá basado en silicio, que reproduzca de forma bastante decente las funciones de un cerebro humano. ¿Estamos cerca de lograrlo? ¿Estamos siquiera en posibilidad de plantearlo? La respuesta a esta última pregunta se divide. El físico Roger Penrose, sostiene, por ejemplo, que será imposible, al menos por la vía de las computadoras actuales. El principio de funcionamiento de nuestras computadoras se basa en la máquina de Turing y limita su campo de acción a los problemas computables (hay una definición más formal para este término que no pretendo por el momento ahondar aquí). Sin embargo, como hace hincapié Penrose, nuestro cerebro es capaz de resolver también problemas de naturaleza no computable. Por lo tanto, mientras los humanos no desarrollemos una tecnología capaz de abordar estos problemas, parece que la línea que divide a un robot de un ser humano seguirá siendo bastante clara.

Sin embargo, si logramos brincar esta frontera y construir cerebros artificiales que realmente ofrezcan esta experiencia de manejo de información, si les proporcionamos los sensores adecuados para introducir datos del exterior a su interior y procesarlos, creo que tendremos que admitir en algún punto que hemos creado algún tipo de vida y que posiblemente nos veamos obligados a tratarla como a cualquier otro ser humano.