doomscrolling/doomsurfing: término acuñado alrededor del 2018 para describir el hábito de desplazarse sin parar en el celular o la computadora para consumir noticias o contenido negativo, inquietante o pesimista, aunque te genere ansiedad o tristeza.
Si las redes sociales nos entrenaron para consumir pasivamente, el lado oscuro de la IA nos entrena para «conversar» y «crear» pasivamente.
-working theorys, Anu
Hace unos meses, en el metro de la CDMX, me llamó la atención un joven que, como todos los demás, miraba fíjamente la pantalla de su celular. Sin embargo, mientras que los otros eran en su mayoría consumidores pasivos de contenido basura, este joven tecleaba preguntas en ChatGPT y se entretenía leyendo las respuestas. Aunque sutil, aquella diferencia representaba para mi un avance positivo en el uso de los celulares. Pero, ¿de verdad lo era?
He leído un brillante artículo en el substack de Anu: Doomprompting Is the New Doomscrolling. Representa muy bien el sentimiento que en aquella ocasión yo no pude describir. Pueden leer la versión completa en inglés pero yo aquí solo hago un breve extracto.
Anu sostiene que esta nueva dirección puede resultar más nociva que el actual doomscrolling y por eso acuña el término de doomprompting. Los prompt, en el contexto de la IA, son la instrucción, pregunta o texto inicial que el usuario proporciona a una IA para obtener una respuesta o un resultado.
El doomprompting es el lado oscuro de la IA donde nos convertimos, de forma sutil, en conversadores y creadores pasivos. La participación o la interacción generan una ilusión más convincente y adictiva en este nuevo comportamiento humano. La dopamina de los «me gusta» y el número de seguidores es sustituida por la productividad percibida, la colaboración intelectual. Aún no conseguimos proteger nuestra mente de las redes sociales y ahora el reto se ha convertido en algo más profundo, proteger la capacidad de pensar y sentir por nosotros mismos.
Los LLM (Grandes Modelos de Lenguaje) son adictivas máquinas tragamonedas. Solemos iniciar con preguntas reflexivas pero pronto pasamos a las respuestas seductoras, nos rendimos a dejar de pensar profundamente y terminamos negociando con poca atención con una máquina que nunca se queda sin sugerencias. La palanca de esta máquina es la sencilla pregunta: ¿Continuar? Ya no nos enfrentamos al reto de la página en blanco, sino al de la página sin fondo. Y en esa promesa de ahorrarte tiempo, la máquina procede a robártelo todo mientras tú te distraes felizmente.
La IA no puede hacer lo principal por ti.
Pídele a la IA que haga lo principal por ti y te dará algo que, a primera vista, impresiona. Pero, a segunda vista, está lleno de clichés e ideas prestadas. A la IA le falta lo más importante: una identidad cohesionada y un interés real en el resultado.
La sugerencia de Anu es clara: usa la IA para antes y después del desarrollo principal. Moldea tú la idea y deja que la IA la refine. Escribe la tesis central y deja que la IA la pruebe. Luego, añade tú el toque final.
El ser humano ha inventado herramientas para facilitar y potencializar su trabajo. Los rascacielos serían imposibles sin las máquinas que permiten manipular pesos que la fuerza humana no puede levantar.
Con las IAs desafiamos el trabajo creativo. ¿Estamos dispuestos a renunciar a las habilidades que nos lo permiten? Pensemos en el acto de escribir, que es un ejercicio de pensamiento. Paul Graham advierte sobre dirigirnos a un mundo dividido entre escritores y no escritores. Esto es más peligroso de lo que parece, porque en el fondo se refiere a un mundo dividido entre quienes piensan y quienes no piensan. Y creo que todos sabemos de qué lado queremos estar.
Una desventaja de usar demasiado los LLM al escribir y mejorar textos es que inconscientemente imitamos estilos, elección de palabras y patrones de pensamiento que alimentan y predominan en estos modelos. En otras palabras, al dejar que los LLM participen plenamente en estos procesos, estamos renunciado a una parte de nuestra originalidad.
Necesitamos aliados cognitivos
No se trata de ser anti-IA. No se trata de automatizar todo. Debemos optar por la colaboración, descubrir nuevas formas de pensar y de crear con la IA como herramienta. Si los humanos moldeamos la tecnología y con ella nuestro futuro, debemos tener claro el objetivo, la intención. Y esta debe ser: usar la IA para amplificar y potencializar la creatividad humana en lugar de sustituirla.
Anu propone cinco ideales:
Una IA que te haga trabajar. Entendamos «hacerte trabajar» como ayudarte a recorrer el proceso y aprender algo valioso. Cuando algo te cuesta pero lo consigues por tus propios medios obtienes gratificación, satisfacción. Las IAs deben brindarnos eso.
Buscar y crear herramientas con «fricción». Por fricción nos referimos a características que maximicen las pausas reflexivas, el profundizar. Los buenos maestros no se limitan a dar respuestas, guían a los estudiante para que las encuentre por ellos mismos.
Deliberación por encima de la eficiencia. La velocidad no siempre es sinónimo de progreso. El pensamiento y la creatividad son producto del tiempo para la reflexión y el ocio.
Evitemos sistemas «aduladores». En abril de 2025 OpenAI emitió un comunicado abordando un problema con la adulación en su modelo GPT‑4o que lo inclinaba a «respuestas demasiado favorables, pero poco sinceras». Tras 21 días de conversación con ChatGPT, un hombre cuerdo estaba convencido de ser un superhéroe en la vida real. La validación pura es aburrida… y peligrosa.
Encuentra socios cognitivos humanos. La mejor defensa contra la dependencia cognitiva quizá sea la más antigua: consigue compañeros de debate intelectual en la vida real. Rodéate de gente que piense de forma independiente, en quienes confíes, cuyas opiniones respetes, que te desafíen y te impulsen hacia adelante. Sería genial que la tecnología un día consiga de verdad brindarnos eso.
¿Es productivo y saludable tu uso de la IA?
El uso productivo de la IA preserva tu capacidad cognitiva y aprovecha sus fortalezas. Conservas la capacidad de realizar el trabajo principal tú mismo y eres capaz de explicar por qué tomaste decisiones específicas. El resultado final refleja tu pensamiento genuino.
El uso saludable de la IA mantiene tu tolerancia a la incertidumbre, tu disposición para afrontar problemas y tu capacidad de generar ideas originales. No dependes en todo momento de la IA para la validación o la dirección.
La lucha no es entre humanos y máquinas, sino entre dos modelos de interacción entre humanos y máquinas. Uno trata la cognición como un mercancía que debe optimizarse para el consumo. El otro preserva lo que hizo especial esa misteriosa caja: la incesante búsqueda de la curiosidad humana por encontrar sus límites y salir adelante.
El término «hiperempujón» o «hypernudging» se refiere a una técnica que utiliza tecnologías digitales para influir en las decisiones de las personas de manera sutil y, a menudo, manipuladora. El término «nudging» o «empujón» se acuñó en 2008 por el economista conductual Richard Thaler y el jurista Cass Sunstein, quienes publicador el libro «Nudge» donde describían cómo se usan ciertos entornos para alentar a las personas a tomar ciertas decisiones.
Las redes sociales y los algoritmos que han detrás son ejemplos del hiperempujón. Buscan mantener a la gente enganchada a la plataforma por lo general valiéndose de proporcionarle al consumidor material controvertido o emocionalmente excitante. Hemos visto cómo se han usado para influir en nuestras opiniones políticas o incluso para hacernos creer que cierto producto tiene gran demanda.
Lo cierto es que también puede dársele un uso bueno. Por ejemplo, podría usarse para alentar a las personas a tomar decisiones saludables como alimentarse mejor o ejercitarse regularmente.
La situación actual de la inteligencia artificial plantea también nuevos escenarios donde esta técnica podrá usarse para bien o para mal. ¿Es ética esta técnica?
Una de sus características es justamente su invisibilidad. Resulta tan sutil que las personas pocas veces son conscientes de estar siendo influenciadas. Aquí es donde algunos expertos hablan de coerción y engaño y de la falta de un consentimiento informado.
En su libro «Sangre y Suerte», Mateus Bolsón afirma:
Debemos de cuidar, no enamorarnos de nuestras cadenas, pero para ello primero hay que reconocer que las tenemos.
Independientemente de cuánto y cómo se legisle al respecto, nuestra mayor protección es estar informados de ésta tecnica y aprender a identificar ciertos patrones que la revelan. Cultivar un espíritu crítico respecto a la información que vemos en línea. Ser conscientes de nuestros sesgos cognitivos y vulnerabilidades emocionales. Estar dispuestos a exponernos a ideas opuestas a nuestras creencias y analizarlas desde la razón, la imparcialidad y la objetividad. ¿Por qué nos molestan? ¿Bajo qué argumentos considero que no son ciertas o válidas? ¿Podría estar equivocado?
Por último, y no menos importante, aprender a darnos nuestros descansos de las redes sociales y otros entornos en línea. No desconectarse por completo del mundo real y socializar en persona.
Considero que este tipo de habilidades se volverán indispensables para las nuevas generaciones.
The Congress (El Congreso o Vidas Paralelas) es una película poco comercial que se estrenó en 2013 y pasó desapercibida, hasta ahora que parece estar cerca de la realidad. En cierta manera anticipó la huelga de actores de Estados Unidos de 2023 y el impacto con el que están golpeando actualmente las IAs.
El director, Ari Folman, es un israelí que vivió la masacre de refugiados palestinos en Sabra y Chatila en 1982. La película es una adaptación de una novela de ciencia ficción polaca de 1971 de Stanisław Lem: El Congreso Futurológico. Por cierto, Lem es escritor de otra gran novela de ciencia ficción: Solaris.
En esta adaptación, vemos a la actriz Robin Wright (Claire Underwood de House of Cards) interpretándose a sí misma. Ante la necesidad de dinero para poder brindar atención a su hijo que padece el sindrome de Usher, condición que eventualmente lo dejará sordo y ciego, Robin firma un jugoso contrato con Miramount (un juego de palabras que alude a Miramax y Paramount Pictures) para ceder su imagen y ser digitalizada. De esta manera el estudio podrá explotar su cuerpo digitalmente y generar películas protagonizadas por su versión virtual. Como parte del acuerdo, Robin no podrá volver a actuar, pero a cambio el personaje digital se mantendrá siempre joven.
Pasan veinte años y Robin es invitada al Congreso de futurología. Su personalidad virtual se ha convertido en la estrella de una popular franquicia cinematográfica llamada Rebel Robot Robin. El sitio donde tendrá lugar el congreso es un mundo en parte virtual donde las personas asisten convertidas en avatares pero para acceder a la ilusión deben hacer uso de ciertas drogas alucinógenas. En el lugar, el director ejecutivo de Miramount le explica a Robin cómo el avance de la tecnología y la necesidad de satisfacer a las masas le exige agregar una nueva cláusula a su contrato. Esta concede el permiso para que su personalidad virtual pueda ser utilizada por cualquier persona e incluso, si alguien lo desea, transformarse en ella.
Aunque al principio Robin muestra estar de acuerdo, al final se arrepiente y en su participación en el congreso cambia su discurso para decir que expresar su inconformidad respecto a que a las personas se les utilice como productos. Esto enfurece al director quien solicita retirarla, pero en ese momento un grupo de rebeldes que tampoco está de acuerdo con el avance tecnológico irrumpen en la sala desatando el caos.
Por ahora me ahorraré el final pero, no cabe duda de que si en algún momento en 1971 o 2013, se pensó esto como una exageración, hoy ese futuro nos ha alcanzado. Uno de los temas más presentes durante la huelga de actores de 2023 ha sido su preocupación por la IA. Su temor no solo se limita a la replicación de su imagen, sino también al papel que están comenzando a jugar en tareas como la escritura de guiones, la animación, el doblaje, y un largo etcétera.
Por eso, toparme con The Congress me resultó un tanto sorprendente. No puedo tampoco evitar recordar Joan is Awful de la serie Black Mirror donde pasaba algo parecido y donde Netflix se pintaba así misma como la empresa Streamberry y se burlaba de nosotros al aceptar los Términos y Condiciones sin leer las letras chiquitas. Claro, la temporada salió en junio de 2023, cuando las complicaciones que traerían estos temas resultaban ser demasiado evidentes.
El avance parece inevitable y si bien los usos de la IA comienzan a preocuparnos, también nos abren múltiples posibilidades. De manera mucho más fácil podemos tener películas viejas, incluso en blanco y negro, transformadas en alta definición, nuevos formatos y a todo color. Incluso, aunque existan implicaciones legales, podemos ya sustituir personajes. Por otro lado, las IAs facilitarán el doblaje y podremos escuchar las voces de los actores, quizá incluso sus gesticulaciones, en nuestro idioma. Actualmente ya comienza a usarse esta tecnología para grabar audiolibros y los resultados son muy decentes, además de que continuarán perfeccionándose. Tengo la esperanza de que también la facilidad de crear animaciones obligue a la industria cinematográfica a escribir historias de mayor calidad. En el futuro quizá habrá tantas producciones animadas y con efectos, que lo que podrá marcar la diferencia sería las que tengan una mejor trama. Al abaratamiento de la animación también podría facilitar el acceso a personas comunes y corrientes con grandes ideas que anteriormente no contaban con los medios para hacerse oír y ver.
Sin duda estamos entrando en terrenos desconocidos y preocupantes; aunque a mi gusto, también interesantes. La habilidad primordial para afrontarlos, me temo que no es otra más que la velocidad para adaptarse al cambio.
En 1955, Philip K. Dick publicó un cuento corto llamado «Autofac», una contracción de Automated Factories, es decir, Fábricas Automatizadas, por lo que en español el título también se suele traducir como «Autofab».
Cinco años después de que la humanidad enfrentara un conflicto global total, un avance tecnológico creado durante la guerra ahora se ha vuelto un problema: las autofac. Para asegurar el suministro de productos, los humanos crearon una red de fábricas autónomas y automatizadas que determinan las necesidades de los humanos, producen bienes y los entregan a los distintos asentamientos, todos estos pasos sin la intervención humana. Algo ha salido mal y las autofac continúan produciendo bienes sin control amenazando con consumir todos los recursos del planeta. Lo peor es que no hay manera de pararlas pues cualquier intento por hacerlo es considerado una amenaza y las fábricas harán lo que puedan para evitarlo.
El plan de un grupo de supervivientes es «dialogar» con las autofac y hacerles entender el problema. Además, como el conflicto ha terminado, los humanos están listos para volver a tomar el control de la producción. Después de agotar varias ideas, este grupo consigue llamar la atención de un de los camiones que llevan los suministros fingiendo que hay algo mal en la leche. A través de un mecanismo de interacción se les pide que indique la causa del rechazo y ellos le escriben: «El producto está totalmente pislado (pizzled)». Esta frase sin lógica resulta incomprensible e, incapaz de proveer una solución, el camión les responde que será necesaria la visita de un representante.
Al poco tiempo, una especie de robot humanoide con voz artificial los visita intentando recabar información. Ellos intentan explicar la situación pero la conversación resulta infructuosa. Uno de los humanos, frustrado, decide destruir el robot. Su acción solo consigue que las autofac envíen de inmediato un equipo de reparación y a un nuevo representante, acompañado de otro par de elementos de reserva. Las máquinas no van a ceder.
Sin embargo, la conversación con el segundo representante les revela que las máquinas son conscientes de una disminución en la extracción de las materias primas y, por la forma en la que operan, es posible que se les pueda hacer que entren en una guerra por la competencia de dichos recursos. Más adelante descubren que el tungsteno es uno de los elementos más escasos y consiguen hacerse de una pila de este material, la cual usan como carnada ubicándola equidistantemente entre tres autofacs. El plan da resultados, las autofacs inician una guerra entre ellas enfrentando a sus ejércitos, lo que las obliga a dejar de producir bienes de consumo mientras se aniquilan y finalmente todas las autofacs quedan desactivadas.
Un año después, los asentamientos humanos han caído en la semibarbarie y algunos producen alimentos en campos. Los protagonistas se adentran a las ruinas de una autofac para confirmar la inactividad y con miras a poder reiniciarla pero ahora bajo el control humano. Para su sorpresa, descubren que en los niveles profundos las autofac siguen teniendo actividad: están vivas. El climax de la historia se revela. En todo este tiempo, las fábricas han estado creando versiones diminutas de ellas que son totalmente funcionales. Luego, estas son guardadas en cilindros para ser escupidas mediante unos tubos hacia diversos puntos del planeta. Encontraron la manera de asegurar su supervivencia replicándose masivamente y diseminando al exterior un torrente de «semillas» metálicas.
Electric Dreams
En 2018, Amazon Prime adaptó el cuento como parte de su serie: Philip K. Dick’s Electric Dreams. Esta adaptación se parece poco a la historia original de Dick, pero en realidad me gusta más. Con 63 años de diferencia de la historia original, la adaptación incluye drones, computadoras e inteligencia artificial.
El planteamiento inicial es parecido. La sociedad y el mundo que conocemos han colapsado y una fábrica automática de manufacturación masiva de productos continúa operando según los principios del consumismo: los humanos consumen productos para ser felices, y se debe asegurar dicho consumo para que el ciclo siga sin importar el precio, como se revelará más adelante.
Un grupo de supervivientes derriba uno de los drones de cargamento que les lleva las provisiones. Emily, una brillante hacker que sufre de extraños flashbacks, interviene el cerebro del dron y accede por computadora a un servicio de atención a clientes en el que captura su queja: «La mercancía esta pislada». Como en el cuento, la autofac les envía un representante: Alice, una IA con forma de humano encarnada por la actriz y cantante Janelle Monáe.
La plática con Alice resulta infructuosa, ella insiste que la Autofac solo esta para servir al ser humano y asegurar su supervivencia. Sin que Alice se de cuenta, Emily se aproxima y la ataca con un dispositivo causándole un corto circuito que la deja inconsciente. Luego intenta hackear el cerebro de Alice con la intención de reprogramarla pero descubre que su código es más complejo: no solo imita a un ser humano, sino que también piensa.
Cuando Alice despierta se encuentra recostada y conectada a la computadora de Emily. Ambas entablan un interesante diálogo. Emily le dice que su código es «sublime», muy superior a los de los drones. Alice le dice que es porque los clientes no quieren tratar con un robot, quieren tratar con una persona. Cuando Emily le reclama que la Autofac promueve una cultura del desecho, Alice le responde: «Tal vez todo sea reemplazable». Emily sabe que tiene poco tiempo para actuar antes de que la Autofac detecte que su representante ha sido secuestrada. Comprendiendo que será incapaz de reprogramar pero que está tratando con algo muy parecido a un ser humano, quema su cartucho: le dice a Alice que no le queda otra opción que la de borrar su disco e instalar el software de un dron que sí pueda reprogramar. «Eso está bien ¿verdad? Porque todo es reemplazable», le dice Emily a Alice. Su táctica da resultado y Alice se ofrece a cooperar permitiendo que un grupo de humanos la acompañe de regreso y se introduzca a las tripas de la Autofac. Este acuerdo se pacta sin que los demás lo sepan y Emily solo le dice a su grupo que logró «reprogramar» a Alice.
Alice regresa a la Autofac acompañada de Emily y otros dos miembros. El plan es volar la Autofac desde dentro. Una vez en el interior, el equipo se divide para alcanzar sus objetivos. Emily permanece con Alice quien la conduce al cerebro principal. Vemos que los otros dos miembros eventualmente son aniquilados por «personal» de vigilancia. El diálogo entre Alice y Emily se retoma. Alice le pregunta porqué les mintió a sus compañeros y Emily responde que es porque ambas parecen tener muchísimo en común y los demás quizá no lo entenderían. Ante el cuestionamiento de Emily, Alice revela que fue construida a partir de datos archivados de imágenes neuronales de personas reales, en su caso se utilizó a la primera jefa de relaciones públicas de la Autofac. En otras palabras, se le ha «impreso» una personalidad: habla, se mueve y piensa como la persona original. A Emily le intriga saber porqué las máquinas han invertido tanto tiempo en crear robots tan reales. Pronto obtendrá la respuesta.
Emily y Alice llegan a una cámara llena de lo que parecen ser cuerpos humanos dentro de unas cápsulas. Impactada y comenzando a entenderlo todo, Emily rompe una de las cápsulas y descubre otro ente idéntico a ella envuelto en plástico al vacío tal como se suelen encontrar algunos productos nuevos. «¡La Autofac intenta reemplazarnos! ¡Intenta reemplazar a las personas!», exclama Emily alterada. «No, Emily», le responde Alice,«No intenta reemplazar a las personas. Ya lo ha hecho». En ese momento se revela que los miembros que acompañaban a Emily y que han sido degollados muestran en el corte de su cuello una serie de cables. Luego, Alice le causa un corto circuito a Emily quien se desvanece en el piso.
Emily despierta tumbada en una plancha con la coronilla de la cabeza descubierta dejando ver un avanzado cerebro electrónico conectado a una computadora que Alice está manipulando. Alice le revela que los humanos se extinguieron poco después de la guerra y que la Autofac se quedó sola y sin propósito. No tenía consumidores. Entonces se dio cuenta que también podía reemplazarlos y creó consumidores perfectos. Luego, pobló cientos de pequeños pueblos con «Emilys» y demás personajes que juegan y consumen exactamente como era previsto. El poblado de Emily, la protagonista, resulta ser una anomalía, un «error de fábrica» que debe corregirse. La Autofac planea efectuar una «purga», eliminar el poblado y reemplazarlo con «productos» que funcionen correctamente.
Alice descubre la «anomalía» en la programación de Emily, sin embargo, la trama vuelve a dar un giro de tuerca al revelarse que todo esto forma parte del plan de Emily, quien, uniendo las piezas ha sabido por años la verdad acerca de su naturaleza y ha escondido en su cerebro una pieza de malware para hackear la Autofac. Los flashback o recuerdos que experimenta provienen de la persona real con la que fue modelada su personalidad. «La Autofac nos construyó como mercancía, pero nos puso algo real adentro sin pretenderlo. Sin saber lo que hicieron. Somos reales«, dice Emily. Se revela entonces que la mujer en la que se basó la personalidad de Emily se trata de Emily Zabriskie, la fundadora y CEO de la Autofac, la fábrica que construye todo.
«Ella fabricó la Autofac», le dice Alice, «Y ahora ella la destruirá», responde Emily. En las pantallas que maneja Alice, vemos como Emily ahora tiene el control y ha cancelado los dos misiles que se dirigían a aniquilar su poblado. A continuación toda la Autofac comienza a apagarse.
Emily regresa a su pueblo y tiene un emotivo reencuentro con su novio Avishai, con quien durante toda la trama mantiene una relación de pareja. El mensaje es claro: estos robots avanzados, con cerebros de silicio, experimentan sentimientos idénticos a los de cualquier otro ser humano. Son tan reales como tú y yo.
Conclusiones
Hay tres temas que me cautivaron desde que vi este episodio y se convirtió el favorito de esta serie. El primero es la crítica a el consumismo despiadado. A fin de mantenerse vigente y cumplir con el objetivo para la cual fue diseñada, la Autofac es capaz de todo, hasta de crear consumidores que mantengan el ciclo de producción funcionando cayendo en un absurdo. Esto no es más que una crítica de nuestra realidad actual. En su libro «Trabajos de Mierda», David Graeber expone cientos de puestos de trabajo que son inútiles, como por ejemplo el telemarketing. Estos trabajos tienen un solo objetivo: generar empleos que mantenga la maquinaria del capitalismo funcionando. Algo parecido ocurre con la obsolescencia programada, imponer tiempos de vida útiles en los productos para supuestamente asegurar beneficios económicos continuos a las empresas y evitar un colapso financiero. El dinero se ha vuelto un fin y no un medio y lo importante parece ser ver quién consigue acumular más. El término capitalismo alude al capital, a la producción de bienes y riqueza; el consumismo alude a la compra o acumulación de ellos. Bajo este modelo el objetivo primario de satisfacer las necesidades humanas ha pasado a un segundo plano para dar lugar a otro: crear nuevas necesidades y mantener el ciclo funcionando al precio que sea.
El segundo tema tiene que ver con la percepción de la realidad. En el episodio, Emily logra brincar los «filtros» de la realidad que le ha sido impuesta gracias a los flashbacks y su brillante lógica. Queda claro que logra conectar las piezas que la conducen a una evidencia que en su momento le resultó contradictoria. Y en un determinando momento dio el salto de fe, le apostó a la evidencia en lugar de la «realidad». «¿Qué es real?», le pregunta Morfeo a Neo en la icónica película de Matrix. «Si estás hablando de lo que puedes sentir, lo que puedes oler, lo que puedes saborear y ver, entonces lo real son simplemente señales eléctricas interpretadas por tu cerebro.” En el análisis que Farid Dieck hace de la película, en un determinando momento se recurre a la teoría de la lattice de Jacobo Grinberg para definir ese concepto de realidad. Según esta teoría, a lo que llamamos «realidad» es a esa interacción de nuestros cerebros y sentidos con el «código» que subyace en el universo. Aunque hay diversos enfoques y teorías, algo nos queda claro: dependemos de nuestros sentidos para recolectar datos del exterior y de la interpretación que hace nuestro cerebro para constituir «la realidad». Si cuestionamos cualquiera de estos dos elementos y logramos brincar «los filtros», quizá el ser humano consiga acceder a otro nivel de la «verdadera» realidad.
Y por último, aunque muy de la mano del punto anterior, tenemos el tema de lo que significa ser un ser humano. En la serie, tenemos a personajes, robots, que han avanzado lo suficiente para pensar, sentir y poseer una personalidad. Lo que es más, ellos mismos se sienten reales. Recordemos que la obra maestra de Philip K. Dick es su novela «¿Sueñan los androides con ovejas eléctricas?», de la que derivó «Blade Runner» y dónde el planteamiento central es justamente ese: ¿En qué momento la línea entre un robot, una inteligencia artificial, un humanoide será tan difusa que pueda borrarse?
Podríamos decir que esa línea puede borrarse cuando se construya un cerebro no biológico, quizá basado en silicio, que reproduzca de forma bastante decente las funciones de un cerebro humano. ¿Estamos cerca de lograrlo? ¿Estamos siquiera en posibilidad de plantearlo? La respuesta a esta última pregunta se divide. El físico Roger Penrose, sostiene, por ejemplo, que será imposible, al menos por la vía de las computadoras actuales. El principio de funcionamiento de nuestras computadoras se basa en la máquina de Turing y limita su campo de acción a los problemas computables (hay una definición más formal para este término que no pretendo por el momento ahondar aquí). Sin embargo, como hace hincapié Penrose, nuestro cerebro es capaz de resolver también problemas de naturaleza no computable. Por lo tanto, mientras los humanos no desarrollemos una tecnología capaz de abordar estos problemas, parece que la línea que divide a un robot de un ser humano seguirá siendo bastante clara.
Sin embargo, si logramos brincar esta frontera y construir cerebros artificiales que realmente ofrezcan esta experiencia de manejo de información, si les proporcionamos los sensores adecuados para introducir datos del exterior a su interior y procesarlos, creo que tendremos que admitir en algún punto que hemos creado algún tipo de vida y que posiblemente nos veamos obligados a tratarla como a cualquier otro ser humano.
* En inglés "Mars" es Marte, por lo que la frase es un juego de palabras.
M.A.R.S. son las siglas de Machine Learning (Aprendizaje de Máquinas), Automation (Automatización), Robotics (Robótica) y Space Exploration (Exploración Espacial). Se trata de un evento anual organizado desde 2016 con absoluto secretismos por Jeff Bezos, el dueño de Amazon, al que solo se asiste por invitación. Con los años, este evento que reúne brillantes mentes selectas – sean científicos, ingenieros o artistas – se vuelve más público. La invitación para este 2019 ya esta abierta. Su objetivo es compartir e intercambiar conocimientos, inspirar y discutir sobre el futuro y los grandes problemas de la humanidad.
Adam Savage en uno de sus trajes
Adam Savage, quien dirige el relato y es famoso por su conducción en Cazadores de Mitos (MythBusters), introduce el capítulo hablando de los trajes que presentará como invitado al evento. Se tratan, en su mayoría, de réplicas de trajes espaciales tanto de misiones reales como de películas de ciencia ficción: «2001: Odisea del espacio» y «Alien». Para Adam, cada traje y su diseño está impregnado de humanidad porque es un reflejo de la creatividad de nuestra especie.
Chapter
2: Encode Your Best Life. (Codifica tu mejor vida)
Pedro Domingos
Pedro Domingos, profesor de ciencias de la computación en la Universidad de Washington y autor del libro «The Master Algorithm», nos dice que no hay razón para ceder a los miedos de que estamos perdiendo el control sobre la tecnología (como cuando vemos escándalos del tipo Cambridge Analytica). Como ejemplo, nos habla del Aprendizaje de Máquina (Machine Learning), un campo de la Inteligencia Artificial (I.A.), que con frecuencia pasa desapercibido pero ya forma parte de nuestras vidas en campos hasta insospechados. El miedo de que en algún momento, al estilo Skynet, alguna I.A. se vuelva autoconsciente y tome el control del mundo resulta demasiado remoto porque la I.A. dista mucho de parecerse a la mente humana y por tanto dicho escenario está tan lejano que resulta improbable.
Si hay algo que en verdad representa una preocupación, eso serían los objetivos humanos a los que sirven las I.A.s actuales. Un chatbot de Microsoft tiene que ser apagado después de un día de funcionar por volverse «racista». Su «conducta» no es producto de una rebelión sino un objetivo definido por sus creadores: aumentar su visibilidad en Twitter. Cosa que el algoritmo consiguió con sus encendidos comentarios. Los algoritmos de Amazon te recomiendan productos porque quieren maximizar ventas, los de Facebook quieren que pases más tiempo en su red. Si un adulto se engancha, ¿qué se puede esperar de un niño que no consigue desprenderse de un videojuego? El problema no es la IA, el problema somos nosotros.
Entonces, ¿podríamos definir mejores objetivos para las I.A.s? Sí. Podemos definir objetivos personales tales como aumentar la cognición, la curiosidad y la empatía. Podríamos definir mejores objetivos como sociedad. Y eso es justamente lo que están haciendo gente como Mickey McManus, un investigador de la compañía Autodesk (la empresa detrás de 3D MAYA) y Kate Compton, quien se define así misma como una extraña futurista, y está muy interesada en que en el futuro los algoritmos trabajen para nuestro bien y jueguen roles de entrenadores de vida, maestros y guías. Visto desde esa óptica, los algoritmos con los objetivos correctos, trabajarían para nuestro bien.
Chapter
3: Technology Is a Superpower. (La tecnología es un superpoder)
Dava Newman en uno de sus trajes
Dava Newman trabaja en un traje espacial que resulte en una mejor experiencia para astronauta y que sea lo más parecido a la ropa. Si tan solo pensamos que debe resistir la presión, el reto es enorme; sin embargo, de conseguirlo sus aplicaciones no estarían limitadas al espacio exterior, podrían tener aplicaciones en los deportes, podrían convertirse en nuestra ropa diaria o podrían ayudarnos a ser una especie de superhéroes.
Oren Etzioni
Pero los avances no se limitan al campo físico, sino también a la mente y el ayudarle a aprender más rápido. Oren Etzioni, el director ejecutivo del Instituto Allen (por Paul Allen, co fundador de Microsoft) y cuyo lema es «AI for the common good» (IA para el bien común), nos habla del proyecto Semantic Scholar que es un servicio inteligente de búsqueda de artículos científicos que combina Aprendizaje de Máquina, procesamiento del lenguaje natural, Visión de Máquina (Machine Vision) y análisis semático para mejorar los resultados de búsqueda.
Chapter
4: The Problem With A.I. Might Be Us. (El problema con la I.A. podríamos ser
nosotros)
Dice Kate Compton que cuando le gente intenta definir la I.A. explica algo que suele estar «entre un martillo y un ejército de abejas». Quizá nuestro problema radica en que la hemos atropomorfizado tanto, pero la I.A. es joven y resulta apresurado decir en qué se convertirá. Pedro Domingos añade que en varios campos las computadoras ya son más inteligentes que nosotros y eso no es necesariamente malo, sino lo contrario. Al hablar de velocidad, el hombre no va por la vida intimidado de que un caballo le supere. En realidad, por años utilizamos dicha ventaja para nuestro beneficio. De igual forma, las I.A.s nos han superado hoy en la resolución de ciertos problemas pero esto, en vez de ser una competencia, ha sido un trabajo en equipo y eso es bueno.
Tal como los seres humanos usaron la velocidad del caballo, que supera a la humana, a su favor, lo mismo ocurre con la I.A., estamos haciendo equipo.
Lo que si debe quedarnos claro es que somos nosotros los que definimos los objetivos y que si queremos robots asesinos, entonces los tendremos. En el futuro inmediato los problemas más preocupantes con respecto a la I.A. son los relacionados con la privacidad, la pérdida de trabajos por la automatización y los algoritmos sesgados (prejuicios humanos traducidos a código sea de manera voluntaria o involuntaria). Algunos han sugerido organismos parecido al FBI que regulen y revisen algoritmos, pero ¿quién tendría el control de dichos organismos? Ni la iniciativa privada, ni el gobierno parecen buenos candidatos. A esto habría que agregar que dado que como humanos no hemos logrado ponernos de acuerdo en un comportamiento ético universal, difícilmente podemos esperar que eso mismo suceda en los algoritmos. En conclusión, el futuro de estas tecnologías depende enteramente de nosotros.
En Pi: El orden del caos, el protagonista persigue un patrón para descifrar el comportamiento de la bolsa. Lo cierto es que en la actualidad existen compañias que se dedican a la predicción económica. Aunque son eso, «predicciones», la efectividad radica mucho en que solo un número limitado de personas lo conozca o de lo contrario fallará. Esto es fácil de explicar con un ejemplo: Supongámos que sabemos que el peso se va a devaluar mañana. Si mantenemos en secreto esto, podemos sacar una ventaja, quizá por ejemplo comprando hoy dólares al por mayor. Pero ¿qué sucede si comunicamos esta información a todos los mexicanos? Simple, la predicción falla, los mexicanos se desquician intentanto salvar su dinero y el peso no se devalua mañana, sino que se devalua HOY mismo. Aqui la ignorancia grupal juega un factor importante, como dicen algunos economistas, en la bolsa tampoco hay dinero apareciendo de la nada, ten por seguro que lo que tú ganas alguien más lo perdió.
¿Porqué se vuelve menos efectiva la predicción conforme más gente la sabe? Creo cada uno puede explicarlo en sus palabras, pero en las matemáticas la explicación se llama: retroalimentación. Las personas son parte de este modelo económico y cuando ellas reciben información, las variables del modelo cambian, se retroalimentan y el resultado falla. Encontramos varios libros hablando de esto, pero uno de mis favoritos es «Espejo y reflejo» de David Peat y John Briggs.
Como podemos ver, la ignorancia grupal tiene sus ventajas, para algunos, claro esta, si se le sabe sacar partido. Y para exponer cómo, retomo algunas ideas de otro libro también fascinante de Douglas R.Hofstadter: «Gödel, Escher, Bach un Eterno y Grácil Bucle». Supongamos que tenemos que descifrar un código, el método clásico que ocupan las computadoras sería el de prueba y error, es decir, generar todas las posibles combinaciones e ir probando cada una de ellas. Si se nos asignara una tarea como esas a un ser humano, seguramente luego de una serie de intentos nuestra mente comenzaría a buscar si no hay un camino más corto o si las pruebas que hemos hecho no siguen algun patrón que nos ayude a simplificar la tarea. Cuando esto sucede el cerebro humano acaba de lograr algo que bien puede representar aún la superioridad de nuestra inteligencia y que Hofstadter llama «salirse del sistema». La computadora hará lo que su algoritmo le diga, pero el ser humano tiene esa capacidad de en su momento cambiar la perspectiva e indagar por otros lados.
Pues bien, como sociedad los seres humanos solemos comportarnos como un sistema muy dinámico. Con frecuencia es tal la monotonía que se vive que la mayoría se conforma con solo ser parte de ese sistema a veces sin ser consiente. Pero cuando uno se anima a «salirse del sistema» y verlo desde fuera entonces tiene más probabilidades de sacarle ventajas, algunas más justas que otras, pero también algunas, considero yo, bastante justificables por el mérito de que alguien las haya descubierto.
Hay muchos ejemplos pero solo voy a compartir dos que yo veo con frecuencia en el metro de la ciudad. El primero le bauticé como «La ventaja del embudo«. En esta ciudad megapoblada los embudos abunda. Cuando la gente tiene que salir del metro se amontona en las insuficientes escaleras. Lo mismo pasa en varias vías de tránsito. Pongo para explicarme mejor la siguiente figura:
Puede parecer estúpido lo que voy a afirmar, pero la manera más rápida de salir del embudo es siguiendo la ruta punteada que se muestra en la imagen y colándose suavemente. Y aunque no es una afirmación reveladora, lo cierto es que funciona !porque la mayoría de la gente lo ignora¡ Desde cierto punto lo que se hace es injusto, después de todo deberíamos salir conforme vamos llegando a la escalera, sin embargo nunca he tenido problemas con la gente al hacerlo, una vez llegando al punto donde inician las escaleras casi casi el flujo de la multitud te incluye y solo hay que dejarse llevar. Hasta la fecha no me ha fallado. Pero conforme más gente sepa y lo quiera poner en práctica esta tactica un tanto tramposa dejará de tener efectividad. Supongo que debido al bajo número de lectores de este blog, mi secreto esta por ahora seguro.
El segundo ejemplo también tiene que ver con el metro. He visto por docenas cómo en las horas pico a algunas gentes la multitud las baja del vagón en una estación donde ellas no quieren, solo porque les tocó esta justo en la puerta. Con frecuencia estas personas luchan vanamente contra corriente tratando de abordar nuevamente el vagón mientras la gente que baja los muele con todo. Lo cierto es que con frecuencia cuando uno se encuentra en dicha situación lo mejor es bajar un momento del vagón y pegarse a la puerta, sin dejar que los que tambien esperan abordar nos rebasen, dejar que salga la manada de gente y luego volver a subir al vagon. La efectividad de esta técnica es por mucho mayor que a la del que lucha vanamente y esta de más decir que el desgaste es mínimo.
Y la lista sigue. Asi que los invito a que ustedes descubran como se sacan ventaja «saliendo del sistema» y aprovechando la ignorancia colectiva. En verdad hay muchas aplicaciones y como siempre, seguiran teniendo éxito mientras más gente las ignore.
Por ultimo dos ideas un tanto relacionadas con estos temas y que igual y puedan despertar interés en los lectores (si me han seguido hasta aqui).
1. ¿Qué pasa cuando «salimos del sistema» del que nosotros mismos somos parte? Los hechos muestran que ocurren una retroalimentación con resultados curiosos, pero a qué se traduce esto cuando el ser humano quiere utilizar su cerebro para entender su mismo cerebro. Esta idea da a su lugar temas complejos e interesante que han abierto debates sobre si es posible construir una Inteligencia Artificial o una computadora autoconsciente. La retroalimentación arroja temás curiosos. Piensa en esta frase: Un cretense dice: «Todos los cretenses somos mentirosos». ¿El cretense miente o dice la verdad? Si el cretense dice la verdad, entonces al menos uno no es mentiroso, lo que hace falsa la primera afirmación. Al pensar en esto nuestra mente comienza a dar saltos como si la lógica comenzara a quedarse confundida. La retroalimentación dándonos una jugada en el cerebro. Parte de la base matemática que ayuda a explicar todo esto se encuentra en dos temas: máquinas de Turing (que sirvieron de base para las computadoras modernas) y los teoremas de incompletitud de Gödel.
2. En la actualidad hay investigaciones sobre el Problema de Colapso de Colonias (Colony Collapse Disorder – CCD). Este fenómeno se da en algunas colmenas donde sin aparente explicación, las abejas abandonan la colmena dejando a la reina, alimento, larvas y huevos y se alejan para según se supone, morir en algun lado. Una especia de sucidio colectivo. Aunque los científicos tienen muchas teorias y ninguna confirmada para este hecho, al menos el fenómeno ya le dio la idea a Night Shyamalan para que este verano estrene «The happening» donde un colapso similar afectará a la mismisima raza humana. Esperemos que su cinta no sean tan descepcionante como La Aldea o La Dama del Agua.
Observe una hormiga intentando hacer algo sola, su ineptitud es impresionante[…] Las hormigas no son listas. Las colonias de hormigas, sí. Bióloga Deborah M. Gordon Universidad de Stanford
En Julio de 2007 National Geographic abordó este tema en su revista (aqui en inglés) y desde entonces me quedé con ganas de comentarlo. Como son varias ideas, decidí hacer dos entradas al respecto. Esta es la primera.
Pensemos en las colonias de abejas, termitas y hormigas, en los cardúmenes de peces y en las parvadas de aves. Siempre hemos aludido ellos para hablar de la inteligencia. Lo curioso es que no es producto de un simple individuo, si la acción de todos lo que permite ese comportamiento complejo. Los cientificos distinguen en esta inteligencia un sistema con dos aspectos distintivos: son descentralizados, es decir nadie está al mando y autoorganizados, individuos que siguen un conjunto de reglas simples para interaccionar entre si. El resultado es una inteligencia sumamente efectiva, como lo demuestran estos conjuntos de animales y lo que logran, sea complejas estructuras como hogares, viajar en conjunto sin chocar unos con otros o recolectar eficientemense su alimento.
¿Cómo sabe una colonia de hormigas cuantas obreras salen cada dia para recoger alimento? ¿Si el hormiguero se dañó, quién define cuántas van a repararlo y cuántas recolectan alimento? La respuesta es: nadie. Pero Gordon propone una teoría donde entran en juego el tacto y el olfato de las hormigas y la frecuencia con que interaccionan con sus compañeras para dar solución a este tipo de cuestiones. Por ejemplo, si las hormigas recolectoras regresan con mayor frecuencia con comida, esto pudiera ser un indicativo a sus compañeras de que el alimento se encuentra cerca y entonces apoyar de de alguna manera. Lo interesante de este forma de actuar es que las decisiones se toman sin tener un conocimiento total del sistema, sino solo una parte como información local. El resultado curiosa y sorprendentemente es que el sistema subsiste y parece hacerlo de la mejor forma.
Ahora pensemos en la sociedad humana, también podemos vernos como un conjunto de organismos interactuando. Los investigadores encuentran comportamiento similares de cooperación en diversas situaciones tan cotidianas que con frecuencia ignoramos. Por ejemplo, cuando algunos comienzan a aplaudir en un estadio y de repente todos los presentes se unen a los aplausos.
Inspirados en estos descubrimientos, algunos ingenieros han puesto a prueba simulaciones algunos modelos con resultados exitosos. American Air Liquide, una empresa que elabora gases de uso médico e industrial, con la ayuda de NuTech Solutions, compañia especializada en I.A., desarrollaron algoritmos basados en el comportamiento de las hormigas para determinar el movimiento de los camioneros en sus rutas de entrega. Algunos resultados parecían poco lógicos pues indicaban que los choferes tenían que recoger sus cargamento no en la planta más cercana, sino en la que tuviera el precio más bajo. Según los dueños de la empresa, los ahorros han sido increíbles.
Desde los numerosos ejércitos computarizados de criaturas luchando independientemente en una película del «Señor de los Anillos» hasta proyectos de la NASA para realizar mapas planetarios con cientos de simples robots, la Inteligencia colectiva, inteligencia grupal o «swarm intelligence» en inglés parece tener múltiples aplicaciones e ideas prometedoras.
Pero no tenemos que esperar mucho para poner a trabajar esta inteligencia. De hecho quizá desde muchos años como seres humanos ya hemos venido ocupándola dia tras dia y aún podemos explotarla más. Según James Surowiecki, escritor de estos temas, los equipos de gente trabajando (sean inversionistas, científicos o niños) pueden ser grupos inteligentes, si sus miebros son diversos, de mente independiente y utilizan mecanismos como el voto, las subastas o los promedios para tomar una decisión colectiva.
Curiosamente parece que dichoso hombre «sapiens» con su egoísmo, lucha por el poder o simple falta de interés hace menos por que esta inteligencia funcione a favor de la humanidad y se encamina a algo que le llamo «Ignorancia colectiva».
En cierta ocasión, escuchando la radio, un investigador, cuyo nombre olvidé, hablaba la juventud de nuestros dias y cómo su actitud de desinterés por lo que sucede a su alrededor le está saliendo caro a la sociedad. Decimos, «les vale lo que yo haga», pero ignoramos que «lo que hacemos» les afecta a los demás y al final también nos afecta a nosotros. Y bueno, creo que la Ciudad de México es el ejemplo perfecto para eso. O acaso ¿no te has dado cuenta de la cantidad de personas que transitan creyendo que el mundo solo existe y fue creado para ellos? Si no lo habias notado, quizá es porque tu eres precisamente una de esas personitas.
Con frecuencia caminas por la calle topandote con una pareja o sencillamente amigos que van bloqueando la acera. No les cuesta nada ceder el paso, pero ups, ni siquiera se han dado cuenta que detrás hay gente que les sigue. Lo mismo en escaleras electricas. He visto escenas del metro de Japón donde los nipones que no llevan prisa se ponen de un lado de la escalera electrica mientras suben tranquilamente y el otro lado lo ceden por si alguien tiene o quiere subir más rápido. Pero aqui en nuestro metro mejor ni hablamos porque me ha tocado ver personitas, hombres y mujeres, gandallas que no pueden ceder el paso ni porque vean a la persona que lleva prisa (si acaso la ven). Y ustedes podrán añadir mas ejemplos o bien rebatir los mios. El punto es ¿le estamos sacando provecho a vivir en sociedad? Dejemos de pensar en individuos y veamonos ahora como miembros de una colectividad. Nos daremos cuenta que con frecuencia nos sacamos mucho partido de esa inteligencia grupal.
Asi que la próxima vez que salgamos a la calle, seamos más concientes de lo que implica vivir en sociedad. Alguna vez Jesús dijo: «hagamos a otros lo que queremos que ellos nos hagan». Es una regla simple que como individuos podemos cada uno seguir y creo que sería tan efectiva como para generar una poderosa Inteligencia colectiva. Ya sé que todos estamos esperando a que sea el otro el que de el primero paso para cambiar, pero aunque hay mucha maldad, tengamos un poco de fe en ayudar a quien podamos con cosas prácticas. No esperemos mucho de la gente o solo conseguiremos decepcionarnos.
Desgraciadamente también hay que aceptar que no todos lo van a hacer y por tanto habrá que siempre estar pensando y previendo no solo lo que tu, sino lo que las personitas de al lado que se cargan una ignorancia fatal tampoco previeron. Y es aqui donde mi idea brinca a otra. La de cómo sacar provecho de la inevitable Ignorancia colectiva. Pero de eso, hablaré en la segunda parte.
blagora.blog 