Vivimos en el futuro pronosticado por Philip K. Dick, y no en el de George Orwell ni en el de Aldous Huxley 👁️‍🗨️🔜🤥

Os traduzco un interesante artículo de Henry Farrell leído en la web Boston Review 

Recomiendo leer estos posts de mi blog en relación:

Falsos humanos crearán falsas realidades y se las venderán a otros humanos, volviéndolos a su vez falsificaciones de sí mismos 

La epifanía espiritual de Philip K. Dick

   

Philip K. Dick y los falsos humanos

Esta no es la distopía que nos prometieron. No estamos aprendiendo a amar al Gran Hermano, que vive, si es que vive, en un grupo de granjas de servidores, enfriadas por tecnologías respetuosas con el medio ambiente. Tampoco hemos sido adormecidos por el Soma y la programación subliminal del cerebro en una nebulosa aquiescencia a las jerarquías sociales omnipresentes.

Las distopias tienden hacia fantasías de control absoluto, en las que el sistema lo ve todo, lo conoce todo y controla todo. Y nuestro mundo es de hecho uno de vigilancia ubicua. Los teléfonos y dispositivos domésticos producen rastros de datos, como partículas en una cámara de nubes, indicando nuestros deseos y comportamientos a compañías como Facebook, Amazon y Google. Sin embargo, la información así producida es imperfecta y clasificada por algoritmos de aprendizaje automático que a su vez cometen errores. Los esfuerzos de estos negocios para manipular nuestros deseos nos llevan a una mayor complejidad. Cada vez es más difícil para las empresas distinguir el comportamiento que quieren analizar de sus propias manipulaciones y de las de los demás.


Esto no se parece al totalitarismo a menos que entrecierren los ojos con mucha fuerza. Como ha sugerido el sociólogo Kieran Healy, las críticas políticas radicales de las nuevas tecnologías a menudo tienen un fuerte parecido familiar con los argumentos de los impulsores de Silicon Valley. Ambos asumen que la tecnología funciona como se anuncia, lo que no es necesariamente cierto en absoluto.

Las utopías estándar y las distopias estándar son cada una perfecta después de su propia moda particular. Vivimos en un mundo que se está desarrollando la tecnología de una manera que hace cada vez más difícil distinguir a los seres humanos de las cosas artificiales. 

El mundo que Internet y los medios sociales han creado es menos un sistema que una ecología, una proliferación de nichos inesperados y entidades creadas y adaptadas para explotarlas de manera engañosa. Las grandes arquitecturas comerciales están siendo colonizadas por parásitos casi autónomos. 

Los estafadores han construido algoritmos para escribir libros falsos desde cero y vender en Amazon, compilando y modificando textos de otros libros y fuentes en línea como Wikipedia, para engañar a los compradores o para aprovechar las algunas en la estructura de compensación de Amazon. 

Gran parte del sistema financiero mundial está compuesto por sistemas automatizados de bots diseñados para inspeccionar continuamente los mercados en busca de oportunidades fugaces de arbitraje. Los programas menos sofisticados plagan los sistemas de comercio en línea como eBay y Amazon, ocasionalmente con consecuencias extraordinarias, como cuando dos bots en guerra ofertan el precio de un libro de biología hasta $23,698,655.93 (más $3.99 de envío).

En otras palabras, vivimos en el futuro de Philip K. Dick, no en el de George Orwell o el de Aldous Huxley. Sus mundos imaginarios se juntan con retazos extraños de los años cincuenta y sesenta en una California con cohetes, drogas y especulación social. Dick escribía habitualmente con prisa y por dinero, y a veces bajo la influencia de las drogas o de una revelación religiosa personal reciente y urgente.

Sin embargo, lo que capturó con genio fue el malestar ontológico de un mundo en el que lo humano y lo abhumano, lo real y lo falso, se confunden. Como Dick describió su trabajo (en el ensayo inicial de su colección de 1985, I Hope I Shall Shall Arrive Soon):

"Los dos temas básicos que me fascinan son:"¿Qué es la realidad?". y "¿Qué constituye al auténtico ser humano?" Durante los veintisiete años que llevo publicando novelas e historias, he investigado estos dos temas interrelacionados constantemente".

Estas obsesiones tenían sus raíces en la compleja y siempre cambiante mitología personal de Dick (en la que era perfectamente plausible que el mundo "real" era falso, y que todos vivíamos en Palestina en algún momento del primer siglo después de Cristo). Sin embargo, también se basaban en un gran interés por los procesos a través de los cuales la realidad se construye socialmente. Dick creía que todos vivimos en un mundo donde "las realidades falsas son fabricadas por los medios de comunicación, por los gobiernos, por las grandes corporaciones, por grupos religiosos, por grupos políticos, y el hardware electrónico existe para entregar estos pseudo-mundos directamente a las cabezas del lector". Él argumentaba lo siguiente:

"el bombardeo de pseudo-realidades comienza a producir humanos inauténticos muy rápidamente, humanos espurios, tan falsos como los datos que les presionan por todos lados. Mis dos temas son realmente un solo tema; se unen en este punto. Las realidades falsas crearán humanos falsos. O bien, los seres humanos falsos generarán realidades falsas y luego las venderán a otros seres humanos, convirtiéndolas, eventualmente, en falsificaciones de sí mismos. Así que terminamos con humanos falsos inventando realidades falsas y luego vendiéndolas a otros humanos falsos".

En los libros de Dick, lo real y lo irreal se contagian entre sí, de modo que se hace cada vez más imposible diferenciarlas. Los mundos de los muertos y los vivos se fusionan en "Ubik" (1969), las experiencias de un niño perturbado infectan el mundo que lo rodea en "Martian Time-Slip" (1964) y las alucinaciones consensuadas basadas en drogas se convierten en el vector de una inteligencia alienígena invasora en "Los tres estigmas de Palmer Eldritch" (1965). Los humanos son imitados por los androides malignos en "Do Androids Dream of Electric Sheep?" (1968) y "Second Variety" (1953); por extranjeros en "The Hanging Stranger" (1953) y "The Father-Thing" (1954); y por mutantes en "The Golden Man" (1954).

Esta preocupación por los mundos irreales y las personas irreales llevó a una consecuente preocupación por la dificultad cada vez mayor de distinguir entre ellos. Las fábricas sacan a relucir el falso americano en "The Man in the High Castle" (1962), reflejando el problema de vivir en un mundo que no es, de hecho, el real. Los empresarios construyen androides cada vez más humanos en "Do Androids Dream of Electric Sheep?", razonando que si no lo hacen, entonces sus competidores lo harán. Descubrir qué es real y qué no lo es no es fácil. Herramientas científicas como la famosa prueba Voight-Kampff en "Do Androids Dream of Electric Sheep?" (y Blade Runner, la película de Ridley Scott de 1982 basada vagamente en ella) no funciona muy bien, dejándonos con poco más que esperanza en alguna fuerza mística -el I Ching, Dios en una lata de spray, una bruja marciana del agua- para guiarnos de vuelta hacia lo real.

Vivimos en el mundo de Dick, pero con pocas esperanzas de intervención o invasión divina. El mundo en el que nos comunicamos e interactuamos a distancia está cada vez más lleno de algoritmos que parecen humanos, pero no son personas falsas generadas por realidades falsas. Cuando Ashley Madison, un sitio de citas para las personas que quieren engañar a sus esposos, fue hackeado, resultó que decenas de miles de mujeres en el sitio eran "fembots" falsos programados para enviar millones de mensajes informales a los clientes masculinos, con el fin de engañarlos para que crean que estaban rodeados por un gran número de parejas sexuales potenciales.

Es probable que estos problemas sólo empeoren a medida que el mundo físico y el mundo de la información se interpenetran cada vez más en un Internet de Cosas (mal funcionamiento). Muchos de los aspectos del mundo futuro de Joe Chip en Ubik parecen horrendamente anticuados a la vista moderna: el papel arcaico de las mujeres, la suposición de que casi todo el mundo fuma. Sin embargo, la puerta del apartamento de Joe -que discute con él y se niega a abrir porque no le ha pagado la propina obligatoria- suena ominosamente plausible.

Esta invasión de lo real por lo irreal ha tenido consecuencias para la política. Las realidades alucinatorias en los mundos de Dick -la religión empática de "Do Androids Dream of Electric Sheep?", los mundos producidos por las drogas de "The Three Stigmata of Palmer Eldritch", el reino casi tibetano de la muerte budista de "Ubik"- son experimentadas por muchas personas, como los programas de televisión de la América de Dick. Pero como la televisión en red ha dado paso a Internet, se ha vuelto fácil para la gente crear su propia mezcla idiosincrática de fuentes. El consenso mediático impuesto que Dick detestaba se ha convertido en una miríada de realidades diferentes, cada una con sus propios supuestos y hechos parcialmente compartidos. A veces esto crea una tragedia o casi. El pistolero engañado que irrumpió en la pizzería Comet Ping Pong de Washington, D. C., había sido convencido por las webs de conspiración que era el centro coordinador de la red de tráfico sexual de niños de Hillary Clinton.

Estos mundos fracturados son más vulnerables a la invasión por parte de los no-humanos. Muchas cuentas de Twitter son bots, a menudo con los nombres y fotografías robadas de mujeres jóvenes increíblemente hermosas, buscando lanzar este o aquel producto (un estudio académico reciente encontró que entre el 9 y el 15 por ciento de todas las cuentas de Twitter son probablemente falsas). Bots de twitter varían en sofisticación desde cuentas automatizadas que no hacen más que retwitear lo que otros bots han dicho, hasta sofisticados algoritmos que despliegan los llamados "ataques Sybil", creando identidades falsas en redes peer-to-peer para invadir organizaciones específicas o degradar tipos particulares de conversación.

Twitter no se ha convertido en un verdadero medio de comunicación masiva, pero sigue siendo extraordinariamente importante para la política, ya que es donde muchos políticos, periodistas y otras elites recurren para obtener sus noticias. Un proyecto de investigación sugiere que alrededor del 20 por ciento de la discusión política mensurable en torno a las últimas elecciones presidenciales provino de bots. 

Los humanos no parecen ser mejores detectando bots que nosotros en la novela de Dick, detectando replicantes androides: la gente es tan propensa a retwitear el mensaje de un bot como el mensaje de otro ser humano. Lo más notorio es que el actual presidente de Estados Unidos ha retomado recientemente un mensaje halagador que parece provenir de un bot muy conectado a una red de otros bots, que algunos creen estar controlados por el gobierno ruso y utilizados con fines propagandísticos.

En sus novelas, Dick estaba interesado en ver cómo reacciona la gente cuando su realidad comienza a desmoronarse. Un mundo en el que lo real se confunde con lo falso, para que nadie sepa dónde termina uno y dónde comienza el otro, está maduro para la paranoia. La consecuencia más tóxica de la manipulación de los medios sociales, ya sea por parte del gobierno ruso o de otros, puede no tener nada que ver con su éxito como propaganda. En cambio, es que siembra una desconfianza existencial. La gente simplemente ya no sabe qué o a quién creer. Los rumores difundidos por los bots de twitter se funden en otros rumores sobre la ubicuidad de estos, y si esta o aquella tendencia está siendo impulsada por algoritmos malignos en lugar de por seres humanos reales.

Semejante falsedad generalizada es especialmente explosiva cuando se combina con nuestras políticas fragmentadas. El término favorito de los liberales (en su versión norteamericana, es decir del partido demócrata) para referirse a la maquinaria propagandística de la derecha,"fake news", ha sido rechazado por los conservadores, que tratan las noticias convencionales como propaganda y, por lo tanto, las ignoran. En el anverso, puede ser más fácil para muchas personas de la izquierda liberal culpar a la propaganda rusa de las últimas elecciones presidenciales que aceptar que muchos votantes tenían un concepto de Estados Unidos muy diferente al que tienen.

Dick tenía otras obsesiones, sobre todo la política de Richard Nixon y la Guerra Fría. No es difícil imaginarlo escribiendo una novela que combina un magnate inmaduro y depredador (medio Arnie Kott, medio Jory Miller) que se convierte en el presidente de los Estados Unidos, manipulación política rusa secreta, una invasión de inteligencias robóticas sin empatía que se hacen pasar por seres humanos, y una ruptura en nuestra comprensión compartida de lo que es real y falso.

Estos diferentes elementos probablemente no se concordarían particularmente bien, pero como en las mejores novelas de Dick, el conjunto podría seguir funcionando, de alguna manera. De hecho, es en las incongruencias de las novelas de Dick donde se encuentra la salvación (incluso en su peor momento, conserva un sentido del humor). Obviamente, es menos fácil ver la broma cuando uno está viviendo a través de ella.