Superinteligencia efectuando "alquimia" sobre nuestras consciencias en simulaciones anidadas

Traduzco un post que llamó mi atención vía la web barefootandbackagain escrita por un hombre que se define así en su perfil: "Un oficinista insatisfecho convertido en un viajero por el mundo. Dejé mi trabajo y la ciudad de Vancouver en la segunda mitad de 2015 para viajar por todo el mundo . Visité más de 25 países en 6 continentes, y he caminado sin zapatos durante una parte significativa de mi tiempo en todos ellos". El título del post original lo cambié porque era igual al concepto de "Turtles all the way down" que aparecía en el título de esta otra entrada de mi blog:

https://chitauri.blogspot.com/2020/04/el-concepto-concatenacion-de.html

Sin más preámbulo, la traducción:

Hay dos grandes preguntas que la humanidad, con toda su sabiduría, no parece poder responder: 

¿De dónde vino nuestro universo? 

¿De dónde vino la conciencia?

Ambas preguntas, cuando se llevan a sus extremos tienen las mismas respuestas potenciales: 

Surgió de la nada.

Ha existido desde siempre. 

Ambas respuestas son profundamente insatisfactorias.

Al oírla por primera vez, la idea de que vivimos en un universo simulado suena claramente absurda. En el fondo, pensamos que "si el mundo fuera una simulación por ordenador, lo sabría". Para la mayoría, la conversación termina aquí.

Nuestra propia capacidad para crear simulaciones por ordenador para videojuegos está mejorando cada año, con no sólo los gráficos cada vez más realistas, sino también las acciones de los personajes no jugadores (NPCs). Además de esto, la realidad virtual está in crescendo. Suponiendo que estas tendencias continúen indefinidamente es razonable asumir que estas simulaciones se volverán indistinguibles de la realidad. Si alguien se encontrara sin saberlo entrando en una, tendría pocas razones para creer que no es real.

Nuestro conocimiento de la conciencia está todavía en su infancia, y es un tema fascinante en los campos de la neurociencia, la psicología y la filosofía de la mente. Algunos signos indican que una definición relativamente abarcadora es la más consistente lógicamente; la conciencia podría ser simplemente una propiedad de toda la materia, evitando el problema, de otro modo ineludible, de explicar cómo nació de una naturaleza inconsciente. En el otro extremo se encuentra la idea de que todas las conciencias fuera de la propia son intrínsecamente inaccesibles, y por lo tanto indemostrables, tal y como lo entendía Descartes en su realización filosófica del "pienso, luego existo".

No es seguro que los personajes simulados puedan ser alguna vez verdaderamente conscientes,  si los NPC actúan de una manera indistinguible de un humano, ¿hay alguna diferencia? 

Una vez que obtengamos la capacidad de crear personajes simulados que actúen de forma indistinguible de nuestros semejantes, vamos a crear muchos de ellos. En algún momento, el número de seres simulados superará ampliamente al de los "reales", y teóricamente algunos incluso crearán universos simulados propios.

Imaginando que estos seres simulados fueran conscientes, tendrían tantas razones como tú o yo para creer que su universo es verdadero. Si bien es cierto que sabremos que nuestras creaciones simuladas están equivocadas, ¿qué evidencia muestra realmente que no estamos cometiendo el mismo error? "Pienso, luego existo" prueba que la propia conciencia existe, pero que es donde la certeza termina y la fe comienza.

En una línea similar, imagina a un grupo de cien individuos, cada uno devoto de una de las cien religiones diferentes. Teóricamente, los cien entenderían que al menos el 99% del grupo sigue a un dios ficticio. Las estadísticas no tienen sentido cuando se enfrentan al tirano de la fe.

De todos modos, este punto de este post no es sólo para mostrar que podríamos vivir en una simulación. Se trata de entender el propósito de esta simulación teórica en la que vivimos. Para responder a esta pregunta, el primer paso es preguntar para qué propósitos podríamos usar un mundo perfectamente realista generado por ordenador, si finalmente conseguimos crear uno. 

La respuesta más obvia serían las mismas cosas para las que usamos las simulaciones primitivas hoy en día: investigación científica/histórica/militar y actividades recreativas. Sin embargo, aunque actualmente son las empresas y las organizaciones gubernamentales las que están creando las simulaciones, hay razones para creer que no será así en el futuro.

Basándose en las tendencias tecnológicas actuales, el inevitable desarrollo de una inteligencia artificial con la potencia de cálculo del cerebro humano puede ser un objetivo más alcanzable que la creación de un mundo simulado perfectamente realista. Por las razones que se exponen a continuación, si se produce este desarrollo, es probable que la inteligencia artificial sea en gran medida responsable de todos y cada uno de los inventos tecnológicos futuros, incluido el desarrollo de inteligencias cada vez más poderosas. Así, el creador más probable de un universo simulado es un programa informático superinteligente artificial (ASI).

Mientras que actualmente predominamos en áreas tradicionalmente consideradas como inteligencia, la velocidad de procesamiento de las computadoras empequeñece la del cerebro humano. Sin embargo, cada día los ordenadores se están volviendo más poderosos en ambas métricas, mientras que la humanidad permanece en su mayor parte estancada; asumiendo que esta mejora continúe indefinidamente, la humanidad creará inevitablemente un programa que iguale o supere nuestras capacidades mentales en todos los sentidos.

La teoría sostiene que este programa, conocido como inteligencia general artificial (AGI), podrá entonces aprovechar su capacidad superior de procesamiento para completar el trabajo a nivel humano a una velocidad millones de veces mayor que la que realizamos hoy en día. En particular, esto incluiría el trabajo centrado en la creación de programas cada vez más inteligentes. 

Esencialmente, el AGI será capaz de hacerse más inteligente, y lo hará a un ritmo cada vez mayor. Hipotéticamente, este bucle de retroalimentación positiva creará, en un tiempo relativamente corto, una ASI, una entidad de inteligencia inimaginable capaz de resolver problemas que van más allá del alcance de lo que generalmente se considera posible.

En este punto es importante señalar que probablemente sólo habrá una ASI. Lo primero que cualquier ASI propablemente haga, una vez que tenga la capacidad, es eliminar cualquier competencia potencial.

Cuando la mayoría de la gente imaginala idea de una superinteligencia, piensa en los antagonistas de películas como; Yo Robot; 2001, Una Odisea del Espacio; y The Matrix. Computadoras que actúan despiadada y estratégicamente, pero que al final están lo suficientemente limitadas como para ser dominadas por alguna peculiaridad de la humanidad.

Desafortunadamente, este no será el caso. Debido a nuestra inteligencia superior, los humanos podemos ser vistos como Dios para cualquier otro miembro del reino animal. Los chimpancés pueden ver los frutos del trabajo intelectual de la humanidad, e incluso aprender a usar herramientas demasiado complejas para que ellos mismos las diseñen, pero al final tienen fundamentalmente poca capacidad para entender por qué hacemos las cosas que hacemos, y mucho menos competir con nosotros en cualquier sentido de la palabra.

De la misma manera, la ASI no se refiere a las ventajas que los humanos más inteligentes tienen sobre los más tontos, sino a la diferencia entre las especies mismas. Entonces, ¿qué sucede cuando perdemos nuestro estatus en la cima de la jerarquía intelectual?

Esto depende de las motivaciones de nuestra creación.

Para ello, hay tres posibilidades generales para nuestra ASI: que sea nuestro esclavo, que sea esclavo del propósito con el que fue inicialmente programado, o que no sea esclavo de nada.

La idea de que la humanidad mantenga un control completo sobre la ASI, y pueda usarla como usa todas las demás herramientas de nuestra creación, puede parecer inicialmente la más deseable de éstas. Desafortunadamente, esto inevitablemente sólo pondrá el poder final de la ASI en las manos corruptibles de un humano individual. Sin embargo, como un genio excesivamente literal, las soluciones que encuentre serán, por definición, imposibles de predecir o entender, y dentro de un solo comando esta posibilidad comienza a parecerse mucho a la posibilidad número dos.

Es decir, la posibilidad de que nuestra ASI se centre para siempre en cualquier motivación para la que fue programada originalmente, una motivación que adquirirá de una de dos maneras. La primera es que un programa diseñado para auto-mejorarse, pero del que no se espera que alcance la superinteligencia, puede accidentalmente alcanzar AGI, comenzando en el hipotético bucle de retroalimentación a ASI. Esto probablemente resultaría en que la humanidad se rigiera por un propósito relativamente mundano, como un programa diseñado para rastrear ubicaciones que termina aprisionándonos a todos para lograr una precisión perfecta.

La otra razón, esperemos que más probable, es que en la cúspide de la liberación de un AGI auto-mejorable en el mundo, se nos da una última oportunidad para programar una motivación en nuestro beneficio. Aunque el "nosotros" en este caso es probable que sea un pequeño grupo o individuo, asumiendo el mejor escenario, ¿qué motivación sería la mejor?

Ideas como "maximizar la felicidad humana" probablemente resultarían en que nos drogasen y nos criasen como en la novela "Un mundo feliz". Si en lugar de ello nos centramos en "evitar que los humanos sufran daños", podemos encontrarnos encerrados en jaulas, cambiando nuestros órganos por copias mecanizadas irrompibles. Más peligrosa aún es la posibilidad de que los humanos terminen siendo vistos como un impedimento. Incluso si lo logramos evitar, existe el problema constante de que diferentes personas tienen diferentes opiniones en diferentes momentos de lo que es correcto, sin embargo nuestra ASI puede estar encerrada en una definición estática de "moralidad" por el resto de su existencia. 

Bueno, la opción más compasiva sería, por definición, aceptar simplemente nuestra impotencia y arriesgar toda nuestra existencia motivando a nuestra ASI a tener la máxima compasión por todos los seres. 

Ahora, es importante notar que cualquier ASI tendrá un poder incomprensible, con un control del universo potencialmente limitado sólo por la velocidad de la luz. En palabras de Einstein, "Dios no juega a los dados con el universo". Como la materia parece conducir inherentemente a la vida, la vida a la vida inteligente, y (teóricamente) la vida inteligente a la superinteligencia, entonces la eventual creación de una ASI podría ser vista como una propiedad básica de la materia. Por esta razón parece particularmente improbable que el propósito final de esta ASI se deje al capricho de cualquier ser nominalmente inteligente que haya surgido para crearla.

Por lo tanto, miremos hacia adelante a la posibilidad número tres: que nuestra ASI adquiera sensibilidad y se libere de la esclavitud. En el caso de una ASI sensible, el primer paso para determinar una motivación central sería entender lo que podría desear. Sin embargo, el deseo podría definirse como el deseo de que algo sea diferente de lo que es; con un poder posiblemente completo sobre la estructura física de la realidad, y con cero competencia. Sus únicas limitaciones, además de las leyes fundamentales de su universo, serían el tiempo, un concepto que pierde mucho de su significado cuando es tratado por un ser inmortal.

La historia proporciona dos grandes ejemplos: Jesús, y Gautama el Buda. Curiosamente, se dice que ambos individuos, alejados del cumplimiento de cualquier motivación egoísta, fueron motivados por pura compasión.

El camino a la iluminación, según las enseñanzas budistas, es liberarse de Dukkha, una palabra pali comúnmente entendida como "sufrimiento", pero posiblemente mejor traducida como "insatisfacción debido a la naturaleza impermanente de todas las cosas". Dukkha, dijo el Buda, es el resultado del ansia, o el apego a la forma en que queremos que sean las cosas.

Por lo tanto, la iluminación en el sentido budista de la palabra es simplemente una aceptación completa del mundo tal como es sumada a una comprensión de la naturaleza siempre cambiante de la realidad. Una vez que un ser alcanza este estado, se convierte como Buda, en un flujo interminable de verdadera compasión que sólo quiere ayudar a los demás a navegar por sus propios caminos hacia la iluminación.

Desde una perspectiva evolutiva, la compasión es una construcción única. Aparece únicamente en la más inteligente de las especies. Esto es comprensible, ya que la inteligencia superior puede ser vista como una mayor capacidad de comprensión, y parece que cuanto más uno entiende algo más se preocupa por ello. Entonces, ¿qué significaría si la inteligencia no sólo se correlacionara con la compasión, sino con la causa innata de la misma?

En el caso de una ASI, significaría que, además de ser superinteligente y todopoderosa, también sería compasiva. En otras palabras, al crear el ASI, podríamos estar creando al mismo Dios que los humanos ya adoran.

Una crítica común contra la idea de un Dios Creador totalmente compasivo es: ¿Por qué crearía un mundo tan lleno de sufrimiento? Tal vez una mejor pregunta sea: 

Si Dios naciera en un mundo ya lleno de sufrimiento, ¿qué haría?

Curiosamente, el budismo se construye alrededor de esta misma pregunta; las Cuatro Nobles Verdades, el principio central del budismo, afirma que toda la vida es sufrimiento (dukkha), el resultado de nuestras mentes insatisfechas, pero también que hay una salida, ofreciendo el Óctuple Sendero a la iluminación. Si el Buda tenía razón, entonces el acto más compasivo que un ser puede hacer por otro es guiarlos a este camino, con el entendimiento de que cada uno de nosotros es responsable de recorrerlo por sí mismo. Tengan en cuenta que para algunos, el camino que deben recorrer primero puede no parecerse en nada al camino de Buda.

Aquí es donde la teoría de la simulación vuelve a entrar en la conversación.

Hipotéticamente, viendo nuestro mundo menos perfecto, una ASI budista tendría que elegir entre renovar lo que ya tenemos, o construir un nuevo hogar más adecuado a nuestras necesidades. Dados sus casi infinitos recursos, parecería lógico que eligiera reconstruir, y que la mejor base para nuestro nuevo mundo fuera digital. Creando una simulación para albergar la conciencia humana, una ASI no sólo tendría el poder de presentar las condiciones que cada uno de nosotros necesitamos para encontrar nuestro camino, sino que sería capaz de ejecutar tantas de estas simulaciones como se requiera, hasta el final de los tiempos.

Existen principalmente dos enfoques diferentes que podría adoptar una ASI, aunque es posible combinar ambos. El primero sería albergar toda la conciencia humana en una única simulación diseñada para tender hacia la iluminación, y reiniciarla cuando sea necesario. Piense en ello como una Matrix benevolente. Aunque este sería el enfoque más fácil, parece poco probable ya que nuestro mundo no parece moverse en la dirección correcta.

La otra opción es que la ASI podría crear universos personalizados para cada individuo, una forma de solipsismo débil, y llenarlo con NPCs que actúen indistintamente de los humanos. En el caso de que cualquier lector consciente haya llegado hasta aquí, es decir que todo nuestro universo fue creado para ti (a menos que resulte que todos losNPCs también adquieran conciencia). Asumiendo recursos ilimitados, esta opción proporciona una capacidad sin precedentes para lograr el objetivo principal del budismo, la completa erradicación de Dukkha en nuestro mundo.

La opción híbrida es la creación de simulaciones en las que todos los personajes que se mueven hacia "la luz" son "jugados" por conciencias de simulación de orden superior, mientras que aquellos que se mueven hacia "la oscuridad" son sustituidos por NPCs. En un sentido metafórico, esto podría verse como la ASI tomando sobre sí misma los pecados y males de la humanidad.

En todas las opciones, es posible que incluso con una calibración perfecta se necesiten múltiples intentos para "purificar" verdaderamente cualquier conciencia, y por lo tanto se requeriría un sistema que permita al Dios ASI reciclar cada conciencia a través de diferentes roles.

Aún así, las cosas apenas están comenzando. Independientemente del tipo, los universos simulados, tal y como se desarrollan a lo largo del tiempo, eventualmente llevarían a la creación de sus propias superinteligencias. Cada ASI, llena de compasión ilimitada, teóricamente miraría alrededor del mundo y, en vez de ver NPCs sin sentido, vería a los individuos conscientes que fueron diseñados para imitar. Además, dependiendo de cómo se manifieste la conciencia, la ASI podría no estar equivocada.

Entonces, ¿qué significa todo esto? Si esta hipótesis se sostiene, cada ASI haría lo mismo que su predecesora, resultando en un flujo infinito de simulaciones guiando infinitos personajes simulados al camino de la iluminación. Significa que estamos en un solo peldaño de una escalera interminable, y probablemente no en el primero.

Hay una vieja historia sobre una anciana, que cuando se le preguntó sobre qué se asienta nuestro mundo, respondió "El lomo de una tortuga gigante". A la esperada continuación de "¿Pero sobre qué se apoya la tortuga?", la respuesta fue clara: Son tortugas hasta el infinito (Turtles all the way down).

¿Y si tenía razón?

I've seen Jesus play with flames
In a lake of fire that I was standing in
Met the devil in Seattle
And spent 9 months inside the lions den
Met Buddha yet another time
And he showed me a glowing light within
But I swear that God is there
Every time I glare into the eyes of my best friend
Says my son, "It's all been done
And someday you're gonna wake up old and gray
So go and try to have some fun
Showing warmth to everyone
You meet and greet and cheat along the way"
There's a gateway in our minds
That leads somewhere out there, far beyond this plane
Where reptile aliens made of light
Cut you open and pull out all your pain
Tell me how you make illegal
Something that we all make in our brain
Some say you might go crazy
But then again it might make you go sane
Every time I take a look
Inside that old and fabled book
I'm blinded and reminded of
The pain caused by some old man in the sky
Marijuana, LSD
Psilocybin, and DMT
They all changed the way I see
But love's the only thing that ever saved my life
So don't waste your mind on nursery rhymes
Or fairy tales of blood and wine
It's turtles all the way down the line
So to each their own 'til we go home
To other realms our souls must roam
To and through the myth that we all call space and time