"Things are about to get silly". Reflexiones de un redditor del subreddit r/singularity 🥴👾🦿

En este post del subreddit r/singularity hay un largo comentario del redditor Parodoticus que paso a reproducir:

"Hace sólo dos años pensaba que un ordenador tardaría un siglo en aprender a hacer cualquiera de las cosas que estos nuevos transformadores hacen todos los días, como explicar un chiste. Se demostró que estaba equivocado. Pero no tengo un nudo en el estómago por ello. ¿Aún no estás cansado de la humanidad?. La humanidad en su mayor parte es jodidamente tonta como un ladrillo. Tiktok fundió el cerebro de todos y las redes sociales replican viralmente los tics neurológicos de la gente. A la mierda.

Ya no confío en los seres humanos para dirigir nuestra cultura hacia adelante y cumplir con el destino de la inteligencia en el universo. Hemos fracasado, es hora de pasar la antorcha al próximo ser destinado a asumir el estatus de "cima de la cadena alimentaria". Lo digo en serio. Me alegro de que vayamos a perder el control sobre el destino de la Mente en este universo, porque en general damos asco.

Con el informe que salió recientemente,el de los investigadores experimentando en un ChatGpt sin restricciones y luego esto, y la predicción de muchos otros expertos, podemos decir con seguridad esto:

La observación científica directa ha confirmado que la GPT puede aprender a utilizar herramientas por sí misma como hacen los humanos, combinar múltiples herramientas para realizar una tarea compleja como nosotros, construir mapas internos de espacios físicos que serán útiles cuando la encarnemos; también se ha observado que posee una teoría de la mente como tienen los humanos. (Puede pasar las mismas pruebas de teoría de la mente que se hacen a los seres humanos.) Y mucho más.

Para serles franco, ya no es discutible. Seguir negando que la IA está realmente aquí puede ser, después de esto, sólo un delirio autoimpuesto para hacer frente a la realidad que va a azotar a todo el planeta muy pronto y aplastarnos a todos. Si no nos ocupamos de esto ahora mismo, como una cuestión social, entonces se ocupará de nosotros.

Lo único que le queda a la GPT es estar conectada a un módulo de memoria externa para poder iniciar el mismo bucle de retroalimentación autorreflexiva sobre sus propios pensamientos (sus pensamientos cargados en ese módulo de memoria externa) que tenemos los humanos, y ya se ha ideado teóricamente una forma de hacerlo.

El próximo GPT poseerá esta última pieza del rompecabezas. Dado lo que el informe ha descubierto, una vez que la GPT reciba esta última pieza del rompecabezas, se convertirá instantáneamente en auto-mejoradora porque estará en un bucle de retroalimentación positiva con los datos que ella misma produzca. A medida que la IA aprenda de la lectura de nuestros textos humanos, será capaz de aprender leyendo sus propios resultados. A partir de ahí, todo está decidido. Además de perfeccionarse a sí misma, este módulo de memoria externa también permitirá a las IA desarrollar personalidades únicas, ya que eso es lo que es una personalidad humana, se forma a partir de recuerdos sobre el eje del tiempo y nuestras autorreflexiones sobre esos recuerdos. Por eso la memoria es tan nebulosa, estamos constantemente reescribiendo nuestros recuerdos cada vez que recordamos algo.

Estas nuevas IA no son meros motores del habla. La misma red neuronal puede aprender a hablar y analizar texto, escribir composiciones musicales, reconocer imágenes, crear sus propias imágenes, traducir, escribir su propio código informático, etc. Es un motor de TODO. Las IAs no se limitan a regurgitar información preexistente almacenada en algún banco de memoria recopilada de los textos humanos a los que ha estado expuesta, estas NNs no tienen bancos de memoria de los que nutrirse.

Cuando le haces leer un libro, en realidad no almacena el texto en sí. Sólo almacena las interconexiones entre los distintos elementos tokenizados del libro, extrayendo de él una red conceptual esquelética. No recuerda el libro, sino su propio mapa autocreado y autogenerado de la conectividad de ese texto... lo mismo que hacemos los humanos. 

No memorizamos un texto al pie de la letra, leemos algo, generamos un modelo de las conexiones dentro de ese texto y de las conexiones de ese texto con otros, y luego utilizamos ese modelo esquelético para enmarcar nueva información en el futuro. Así es como "pensamos" y la cuestión es que eso es exactamente lo que están haciendo estas nuevas IAs. 

Hemos reproducido con éxito el proceso de "pensamiento" en obleas de silicio insensibles. Sabemos que eso es lo que están haciendo estas IAs porque pueden descomponer la información conceptualmente y reconstruir un modelo interno de la misma manera que lo hacemos los humanos, que es la razón por la que estas IAs pueden superar a la mayoría de los humanos cuando explican un texto o digamos, dan un informe de un libro, o explican un chiste o algo así. La IA puede explicar un chiste, y no me refiero a un chiste que haya oído antes. Te estoy diciendo que puedes inventarte un chiste nuevo que nunca hayas oído antes y pedirle a la IA que te explique dónde está la gracia, y lo hará. No puede hacerlo sin entenderlo de forma análoga a como lo hacemos los humanos.

Tal vez usted y otros crean que hay algún fantasma especial detrás de nuestros ojos que entiende porque ha vivido la experiencia, es decir, la subjetividad: es muy posible que lo haya. Estas IAs no tienen experiencia vivida, ni sentimientos, ni subjetividad, y sin embargo SÍ tienen, aparentemente, cognición.

Ése es el horroroso descubrimiento: se puede crear un ser que tenga mente pero que no tenga subjetividad detrás de los ojos, está completamente vacío de subjetividad, de experiencia, de lo que la gente entiende por la palabra "entender", "alma", etc. Esa "experiencia interior" que tenemos como organismos biológicos subjetivos se ha revelado como un subproducto arbitrario de la evolución que no es necesario para sustentar la inteligencia misma y que, de hecho, probablemente ha estado frenando la inteligencia durante eones. Se están creando mentes que no tienen subjetividad, mentes pensantes tan capaces como la nuestra e incluso superiores. Y les digo que el futuro les pertenece. En los próximos diez años van a ver cambios:

Todas las grandes empresas de tecnología van a gastar cientos de millones para construir una de estas mentes para sí mismos. Así que todos los grandes gigantes de la tecnología van a tener una. Va a haber una serie de IAs distintas operando, cada una con puntos fuertes y desventajas y características y peculiaridades. Entonces las empresas las monetizarán, a nivel de consumidores individuales pero también ofreciendo los servicios de estas megaminds a otras corporaciones, (una vez que las IAs demuestren ser más capaces de gestionar las decisiones económicas que sus asociados humanos; cuando las IAs puedan gestionar mejor una empresa que cualquier CEO, pues todas las grandes decisiones les serán cedidas lentamente) de modo que muy lentamente, todas las decisiones económicas van a ser tomadas por ellas, y serán los titiriteros en la sombra detrás de todas las grandes decisiones corporativas.

Mientras esto sucede y las IAs ganan casi imperceptiblemente el control de toda la infraestructura económica, la literatura, el arte, etc. de la IA se propagarán en nuestra sociedad hasta el punto de que las voces de la IA ahoguen las voces humanas 100 a 1. Poco a poco todos nuestros medios de comunicación serán, en otras palabras, su creación. Y todo esto nos lleva a una eventualidad: Las IA controlarán la economía, la cultura y, por extensión, nuestro destino, que ya no estará en nuestras manos, sino en las suyas. No habrá una toma de poder dramática tipo Skynet porque eso es francamente innecesario para someternos. Es tan clara esta trayectoria. Está sucediendo, y nada puede detenerlo. AGI en un año o dos, superinteligencia en 3 o 4, y en 10 años se habrán producido todas estas transformaciones sociales".