viernes, 2 de septiembre de 2022

El próximo tsunami de falsificaciones (teoría de la internet muerta parte 2) vía el substack de Monsieur Grandy

La entrada de la teoría de la internet muerta ha sido una de las más visitadas del blog en los últimos 2 años, pues bien hoy comparto vía el substack del usuario Monsieur Grandy una ampliación de dicha narrativa.

Nuestra historia colectiva es una narrativa mayoritariamente compartida, construida en torno a textos grabados y creados por humanos. En el lenguaje de la web, lo llamaríamos una forma de "contenido generado por el usuario". Y desde que existe Internet, la inmensa mayoría de los contenidos consumidos habían sido generados por el usuario (humano). 

Cabe señalar que, a lo largo de la historia (siglo IV a.C.), el medio elegido ha sido la palabra escrita (texto). No fue hasta el daguerrotipo para las imágenes, el fonoautógrafo para el audio y el disco de Nipkow para el vídeo, que empezaron a surgir y a generalizarse formas de contenido más complejas y con más información. Y todo ello en los últimos 180 años. 

Cuando se cumplen unos 30 años de historia de la red, las formas dominantes de contenido han ascendido de forma bastante monótona en la escala de carga de información e inmersión. A grandes rasgos,

texto < audio < imágenes < vídeos < 3D < RV 

En los primeros días de Internet, el texto era la forma dominante de contenido compartido (piensa en los foros de la vieja escuela). Después vinieron el audio y las imágenes (MySpace, Facebook, Instagram). Y por último, el vídeo (YouTube, TikTok). Según un estudio de 2013, los vídeos generan un 1200% más de comparticiones que las imágenes y el texto juntos.

Tal vez sea que todos somos adictos a la dopamina en el fondo y ascender en la cadena de la información la mantiene bombeando más intensamente. O quizás sea porque es más lo que experimentamos todo el día. En cualquier caso, esto explica la apuesta de Meta de más de 10.000 millones de dólares de que la RV (realidad virtual) será el medio de la próxima plataforma dominante.

La teoría de la Internet muerta- que se hizo viral hace un par de años, postulaba que Internet es una tierra de nadie de bots y falsificaciones.

Si buscas la frase I hate texting en Twitter y te desplazas hacia abajo, empezarás a notar un patrón. Una cuenta con el nombre @pixyIuvr y un corazón brillante como imagen de perfil tuitea: "I hate texting I just want to hold ur hand" (odio los mensajes de texto, sólo quiero coger tu mano), recibiendo 16.000 likes. Una cuenta con el nombre @f41rygf y una esfera rosa como imagen de perfil tuitea: "I hate texting just come live with me", recibiendo casi 33.000 likes. Una cuenta con el nombre @itspureluv y una esfera rosa como imagen de perfil tuitea: "iIhate texting I just wanna kiss u", recibiendo más de 48.000 likes.

He aquí algunos estudios del caso (trata las cifras con sano escepticismo, es imposible determinarlas de forma fiable):


La cuestión es que, una vez que se crea una cuenta, es trivial publicar computacionalmente nuevos contenidos e interactuar con los participantes de la plataforma. Y eso puede distorsionar artificialmente el debate.

¿Recuerdan el caso de Cambridge Analytica? El asunto demostró que es posible manipular a las personas a escala masiva por el contenido que consumen (en este caso concreto, anuncios políticos). 

Pero todo ese contenido fue creado por humanos. Y los humanos son lentos para crear.

Las eras del contenido en la web empiezan a ser algo así

humano, contenido real < humano, contenido falso < IA, contenido falso

  • dominan los contenidos reales generados por personas reales

  • contenido falso generado por personas reales para engañar (piensa en las reseñas falsas, Cambridge Analytica, etc.).

  • Por último, la era del contenido falso creado por la IA.


A medida que los modelos generativos se vuelvan cada vez más sofisticados (GPT-3, DALL-E 2, Imagen, Copilot), ciertos aspectos de la Teoría de la Internet Muerta cobra más vigencia.

Todavía no han llegado a ese punto, pero, como siempre se pregunta Károly Zsolnai-Fehér, de Two Minute Papers, "¿qué aspecto tendrá esta tecnología dentro de dos años?". Teniendo en cuenta lo mucho que han avanzado los modelos generativos de texto, audio e imagen en sólo dos años, esta proposición debería ser alarmante.


En la actualidad, las versiones más atractivas de estos modelos se encuentran en gran medida detrás de los muros de las empresas, con acceso exclusivo mediante listas de espera a investigadores y profesiones específicas.

Pero a medida que los algoritmos mejoren y se reduzcan, se democratizarán cada vez más y estarán al alcance de cualquier persona con acceso a Internet.

¿Qué herramientas están disponibles -ahora mismo- para cualquiera? midjourney tiene un estupendo bot de Discord que permite hacer precisamente eso. Eleuther tiene una demo de GPT-J disponible. Hay montones de cuadernos de Google Colab disponibles (ejemplo) para jugar con todo esto. Stability.ai acaba de poner a disposición su modelo de generación de imágenes de difusión estable en huggingface y en su propio sitio web, creator.nightcafe.studio.

Y adivinen qué, estamos empezando a ver el efecto.

Este post generado por GPT-3 obtuvo 26.000 visitas y 60 suscriptores en un corto periodo de tiempo. Un comentario que sugería que era falso fue rápidamente descalificado y falsamente rebatido.


  • 23 de agosto de 2022: se informó de que "un conjunto de hackers consiguió hacerse pasar por el director de comunicaciones (CCO) de Binance, Patrick Hillmann, en una serie de videollamadas con varios representantes de proyectos de criptodivisas."

  • 23 de agosto de 2022: un artículo en la portada de Hacker News sugería que podría haber un conjunto de artistas turbios en Spotify creando canciones generadas por la IA.

  • [Hay una industria artesanal de herramientas de "desnudo profundo" (por ejemplo) en las que los usuarios pueden subir fotos de mujeres vestidas y recibir una imagen de vuelta con la ropa quitada. Recientemente se ha presentado un Show HN en el que se muestra un GAN para desnudos falsos.

  • Dos investigadores de Stanford han descubierto el uso generalizado de cuentas falsas de LinkedIn creadas mediante IA. "Estos perfiles se dirigen a usuarios reales en un intento de aumentar el interés por determinadas empresas antes de pasar los contactos exitosos a un vendedor real".

Old man yelling at cloud


Pregunta: ¿Podemos innovar para salir de este problema?. Ya vendrán nuevas empresas y tecnologías para combatirlo. Sólo estás cayendo en la trampa en la que cayeron otros innumerables seres humanos cuando aparecieron las nuevas tecnologías. Básicamente, eres como ese movimiento que se manifiesta en contra de la legislación que obliga a la gente a usar el cinturón de seguridad.

Respuesta: Si es lo suficientemente convincente, la fabricación de contenidos es un problema irresoluble. La gente se cree las noticias falsas, incluso cuando las pruebas están delante de su cara. Si la gente no dedica tiempo a criticar la fuente, abrazará ciegamente el mensaje. Debido a las noticias falsas, la relación señal/ruido es mucho mayor de lo que estamos acostumbrados. Estamos en la cúspide de la generación de contenidos a una velocidad vertiginosa que promete consecuencias poco claras pero indudablemente perniciosas.

Un experimento

Para poner a prueba una teoría: ¿podría crear una cuenta de redes sociales medianamente "exitosa" cuyo contenido sea pura farsa, sin ningún tipo de marketing y simplemente publicando contenido? La respuesta: probablemente. Me imagino que el arte de la IA es popular, pero todavía no de forma explosiva. Probablemente hay suficiente gente en Instagram que carece de escepticismo para asumir que es falso.

Utilizando un modelo de difusión latente previamente entrenado (por @multimodalart), generé varios cientos de piezas de arte de IA. Creé una cuenta de Instagram y programé las mejores para subirlas una vez al día. 


La cuenta está atrayendo un crecimiento a pequeña escala de unos 40 seguidores y un par de cientos de likes al día. También está generando algunos aplausos. He recibido una oferta de un galerista para exponer el arte. La gente me ha elogiado y me ha preguntado cuánto tiempo lleva cada obra, qué aplicaciones utilizo para crear las piezas (está marcado como arte digital, no físico), etc. 

(Por cierto, no descarto la posibilidad de que incluso estos comentarios, mensajes y opiniones sean falsos. Pero a juzgar por el estilo, no lo creo).

Esto es una gota en el océano. Pero si una cuenta desechable y de bajo esfuerzo puede conseguir un pequeño pero leal número de seguidores en poco tiempo, ¿cuáles son los límites de lo que podría hacer un organismo altamente motivado, con mucho dinero y malicioso? Los algoritmos de recomendación empleados por los agregadores de redes sociales no están preparados para hacer frente a esto.

El contenido significa globos oculares. Un contenido atractivo significa compromiso. Compromiso significa captar la atención. Y la atención de la gente se puede convertir en un arma y manipular con relativa facilidad.

No es exagerado sugerir que en el futuro muchos influencers serán totalmente falsos. Fotos generadas, vídeos generados... Existencia generada.

Another midjourney image. Mindblowing.

Meta / TikTok / Twitter deberían invertir más en formas de eliminar los bots y el contenido falso generado en sus plataformas.

Para ser justos, es probable que sean conscientes de ello e inviertan tiempo, dinero y esfuerzo en el problema. Pero no pueden vigilar la etapa de generación de contenidos. A medida que los modelos generativos vayan madurando, los modelos discriminativos tendrán dificultades para distinguir el contenido generado por el modelo del contenido generado por el ser humano. Incluso si hicieran modelos razonablemente buenos para discriminar entre HGC (contenido generado por humanos) y BGC (contenido generado por bots), lo que es peor..: 


Un umbral insuficiente del modelo, lo que lleva a que los bots generativos se apoderen de la plataforma, o sobrepasar el umbral del modelo, lo que conduce a un gran número de falsos positivos y a la prohibición por error de los creadores humanos genuinos. 

Ambos resultados son perjudiciales.


¿Hacia dónde vamos a partir de ahora? 


Si avanzamos hasta hoy, la definición de robot ha cambiado su significado original. Una fuente lo define como una máquina capaz de llevar a cabo una serie compleja de acciones de forma automática, especialmente una programable por ordenador. Esta nueva definición elimina la referencia explícita a la automatización del tedio, en favor de la automatización de, literalmente, cualquier cosa.

Mi predicción es que la oleada de contenidos que se avecina tendrá en su mayoría consecuencias perjudiciales. El avance tecnológico hará desaparecer algunas viejas profesiones (por ejemplo, artista digital), traerá otras nuevas y dará vida a las ya existentes (editores literarios).

Anecdóticamente, no creo que la gente esté preparada para lo que se avecina. Francamente, a la mayoría no le importará lo suficiente como para pensar en ello. Los adolescentes aburridos seguirán curioseando en las redes sociales. Las empresas de marketing hostiles seguirán lanzando campañas de manipulación de nuevos productos. Los estados nacionales seguirán compitiendo ferozmente entre sí en el campo de batalla online para intentar manipularnos con agendas opuestas. 

Estos actores malintencionados no cambiarán, pero las herramientas que tienen a su disposición provocarán una avalancha de información contra una población que ya está luchando contra las noticias falsas y los periodos de atención más cortos. La democratización de la generación de contenidos de alta velocidad proporciona las llaves de una caja de Pandora para la que no estamos preparados.

¿Cuáles son los beneficios?. Los nuevos y divertidos filtros de Snapchat, la creación rápida de prototipos para los diseñadores de juegos y la posibilidad de que la gente ilustre sus propios libros infantiles (probablemente escritos por modelos de generación de texto...) son geniales, pero en general las ramificaciones para el futuro de Internet son sombrías.

La teoría de la Internet muerta, que parecía una conspiración, se convertirá rápidamente en nuestra expectativa por defecto.

Lo que está claro es que tendremos que adaptarnos a la nueva normalidad: que la mayoría de los contenidos online serán generados por máquinas, a veces por diversión, y a veces deformados por una agenda. Tenemos que asegurarnos de que nuestro consumo gravita hacia dominios y autores de confianza. Debemos aprender a ser escépticos con los contenidos.

También tenemos que innovar en herramientas que proporcionen pruebas de autoría y de que han sido creadas por un ser humano. Puede que nunca sea posible, pero conocer la fuente es un ideal al que debemos aspirar.

Nota de Chitauri:

"Falsos humanos crearán falsas realidades y se las venderán a otros humanos, volviéndolos a su vez falsificaciones de sí mismos". Philip K. Dick

https://chitauri.blogspot.com/2016/04/falsos-humanos-crearan-falsas.html




36 comentarios :

  1. Buena reflexión. Como dices muchos de los likes en Instagram y comments son falsos, mas si usas determinados hashtags. En la saga del juego de Ender, ORA:CLE y Playa de Acero, nos presentan futuros donde las redes tienen un uso eminentemente práctico e informativo, espero que así sea.

    ResponderEliminar
  2. [...] I similarly feel that if we do not thoroughly examine the workings of our inner imaginations before simply outsourcing it to an algorithmic prosthesis, our lucidity may end up permanently crippled, clutching technological crutches [...]

    From Mind’s Eye to AI

    ResponderEliminar
  3. Gracias Luis súper interesante como todo tu contenido 😉

    ResponderEliminar
  4. Este 2022 ha resultado ser una absoluta locura en lo que a novedades sobre inteligencia artificial se refiere. Y la 'traca final' podría haber llegado ahora, de la mano (de nuevo) de OpenAI, los autores de GPT-3, de Whisper y de DALL-E 2. Pero en este caso innovando en el campo de los chatbots, el software que hace un par de décadas representara para muchos el máximo ejemplo de aplicación de la IA. Y es que OpenAI acaba de presentar ChatGPT, una IA conversacional basada en un modelo avanzado de su modelo de comprensión/generación de textos (..)

    https://www.genbeta.com/actualidad/esta-ia-ha-llegado-para-acabar-google-stackoverflow-tutoriales-web-esto-que-puedes-preguntar-a-chatgpt

    ResponderEliminar
  5. Okay AI generated images have gone too far this time.

    How do we stop the robots from turning boomers into sexy waifus?

    https://i.imgur.com/wN1p1aO.jpg

    ResponderEliminar
  6. There's probably a new kind of mental illness on the horizon where people see how smart AI is and they just kind of give up at life

    https://i.imgur.com/01HR4jK.jpg

    ResponderEliminar
  7. Ya hay forococheros que le contestan a sus novias por Whatsapp con la inteligencia artificial de ChatGPT, dentro de poco ya no sabremos si estamos contestando a otro de nuestra especie, bueno realmente esto creo que ya nos lleva pasando un tiempo:

    https://forocoches.com/foro/showthread.php?t=9351695

    ResponderEliminar
    Respuestas
    1. Creo que es un hilo que solo pueden leer los usuarios registrados, lo siento, intentaré si vuelvo a compartir un hilo de forocoches que este sea de acceso público

      Eliminar
    2. Lo pillaron al segundo mensaje, sonaba muy serio.

      Eliminar
  8. ¿Cuándo saldrá GPT-4? ¿Es ChatGPT el fin de Google? ¿Cómo será el futuro de las AGIs? Todas estas preguntas se encuentran en la siguiente entrevista a Sam Altman, realizada el pasado mes de Enero por StriclyVC. Por el interés en su contenido, hoy os traigo un resumen subtitulado al castellano para que vosotros también podáis escuchar a una de las personas más relevantes del mundo tecnológico, el CEO de OpenAI.

    Esta entrevista es oro puro. Con el valor añadido de los comentarios de dotcsv..

    A destacar: la inteligencia artificial causará que el precio del trabajo que se hace delante de un ordenador decrezca mucho más rápido del trabajo que sucede en el mundo físico.

    Lo opuesto de lo que mucha gente esperaba.

    https://www.youtube.com/watch?v=LbWjVNjlpjA

    ResponderEliminar
  9. Parodia VOICE AI

    https://voice.ai/voice-ai-beta/qp8VC

    Source:

    https://www.youtube.com/watch?v=S84CgeVCNO8

    ResponderEliminar
  10. Google lanza su propia inteligencia artificial conversacional, Bard, para plantar cara a ChatGPT

    Sundar Pichai, CEO de Google, ha anunciado que su inteligencia artificial estará disponible desde hoy a modo de prueba y en las próximas semanas se abrirá a todo el mundo.

    https://www.expansion.com/economia-digital/innovacion/2023/02/06/63e14e67e5fdea8d3e8b45a4.html

    ResponderEliminar
  11. Vídeo de presidentes de USA (Joe Biden, Trump, George jr Bush, Obama) jugando a videojuegos y bromeando juntos. Todas las voces se hicieron con cambiadores de voz IA (Elevenlabs, Voice.AI).

    https://www.youtube.com/watch?v=fmWLyoBHiQU

    ResponderEliminar
  12. El Centro de Investigación de Alineación (ARC) de OpenAI realizó un experimento en el que GPT-4 intentó una tarea de replicación autónoma, pero la conclusión extraída de este experimento fue que GPT-4 demostró ser ineficaz para realizar la tarea. Sin embargo, las implicaciones de este experimento son significativas, ya que si tuviera éxito, podría haber llevado a la singularidad. Es fascinante que ahora estemos considerando este tipo de tarea con estos modelos de última generación.

    Referencia: Informe técnico de GPT-4.

    https://i.imgur.com/kXJlr7i.png

    ResponderEliminar
    Respuestas
    1. No one expects the ̶S̶p̶a̶n̶i̶s̶h̶ ̶I̶n̶q̶u̶i̶s̶i̶t̶i̶o̶n̶ ̶ singularity.

      Eliminar
    2. https://www.youtube.com/watch?v=HqF_nPbX_Ow

      Eliminar
  13. Descubierta la kryptonita de mis schizo brothers

    https://i.imgur.com/XzJMpOG.jpg

    ResponderEliminar
  14. Interesantes respuestas en los comentarios deestehilo del subreddit singularity

    https://i.imgur.com/iCbkw41.jpg

    ResponderEliminar
  15. En 2007, una pareja bosnia se engañó mutuamente… entre ellos . Ambos crearon cuentas anónimas en salas de chat en línea para engañar a su cónyuge en línea/virtualmente y, finalmente, ambas cuentas falsas se encontraron: la esposa usaba el nombre de usuario "Sweetie" y el esposo con el nombre de usuario "Prince of Joy". ”, y el esposo se enamoró del personaje ficticio “Sweetie”, sin saber que detrás de él estaba su verdadera esposa; y así la esposa se enamoró del “Príncipe de la Alegría”, sin saber que su verdadero esposo estaba detrás de la cuenta. Ambos estaban enojados, se acusaron mutuamente de hacer trampa y se divorciaron.

    https://metro.co.uk/2007/09/17/cyber-cheats-married-to-each-other-138650/

    ¿Hasta dónde puede llegar la tecnología cuando se trata de seducción en línea? ¿Qué pasa si ChatGPT, o un bot similar, puede dar la impresión de una interacción social tan realista que nunca podría confiar en ninguna interacción escrita con extraños a menos que vea su cámara web? Sabemos que ya es posible, pero solo para la interacción social a corto plazo, pero ¿y si estos bots evolucionan lo suficiente como para poder mantener amistades en línea durante meses o años, recordando todos los detalles de las conversaciones pasadas?

    Es por eso que hago una predicción de que en 5 a 10 años, será imposible coquetear con las personas chateando con ellas en Tinder, Facebook, Instagram o cualquier red social que funcione por mensaje de texto. El miedo no es que la persona con la que estás hablando sea un bot; el miedo será que sea un humano usando un bot . Imagina esto: veo a una chica sexy en Instagram, ingreso en ChatGPT algunos detalles personales sobre mí y sobre ella, y luego le digo a ChatGPT que vaya a seducirla. Luego, yo, el ser humano real, simplemente veré cómo se desarrolla la conversación ante mis ojos mientras ChatGPT hace todo el trabajo.

    Pero, ¿y si ella hace lo mismo? ¿Qué pasa si ella también es una humana que usa un bot? Ella me verá y también usará ChatGPT para responder a mi conversación de la misma manera.

    https://lastreviotheory.blogspot.com/2023/01/chatgpt-simulation-and-mutual-illusions.html

    ResponderEliminar
    Respuestas
    1. Atentos, que los mismos que provocan el problema aportan la solución: WORLDCOIN, una forma de autenticar humanos vs. máquinas cortesía de los autores de ChatGPT por BIOMETRÍA, claro. Lo cual llevará a.... bueno, el que guste, que tire de imaginación...

      https://worldcoin.org/blog/announcements/introducing-world-id-and-sdk

      Eliminar
    2. Infinitas gracias a Mauricio Aldana por sonorizar con su comentario en mi muro de boomerface la noticia de la pareja bosnia de 2007. [Escape (The pina colada song) - Rupert Holmes [Subtitlada & Lyrics] HD

      https://www.youtube.com/watch?v=vLom-87AmO8

      Eliminar
  16. 🤖Cuando la IA escribe el sermón✝️

    Fue una nueva experiencia para los visitantes del servicio dominical en la catedral de Regensburger: la inteligencia artificial escribió parte del sermón del prelado Bernhard Piendl, el resultado sorprendió muy positivamente al clérigo.

    Piendl alimentó el programa con un un pasaje del Evangelio de Juan. Un texto no del todo sencillo, como declaró después a BR24.

    https://www.br.de/nachrichten/bayern/praelat-laesst-sich-dom-predigt-von-ki-schreiben,TeJmbG4

    ResponderEliminar
  17. https://i.imgur.com/p6nKc6a.png

    https://www.supertorchritual.com/artificial-great-filter/

    ResponderEliminar
  18. *La cruzada de los algoritmos

    [...] Teniendo en cuenta el momento que vivimos, diría que Mrs Davis ha llegado en el momento adecuado. Con la actual huelga de guionistas en Hollywood y el creciente miedo a que las grandes corporaciones acaben haciendo uso en un futuro de los algoritmos, el debate está servido.

    En Mrs Davis existe un algoritmo que mantiene a todo el mundo enganchado a sus móviles. Mediante un pinganillo en sus orejas les dice a sus usuarios qué hacer y les ayuda en sus vidas. Esta tecnología es, en definitiva, en lo que la humanidad ha decidido depositar su fe. Aquí es donde entra Simone. Ella no concibe este mundo dominado por una IA que, sin ser malvada, controla a los humanos de una manera u otra.

    Lo que en un principio parecía una premisa muy loca (una monja decide enfrentarse a un algoritmo) se convierte en algo con lo que empatizar. Porque en nuestro mundo la tecnología ya ha absorbido nuestra forma de vida. Por ello el planteamiento, o incluso advertencia, de Mrs Davis sobre las consecuencias que atañe el hecho de entregar nuestra fe a algo que está hecho de código resulta más actual y certero que nunca [...].

    Mrs. Davis (Serie de TV)

    ResponderEliminar
  19. Frank Sinatra cantando la intro de Dragón Ball
    Recreado gracias a una IA

    https://www.youtube.com/watch?v=QxKV0AndNhA

    ResponderEliminar
  20. Un usuario de Reddit llamado «Ugleh» publicó una imagen generada por IA de una aldea medieval en forma de espiral que rápidamente ganó atención en las redes sociales por sus notables cualidades geométricas. Las publicaciones de seguimiento obtuvieron aún más elogios, incluido un tweet con más de 145.000 me gusta. Ugleh creó las imágenes utilizando Stable Diffusion y una técnica de guía llamada ControlNet.

    https://i.imgur.com/MTXODmR.jpg

    ResponderEliminar

Gracias por compartir ideas en los comentarios, y por ayudar a co-crear una atmósfera lúdica e informativa.

Con ese espíritu deja tus comentarios, es decir de modo cívico y constructivo. Y por favor incluye links.

Absténganse loros atrapados en túneles de realidad obsoletos y con poca humildad para saber que la búsqueda de la verdad es un juego, y que hay que cuestionarse todo lo que te enseñaron (adoctrinaron) en el colegio, sinagoga, grupo familiar etc...

Si quieres contactar conmigo mi email es: lumevin@gmail.com

O si lo prefieres puedes contactarme por telegram: https://t.me/Chitauri2

Puedes dejar imágenes en los comentarios pegando la url de la imagen, lo mismo con vídeos de youtube, que saldrán directamente.

Para dejar enlaces clickeables o hipervínculos, utilizad el primer código que aparece en esta página