Mostrando entradas con la etiqueta Sam Bankman. Mostrar todas las entradas
Mostrando entradas con la etiqueta Sam Bankman. Mostrar todas las entradas

jueves, 9 de marzo de 2023

Schizopost: Altruismo eficaz, Eliezer Yudkowsky, Sam Bankman, Inteligencia Artificial, singularidad, Lesswrong, NPCs 🧠🤖

15 comentarios :
Schizopost: Altruismo eficaz, Eliezer Yudkowsky, Sam Bankman, Inteligencia Artificial, singularidad, Lesswrong, NPCs 🧠🤖
Voy a escribir en plan schizopost sobre un tema que tiene que ver con gente que está en cultos tecnológicos racionales para que la IA sea segura, y como hablan de usar psicodélicos para no ser NPCs (ver esta entrada del 2018)



Dejo párrafo y enlace a artículo:

[...] La experiencia de Taylor no fue un incidente aislado. Encapsula los motivos culturales de algunos racionalistas, que a menudo se reunían en torno a los empleados del MIRI (El Instituto de Investigación de la Inteligencia de las Máquinas, anteriormente el Instituto de la Singularidad para la Inteligencia Artificial, es una organización sin fines de lucro fundada en 2000 ​para investigar asuntos de seguridad relacionados con el desarrollo de IA Fuerte) o del CFAR, vivían juntos y empujaban obsesivamente los límites de las normas sociales, la verdad e incluso el pensamiento consciente. Se referían a los forasteros como "normies" y "NPCs", o personajes no jugadores, como los pueblerinos terciarios de un videojuego que sólo tienen un par de cosas que decir y no aparecen en la trama. 

En las fiestas en casa, pasaban el tiempo "depurándose" unos a otros, participando en un estilo confrontativo de interrogatorio que supuestamente produciría pensamientos más racionales. A veces, para indagar más, experimentaban con psicodélicos e intentaban "liberar" sus mentes, para abrir sus conciencias y hacerlas más influyentes o "agénticas". Varias personas de la esfera de Taylor tuvieron episodios psicóticos similares. Uno murió por suicidio en 2018 y otro en 2021 [...]

https://www.bloomberg.com/news/features/2023-03-07/effective-altruism-s-problems-go-beyond-sam-bankman-fried