El riesgo catastrófico y el riesgo existencial

Factores críticos

Imprevisibilidad radical

• Antrocomplejidad, complejidad multisistémica, sistemas complejos/caóticos alejados del equilibrio, nuevas tecnologías (no bien comprendidas), tasas exponenciales de cambio, tecnología catastrófica distribuida no supervisable.
• Ecología de la información rota: desinformación mayoritaria, desinformación intencionada, señal real oscurecida intencionadamente, factores críticos no supervisados, señal no separable del ruido en la actualidad.
• Modelos de predicción y supervisión inadecuados.

Cascadas, fragilidad y amplificación

• La interconectividad de los sistemas hace casi inevitable que problemas antes contenibles afecten a otros sistemas y creen efectos en cascada.
• La fragilidad actual de los sistemas humanos y ecológicos reduce radicalmente el umbral mínimo de energía necesario para los escenarios de colapso.
• Amplificadores de varios tipos, si se desencadenan, pueden hacer que catástrofes relativamente limitadas escalen rápidamente hasta convertirse en sucesos de nivel existencial.

Retroalimentación positiva e irreversibilidad

• Muchas fuerzas desequilibradoras son controladas por una fuerza reguladora hasta cierto punto, más allá del cual, la fuerza reguladora cambia de dirección y crea una retroalimentación positiva desbocada. Los puntos de irreversibilidad se producen antes de que se produzcan todas las consecuencias. Hay que evitar que todos los sistemas sujetos a bucles de retroalimentación positiva alcancen puntos de irreversibilidad.

Tecnología exponencial distribuida

• Nueva tecnología de nivel catastrófico, descentralizada y no supervisable. En su estado actual, estos escenarios son en gran medida imprevisibles y pueden dar lugar a una mayor amplificación.

Aceleración

• Todos los problemas anteriores no sólo aumentan, sino que se aceleran: múltiples curvas exponenciales que se cruzan e interactúan con sistemas complejos de soporte vital cada vez más frágiles.

Funciones generadoras de autoterminación

- (Casi) todos los riesgos catastróficos tienen las mismas funciones generadoras subyacentes. Es de esperar que puedan frenarse tal como están, de uno en uno, con inversiones radicales... pero son inevitables con las funciones generadoras para la autoterminación aún vigentes. Todas las funciones generadoras deben transformarse en funciones de resiliencia, coherencia y aumento de la sintropía.

- Ejemplos de funciones generadoras: incentivos perversos, bucles de retroalimentación rotos, dinámicas de ganar-perder teóricas del juego multiplicadas por tecnología exponencial, incentivos para la toma de decisiones a corto plazo sobre temas con consecuencias a largo plazo, etc.

Categorías de riesgo

- Hay muchas formas de taxonomizar los riesgos. Este documento sólo enumera las categorías de alto nivel a efectos de poder tener una visión general. Las taxonomías detalladas con evaluaciones de escenarios, plazos, probabilidades, etc. quedan fuera del alcance de este breve documento.

- La mayoría de estas categorías crean sucesos que pueden desencadenar otras categorías. Piense en cada una de ellas como posibles orígenes de cascadas de retroalimentación positiva/amplificación.

Ejemplos aproximados:

• Fallos del sistema humano

- Fallos locales en la economía, el gobierno, los servicios de emergencia, las comunicaciones, las infraestructuras, etc., que provocan desplazamientos humanos, violencia, etc.

- Los fallos relacionados con las instalaciones de refrigeración de la energía nuclear y la contención de sustancias tóxicas se amplifican rápidamente.

- Estos sistemas son radicalmente frágiles y susceptibles de colapsarse por múltiples causas.

• Violencia

- Guerra, terrorismo, actividad delictiva. Puede romper infraestructuras críticas. Puede afectar a los amplificadores tecnológicos. Puede escalar a una guerra a gran escala y al despliegue de armas de destrucción masiva.

• Tecnología exponencial

- La IA, la biotecnología y la nanotecnología son tecnologías potencialmente autopoiéticas. Esto significa que los fallos pueden ser accidentalmente existenciales. La intersección de éstas con otras categorías de tecnología exponencial como la robótica y la computación cuántica podría crear vectores de término aún más cercanos.

- La tecnología de la información es exponencial, y en un entorno de teoría de juegos donde la información equivale a ventaja competitiva, la desinformación es una táctica comúnmente empleada. La desinformación exponencial es probablemente el escenario más cercano a los puntos de irreversibilidad.

• Ecología

- Cambio climático, acidificación de los océanos, muerte de los corales, sobrepesca, zonas oceánicas muertas, desertización, pérdida total de biodiversidad, extinción de especies, pérdida de especies clave, contaminación industrial/agrícola, metano ártico, intensificación del clima, aumento del nivel del mar, sequías, agotamiento/toxicidad de acuíferos y agua dulce, cambios en las corrientes oceánicas, agotamiento de otros recursos críticos, especies invasoras, fragilidad de los ecosistemas, fallos crecientes en la gestión de residuos, etc.

- Todo ello puede provocar el colapso de las infraestructuras humanas, migraciones humanas masivas, aumento de los vectores de enfermedades... todo lo cual puede conducir a la violencia y a su amplificación. Varios sistemas ecológicos podrían verse empujados hacia bucles irreversibles de retroalimentación positiva.

• Salud humana

- Pandemias: guerra biológica creada intencionadamente por agentes deshonestos, subproductos accidentales de la biotecnología, resultados de la densidad de población y los viajes, resistencia a los antibióticos, aumento de insectos vectores por daños ecológicos, microorganismos ancestrales del deshielo ártico, etc.

- Toxicidad, deficiencia y fragilidad: efectos fisiológicos del uranio degradado en la atmósfera, aumento de la toxicidad medioambiental de muchos tipos, escasez de alimentos, imposibilidad de conseguir medicinas, fisiologías que no pueden adaptarse a condiciones muy diferentes... conducen a la violencia, las migraciones y el colapso de las infraestructuras.

- Salud mental: aceleración de la radicalización, trauma sistémico, tribalismo, disminución de las habilidades cívicas y de comunicación para la resolución de conflictos, disminución del control de los impulsos, disminución del pensamiento crítico, aumento de la insensibilización ante la violencia y la injusticia, daño ubicuo a la empatía/responsabilidad/valentía, etc.

• Catástrofes naturales planetarias

- Volcanes, huracanes, inundaciones, sequías, terremotos, otros fenómenos meteorológicos. No se puede descartar la posibilidad de un cambio de polos. Puede provocar directamente una amplificación tecnológica. También puede provocar fallos en la red y cascadas. Se pueden establecer medidas de seguridad contra las cascadas y la amplificación.

• Exoplanetario

- Sucesos Carrington. Impredecibles, casi definitivamente existenciales tal cual a través de amplificadores tecnológicos.

- Objetos cercanos a la Tierra: colisión, efectos gravitatorios, efectos del plasma, efectos en los satélites, etc. Detectables y prevenibles.

• Carencias actuales en el tratamiento de estas cuestiones

- Panorama actual: A pesar de los numerosos grupos de investigación gubernamentales, de ONG y privados que se centran en diversos aspectos de varias de estas cuestiones, no estamos ni mucho menos cerca de una comprensión adecuada, y aún más lejos de tomar medidas efectivas cuando existe una comprensión.

- Lo que falta: A menudo el riesgo se taxonomiza -como en este documento-, con diferentes grupos centrados en diferentes categorías. Esto hace que no se tengan en cuenta los efectos en cascada entre categorías, los amplificadores, etc. Además, la mayor parte de este trabajo lo realizan agencias gubernamentales centradas en el corto plazo y los intereses nacionales, que no comparten su inteligencia y son conocidas por desinformar activamente sobre estos temas.

- Las funciones generadoras en todas las categorías de riesgo se han descuidado casi por completo en todas partes. Estos problemas no pueden evitarse de forma duradera sin cambiar los factores que los impulsan.

-Metodología de previsión inadecuada: la previsión en la intersección de múltiples sistemas complejos, antrocomplejidad y múltiples curvas tecnológicas exponenciales que se cruzan no es posible con los métodos actuales.

- Datos y claridad de datos insuficientes para la previsión.

- Falta de seguimiento de escenarios en tiempo real para disponer de vectores en tiempo real.

- Falta de planificación estratégica para abordar plenamente cualquiera de los problemas; o la existencia de esta clase de problemas en su conjunto.

- Falta de capacidad estratégica y táctica para aplicar cualquier solución a escala.