A11 Riesgos Catastroficos Globales (GCR) - X-Risk, Pandemia Sintetica y Nuclear

Título

Los riesgos catastroficos globales (GCR, Global Catastrophic Risks) son eventos que podrian causar dano permanente y severo al potencial de la humanidad a escala global: incluyen riesgos de origen natural (impacto de asteroides, supervulcanes, pandemias de origen natural), riesgos tecnologicos (pandemia sintetica, guerra nuclear, cambio climatico severo, riesgo de IA no alineada), y riesgos sistemicos (colapso de la civilizacion, reduccion extrema de la poblacion). El campo del estudio de los riesgos catastroficos globales desarrollado principalmente en el Centro para el Estudio del Riesgo Existencial (CSER) de la Universidad de Cambridge, el Future of Humanity Institute (FHI) de Oxford, y el Open Philanthropy Project en EE.UU. busca identificar, cuantificar y desarrollar estrategias para reducir estos riesgos.

Los riesgos x-risk (riesgos existenciales) son el subconjunto de los GCR que podrian causar la extincion de la especie humana o la reduccion permanente y drastica de su capacidad de florecer: incluyen la guerra nuclear global (especialmente si produjera un invierno nuclear que destruyera la agricultura global), la pandemia sintetica (un patogeno engineered para maximizar la transmision y la letalidad que escapara de un laboratorio de bioseguridad o fuera usado deliberadamente como arma biologica), y el riesgo de inteligencia artificial general no alineada (un sistema de IA con capacidades de nivel humano o superior que persiguiera objetivos incompatibles con el bienestar humano). El caso del riesgo nuclear es el mas documentado historicamente (hay casos documentados de "near misses" nucleares durante la Guerra Fria que podrian haber resultado en un intercambio nuclear) y el mas susceptible de analisis cuantitativo con datos historicos.

La cuantificacion de los GCR es metodologicamente muy dificil: la mayoria de estos riesgos tienen probabilidades muy bajas (< 1% por siglo) y consecuencias potencialmente catastroficas, lo que los hace muy dificiles de estimar con precision porque hay poco o ningun dato historico sobre los que calibrar los modelos. Las principales herramientas metodologicas incluyen: el analisis de escenarios (construccion de escenarios plausibles de como podria ocurrir el evento y estimacion de la probabilidad de cada escenario), la elicitacion de expertos (encuestas estructuradas a expertos para que estimen la probabilidad del evento), y los modelos de referencia de clase de eventos (usando la distribucion historica de eventos similares para extrapolar a las probabilidades de eventos mas extremos). El comportamiento esperado del marco de GCR es que incluso una probabilidad muy pequena (1% por siglo) de un evento con consecuencias irreversibles para toda la humanidad justifica inversiones en reduccion del riesgo que serian irracionales desde la perspectiva de los riesgos ordinarios.

ID:4356