A11 Riscos Catastróficos Globais (GCR) - Risco X, Pandemia Sintética e Nuclear

Título

Os Riscos Catastróficos Globais (GCR) são eventos que podem causar danos permanentes e graves ao potencial da humanidade à escala global: incluem riscos de origem natural (impacto de asteróides, supervulcões, pandemias de origem natural), riscos tecnológicos (pandemia sintética, guerra nuclear, alterações climáticas graves, risco de IA não alinhada) e riscos sistémicos (colapso da civilização, redução extrema da população). O campo de estudo dos riscos catastróficos globais desenvolvido principalmente no Centro para o Estudo do Risco Existencial (CSER) da Universidade de Cambridge, no Future of Humanity Institute (FHI) em Oxford, e no Open Philanthropy Project nos EUA procura identificar, quantificar e desenvolver estratégias para reduzir estes riscos.

Os riscos X (riscos existenciais) são o subconjunto de GCR que podem causar a extinção da espécie humana ou a redução permanente e drástica da sua capacidade de florescer: incluem a guerra nuclear global (especialmente se produzir um inverno nuclear que destrua a agricultura global), a pandemia sintética (um agente patogénico concebido para maximizar a transmissão e a letalidade que escapou de um laboratório de biossegurança ou foi deliberadamente utilizado como arma biológica) e o risco de inteligência artificial geral. alinhado (um sistema de IA com capacidades de nível humano ou superior que persegue objetivos incompatíveis com o bem-estar humano). O caso do risco nuclear é o mais documentado historicamente (há casos documentados de quase acidentes nucleares durante a Guerra Fria que poderiam ter resultado numa troca nuclear) e o mais suscetível à análise quantitativa com dados históricos.

A quantificação dos GCR é metodologicamente muito difícil: a maioria destes riscos tem probabilidades muito baixas (< 1% por século) e consequências potencialmente catastróficas, tornando-os muito difíceis de estimar com precisão porque há poucos ou nenhuns dados históricos sobre os quais calibrar os modelos. As principais ferramentas metodológicas incluem: análise de cenários (construção de cenários plausíveis de como o evento poderia ocorrer e estimativa da probabilidade de cada cenário), elicitação de especialistas (pesquisas estruturadas de especialistas para estimar a probabilidade do evento) e modelos de referência de classes de eventos (utilizando a distribuição histórica de eventos semelhantes para extrapolar para as probabilidades de eventos mais extremos). O comportamento esperado do quadro GCR é que mesmo uma probabilidade muito pequena (1% por século) de um evento com consequências irreversíveis para toda a humanidade justifique investimentos na redução de riscos que seriam irracionais do ponto de vista dos riscos comuns.

ID:4356