A11 Risques catastrophiques mondiaux (GCR) - Risque X, pandémie synthétique et nucléaire

Titre

Les risques catastrophiques mondiaux (GCR) sont des événements qui pourraient causer des dommages permanents et graves au potentiel de l'humanité à l'échelle mondiale : ils comprennent des risques d'origine naturelle (impact d'astéroïdes, supervulcanes, pandémies d'origine naturelle), des risques technologiques (pandémie synthétique, guerre nucléaire, changement climatique sévère, risque d'IA non alignée) et des risques systémiques (effondrement de la civilisation, réduction extrême de la population). Le domaine détude des risques catastrophiques mondiaux développé principalement au Centre détude des risques existentiels (CSER) de lUniversité de Cambridge, au Future of Humanity Institute (FHI) dOxford et à lOpen Philanthropy Project aux États-Unis cherche à identifier, quantifier et développer des stratégies pour réduire ces risques.

Les risques X (risques existentiels) sont le sous-ensemble des GCR qui pourraient provoquer lextinction de lespèce humaine ou la réduction permanente et drastique de sa capacité à sépanouir : ils comprennent une guerre nucléaire mondiale (surtout si elle produisait un hiver nucléaire détruisant lagriculture mondiale), une pandémie synthétique (un agent pathogène conçu pour maximiser la transmission et la létalité qui sest échappé dun laboratoire de biosécurité ou a été délibérément utilisé comme arme biologique) et le risque dintelligence artificielle générale. aligné (un système dIA doté de capacités de niveau humain ou supérieur qui poursuit des objectifs incompatibles avec le bien-être humain). Le cas du risque nucléaire est le plus historiquement documenté (il existe des cas documentés de « quasi-accidents » nucléaires pendant la guerre froide qui auraient pu aboutir à un échange nucléaire) et le plus susceptible d'être analysé quantitativement avec des données historiques.

La quantification des GCR est méthodologiquement très difficile : la plupart de ces risques ont des probabilités très faibles (< 1 % par siècle) et des conséquences potentiellement catastrophiques, ce qui les rend très difficiles à estimer avec précision car il existe peu ou pas de données historiques sur lesquelles calibrer les modèles. Les principaux outils méthodologiques comprennent : l'analyse de scénarios (construction de scénarios plausibles sur la manière dont l'événement pourrait se produire et estimation de la probabilité de chaque scénario), la sollicitation d'experts (enquêtes structurées auprès d'experts pour estimer la probabilité de l'événement) et les modèles de référence de classes d'événements (utilisant la distribution historique d'événements similaires pour extrapoler aux probabilités d'événements plus extrêmes). Le comportement attendu du cadre GCR est que même une très faible probabilité (1 % par siècle) dun événement ayant des conséquences irréversibles pour lensemble de lhumanité justifie des investissements dans la réduction des risques qui seraient irrationnels du point de vue des risques ordinaires.

ID:4356