A11 Globale Katastrophenrisiken (GCR) X-Risiko, synthetische und nukleare Pandemie

Title

Globale Katastrophenrisiken (GCR) sind Ereignisse, die das Potenzial der Menschheit auf globaler Ebene dauerhaft und schwer schädigen könnten: Dazu gehören Risiken natürlichen Ursprungs (Asteroideneinschlag, Supervulkane, Pandemien natürlichen Ursprungs), technologische Risiken (synthetische Pandemie, Atomkrieg, schwerer Klimawandel, Risiko blockfreier KI) und systemische Risiken (Zusammenbruch der Zivilisation, extremer Bevölkerungsrückgang). Das Forschungsgebiet zu globalen Katastrophenrisiken das hauptsächlich am Centre for the Study of Existential Risk (CSER) der Universität Cambridge, dem Future of Humanity Institute (FHI) in Oxford und dem Open Philanthropy Project in den USA entwickelt wurde zielt darauf ab, Strategien zur Reduzierung dieser Risiken zu identifizieren, zu quantifizieren und zu entwickeln.

X-Risiken (existentielle Risiken) sind die Teilmenge der GCRs, die zum Aussterben der menschlichen Spezies oder zu einer dauerhaften und drastischen Einschränkung ihrer Fähigkeit, sich zu entfalten, führen könnten: Dazu gehören ein globaler Atomkrieg (insbesondere wenn er einen nuklearen Winter auslöste, der die globale Landwirtschaft zerstörte), eine synthetische Pandemie (ein zur Maximierung der Übertragung und Tödlichkeit entwickelter Krankheitserreger, der aus einem Biosicherheitslabor entkam oder absichtlich als biologische Waffe eingesetzt wurde) und das Risiko einer allgemeinen künstlichen Intelligenz. ausgerichtet (ein KI-System mit menschlichen oder höheren Fähigkeiten, das Ziele verfolgt, die mit dem menschlichen Wohlbefinden nicht vereinbar sind). Der Fall des nuklearen Risikos ist der historisch am besten dokumentierte Fall (es gibt dokumentierte Fälle von nuklearen Beinaheunfällen während des Kalten Krieges, die zu einem nuklearen Schlagabtausch hätten führen können) und der am besten für eine quantitative Analyse mit historischen Daten geeignet ist.

Die Quantifizierung von GCRs ist methodisch sehr schwierig: Die meisten dieser Risiken haben sehr geringe Wahrscheinlichkeiten (< 1 % pro Jahrhundert) und möglicherweise katastrophale Folgen, was eine genaue Schätzung sehr schwierig macht, da nur wenige oder keine historischen Daten zur Kalibrierung der Modelle vorliegen. Zu den wichtigsten methodischen Instrumenten gehören: Szenarioanalyse (Konstruktion plausibler Szenarien, wie das Ereignis eintreten könnte, und Schätzung der Wahrscheinlichkeit jedes Szenarios), Expertenbefragung (strukturierte Expertenbefragungen zur Schätzung der Wahrscheinlichkeit des Ereignisses) und Ereignisklassen-Referenzmodelle (unter Verwendung der historischen Verteilung ähnlicher Ereignisse zur Extrapolation auf die Wahrscheinlichkeiten extremerer Ereignisse). Das erwartete Verhalten des GCR-Rahmenwerks besteht darin, dass selbst eine sehr geringe Wahrscheinlichkeit (1 % pro Jahrhundert) eines Ereignisses mit irreversiblen Folgen für die gesamte Menschheit Investitionen in die Risikominderung rechtfertigt, die aus der Sicht normaler Risiken irrational wären.

ID:4356