Was ist existenzielles Risiko?
Ein existenzielles Risiko ist eine Katastrophe, die entweder die gesamte Menschheit auslöscht oder uns dauerhaft lähmt. Dies können Naturkatastrophen oder von Menschen verursachte vorsätzliche oder zufällige Katastrophen sein. Ein existenzielles Risiko besteht möglicherweise schon seit langer Zeit oder nur seit einigen Jahrzehnten, oder es liegt vielleicht in unserer Zukunft. Beispiele für existenzielle Risiken sind große Asteroidenangriffe, Atomkrieg und künstliche Intelligenz.
Das Konzept des existenziellen Risikos wurde zuerst in seiner jetzigen Form von Dr. Nick Bostrom, einem Oxford-Philosophen, formuliert. Er verwendet eine Risikokarte, die der folgenden ähnelt, um existenzielle Risiken zu erklären:
| Umfang des Risikos | |||
| Global | El Niño | Abholzung | existenzielles Risiko |
| Lokal | Gewitter | Wirtschaftskrise | Hurrikan |
| persönlich | Papierschnitt | verstauchter Knöchel | du bist erschossen |
| Intensität des Risikos | Unerheblich | Überschaubar | Terminal |
Existenzielle Risiken sind global und terminal oder möglicherweise in der Nähe des Terminals. Ein extrem ansteckendes Virus mit einer Letalitätsrate von 99,9%, gegen das niemand immun ist, ist ein Beispiel für ein existenzielles Risiko.
Bostrom weist darauf hin, dass unsere Köpfe und Institutionen nicht in der Lage sind, über existenzielle Risiken nachzudenken, weil wir noch nie zuvor eines erlebt haben - wenn wir es getan hätten, wären wir nicht hier, um darüber nachzudenken. Wie ein Kind, das nicht weiß, dass ein Ofen heiß ist, bis er ihn berührt, haben wir wenig Erfahrung mit Katastrophen auf diesem Niveau. Die Beulenpest im mittelalterlichen Europa und die spanische Grippe des Ersten Weltkriegs bieten einen Vorgeschmack auf eine existenzielle Katastrophe. Dutzende Millionen gesunder Menschen wurden innerhalb weniger Stunden von beiden Krankheiten getötet.
In seinem kanonischen Aufsatz zu diesem Thema listet Bostrom etwa ein Dutzend existenzieller Risiken auf und kategorisiert sie auf der Grundlage ihrer Schwere und Wiederherstellbarkeit. Einige der plausibelsten sind hier aufgelistet:
- gentechnisch veränderte Viren
- nanotechnologische Wettrüsten
- katastrophaler Atomkrieg
- Außer Kontrolle geratene selbstreplizierende Robotik
- Superintelligente KI gleichgültig gegenüber Menschen
- Physik-Katastrophe in einem Teilchenbeschleuniger
- Supervulkan-Explosion blockiert die Sonne
Wegen der extremen Schwere und Irreversibilität des existenziellen Risikos sollten mögliche Gegenmaßnahmen erörtert und umgesetzt werden. Auch wenn die Wahrscheinlichkeit, dass eine existenzielle Bedrohung Realität wird, gering ist, erfordern die immensen Einsätze ein ernsthaftes Vermeidungsprogramm. Gegenmaßnahmen für Bedrohungen, die von Menschen ausgehen, umfassen ausgeklügelte Überwachungs- und Warnsysteme und die Regulierung bestimmter Technologien, um sicherzustellen, dass sie nicht für die Massenvernichtung verwendet werden. Länder, die im Verdacht stehen, Massenvernichtungswaffen zu besitzen, werden manchmal von anderen Ländern überfallen, die sich Sorgen über die langfristigen Folgen machen, wie der Krieg im Irak eindrücklich zeigt.