Wat is existentieel risico?
Een existentieel risico is een ramp die zo groot is dat het de hele mensheid wegvaagt of ons permanent verlamt. Dit kunnen natuurrampen zijn of door de mens veroorzaakte rampen van opzettelijke of onopzettelijke aard. Een bestaand risico bestaat misschien al lang, of slechts een paar decennia, of misschien ligt het in onze toekomst. Voorbeelden van existentieel risico zijn grote asteroïde aanvallen, nucleaire oorlog en schurkenstaten kunstmatige intelligentie.
Het concept van existentieel risico werd voor het eerst in zijn huidige vorm verwoord door Dr. Nick Bostrom, een filosoof uit Oxford. Hij gebruikt een risicotabel vergelijkbaar met het volgende om existentiële risico's te verklaren:
| Omvang van het risico | |||
| Globaal | El Niño | ontbossing | existentieel risico |
| lokaal | onweersbui | economische neergang | orkaan |
| persoonlijk | papercut | verstuikte enkel | je bent neergeschoten |
| Intensiteit van risico | te verwaarlozen | handelbaar | Terminal |
Existentiële risico's zijn globaal en terminal, of misschien bijna-terminal. Een extreem besmettelijk virus met een letaliteit van 99,9% waar niemand immuun voor is, is een voorbeeld van een existentieel risico.
Bostrom wijst erop dat onze geest en instellingen slecht zijn uitgerust om te gaan met het denken over existentieel risico, omdat we er nog nooit eerder een hebben meegemaakt - als we dat hadden gedaan, zouden we hier niet zijn om over hen na te denken. Net als een kind dat niet weet dat een kachel heet is totdat hij hem aanraakt, hebben we weinig ervaring met rampen op dit niveau. De builenpest van middeleeuws Europa en de Spaanse griep van WO I bieden ons een voorproefje van wat een existentiële ramp zou zijn. Tientallen miljoenen gezonde mensen werden in enkele uren dood getroffen door beide ziekten.
In zijn canonieke paper over het onderwerp somt Bostrom ongeveer een dozijn existentiële risico's op en categoriseert deze op basis van hun ernst en herstelbaarheid. Enkele van de meest plausibele zijn hier vermeld:
- genetisch gemanipuleerde virussen
- nanotechnologische wapenwedstrijden
- catastrofale nucleaire oorlog
- uit de hand gelopen zelfreplicerende robotica
- superintelligent AI onverschillig voor mensen
- natuurkunde ramp in een deeltjesversneller
- supervolcano-explosie blokkeert de zon
Vanwege de extreme ernst en onomkeerbaarheid van het existentiële risico, zijn mogelijke tegenmaatregelen het waard om te brainstormen en te implementeren. Zelfs als de kans dat een bepaalde existentiële dreiging werkelijkheid wordt klein is, vragen de immense inzetten om een serieus vermijdingsprogramma. Voor bedreigingen van menselijke oorsprong omvatten tegenmaatregelen geavanceerde observatie- en waarschuwingssystemen en regulering van bepaalde technologieën om ervoor te zorgen dat deze niet worden gebruikt voor massavernietiging. Landen die ervan worden verdacht massavernietigingswapens te bezitten, worden soms binnengevallen door andere landen die zich zorgen maken over de gevolgen op lange termijn, zoals de oorlog in Irak levendig aantoont.