Wat is existentieel risico?
Een existentieel risico is een ramp die zo groot is dat het de hele mensheid wegvaagt of ons permanent verlamt. Dit kunnen natuurrampen zijn, of door de mens gemaakte rampen van opzettelijke of toevallige aard. Een existentieel risico kan al lang bestaan, of slechts enkele decennia, of misschien ligt het in onze toekomst. Voorbeelden van existentieel risico zijn grote asteroïde stakingen, nucleaire oorlog en malafide kunstmatige intelligentie.
Het concept van existentieel risico werd eerst in zijn huidige vorm gearticuleerd door Dr. Nick Bostrom, een oxford -filosoof. Hij gebruikt een risicokaart vergelijkbaar met het volgende om existentiële risico's uit te leggen:
existentiële risico's zijn wereldwijd en terminaal, of misschien op de buurt van terminaal. Een extreem besmettelijk virus met een dodelijkheidspercentage van 99,9% waarvoor niemand immuun is, is een voorbeeld van een existentieel risico.
Bostrom wijst erop dat onze geest en instellingen slecht uitgerust zijn om te behandelen met het nadenken over het existentiële risico, omdat we er nog nooit een hebben ervaren-als we hadden, zouden we niet hier zijn om erover na te denken. Als een kind dat niet weet dat een fornuis heet is totdat hij het aanraakt, hebben we weinig ervaring met catastrofes op dit niveau. De bubonische pest van het middeleeuwse Europa en de Spaanse griep van de Tweede Wereldoorlog bieden ons een voorproefje van hoe een existentiële ramp eruit zou zien. Tientallen miljoenen gezonde mensen werden in slechts enkele uren dood geslagen door beide ziekten.
<In zijn canonieke paper over het onderwerp somt Bostrom over een dozijn existentiële risico's en categoriseert ze op basis van hun ernst en herstelbaarheid. Enkele van de meest plausibele zijn hier vermeld:
- Genetisch gemanipuleerde virussen
- Nanotechnologische wapenraces
- Catastrofale nucleaire oorlog
- Out-of-control zelfreplicerende robotica
- Superintelligente AI onverschillig voor mensen
- Natuurramp in een deeltjesversneller
- Superolcano explosie blokkeert de zon
Vanwege de extreme ernst en onomkeerbaarheid van het existentiële risico, zijn mogelijke tegenmaatregelen de moeite waard om te brainstormen en te implementeren. Zelfs als de kans dat een bepaalde existentiële dreiging een realiteit wordt klein, de immense belangen betrokken zijn, eisen een serieus vermijdingsprogramma. Voor bedreigingen van mens-oorsprong zijn tegenmaatregelen geavanceerde observatie-en-alert systemen en regulering van bepaalde technologieën om ervoor te zorgen dat ze niet worden gebruikt voor massavernietiging. Landen SuspecTed van het bezit van massavernietigingswapens worden soms binnengevallen door andere landen die zich zorgen maken over de langetermijngevolgen, zoals de oorlog in Irak levendig aantoont.