Varoluşsal bir risk, tüm insanlığı yok eden veya kalıcı olarak sakatlanacak kadar büyük bir felakettir. Bunlar doğal afetler veya kasıtlı veya kazara doğası olan insan kaynaklı felaketler olabilir. Varoluşsal bir risk uzun bir süredir ya da sadece birkaç on yıl olmuş olabilir, ya da belki de geleceğimizde yatıyor. Varoluşsal risk örnekleri arasında büyük asteroid grevleri, nükleer savaş ve haydut Yapay Zeka bulunur.
Varoluşsal risk kavramı ilk olarak şu anki haliyle Oxford filozofu Dr. Nick Bostrom tarafından dile getirildi. Varoluşsal riskleri açıklamak için aşağıdakine benzer bir risk çizelgesi kullanıyor:
| Risk kapsamı | |||
| global | El Niño | orman açma | varoluşsal risk |
| Yerel | sağanak | ekonomik kriz | kasırga |
| Kişisel | kağıt kesiği | burkulan ayak bileği | vuruldun |
| Riskin yoğunluğu | önemsiz | idare edilebilir | terminal |
Mevcut riskler küresel ve terminaldir veya belki de terminal civarındadır. Hiç kimsenin bağışıklık kazanmadığı% 99,9 ölüm oranı olan son derece bulaşıcı bir virüs varoluşsal bir risk örneğidir.
Bostrom, zihinlerimizin ve kurumlarımızın varoluşsal risk hakkında düşünmekle yetinmediklerine dikkat çekiyor, çünkü daha önce hiç tecrübe etmedik - eğer öyleyse, onlar hakkında düşünmek için burada olmazdık. Bir ocağın dokunana kadar sıcak olduğunu bilmeyen bir çocuk gibi, bu seviyede felaketlerle ilgili çok az deneyimimiz var. Orta Çağ Avrupa’nın Bubonik vebaları ve I. Dünya Savaşı’nın İspanyol gribi bize varoluşsal bir felaketin nasıl olacağının tadına bakıyor. Her iki hastalıkta da düzinelerce milyonlarca sağlıklı insan sadece birkaç saat içinde öldürüldü.
Konuyla ilgili kanonik makalesinde Bostrom, bir düzine varoluşsal risk hakkında listeler ve ciddiyetlerine ve kurtarılabilirliklerine göre sınıflandırır. En makul olanlardan bazıları burada listelenmiştir:
- genetiği değiştirilmiş virüsler
- nanoteknolojik silah yarışları
- yıkıcı nükleer savaş
- kontrol dışı kendi kendini kopyalayan robotlar
- insanlara kayıtsız süper akıllı AI
- parçacık hızlandırıcıda fizik felaketi
- Supolcano patlaması güneşi engelledi
Aşırı şiddet ve varoluşsal riskin geri dönüşümsüzlüğü nedeniyle, olası önlemler beyin fırtınası ve uygulamaya değer. Belirli bir varoluşsal tehdidin gerçeğe dönüşme şansı küçük olsa bile, ilgili büyük riskler ciddi bir kaçınma programı gerektiriyor. İnsan kaynaklı tehditler için karşı önlemler, karmaşık gözlem ve uyarı sistemleri ve kitlesel imha için kullanılmadıklarından emin olmak için bazı teknolojilerin düzenlenmesini içerir. Irak'taki savaşın açıkça gösterdiği gibi, kitle imha silahlarına sahip olduğundan şüphelenilen ülkeler bazen uzun vadeli sonuçlardan endişe duyan diğer ülkeler tarafından istila edilmektedir.
