Co je to existenciální riziko?
Existenciální riziko je katastrofa tak velká, že buď vymaže celé lidstvo, nebo nás trvale ochromuje. Mohou to být přírodní katastrofy nebo katastrofy za účelem úmyslné nebo náhodné povahy. Existenciální riziko mohlo být již po dlouhou dobu, nebo jen několik desetiletí, nebo možná leží v naší budoucnosti. Příklady existenciálního rizika zahrnují velké asteroidní údery, jaderná válka a nepoctivá umělá inteligence. K vysvětlení existenciálních rizik používá graf rizika podobný následujícímu:
Existenciální rizika jsou globální a terminální nebo snad téměř terminální. Extrémně nakažlivý virus s 99,9% samaletá mírou, na kterou nikdo není imunní, je příkladem existenciálního rizika. Jako dítě, které neví, že kamna je horká, dokud se ho nedotkne, máme na této úrovni jen málo zkušeností s katastrofy. Bubonický mor středověké Evropy a španělská chřipka z druhé světové války nám nabízejí chuť existenciální katastrofy. Desítky milionů zdravých lidí byly zasaženy za pouhé hodiny oběma nemocemi.
Ve svém kanonickém článku na toto téma uvádí Bostrom o tuctu existenciálních rizik a kategorizuje je na základě jejich závažnosti a zotavitelnosti. Zde jsou uvedeny některé z těch nejpravděpodobnějších:
- Geneticky upravené viry
- Nanotechnologické závody zbraní
- Katastrofická jaderná válka
- Robotika samoobsluhující mimo kontrolu
- Superinteligentní AI lhostejný k lidem
- Fyzikální katastrofa v akcelerátoru částic
- Exploze supercholcano blokuje slunce
Vzhledem k extrémní závažnosti a nevratnosti existenciálního rizika se možná protiopatření stojí za to brainstorming a implementace. I když je pravděpodobnost, že se daná existenciální hrozba stane realitou, malá, obrovské podíly vyžadují vážný program vyhýbání se. Pro hrozby původce člověka zahrnují protiopatření sofistikované systémy pozorování a zaměření a regulaci určitých technologií, aby se zajistilo, že se nepoužívají k hromadnému ničení. Země podezřeléTED o vlastnictví zbraní hromadného ničení jsou někdy napadeny jinými zeměmi, které se obávají dlouhodobých důsledků, jak válka v Iráku živě ukazuje.