Co je existenciální riziko?

Existenciální riziko je katastrofa tak velká, že buď vyhladí celé lidstvo, nebo nás trvale ochromí. Mohou to být přírodní katastrofy nebo katastrofy způsobené člověkem úmyslné nebo náhodné povahy. Existenciální riziko mohlo existovat po dlouhou dobu nebo jen několik desetiletí, nebo možná leží v naší budoucnosti. Příklady existenciálního rizika zahrnují velké údery asteroidů, jadernou válku a nečestnou umělou inteligenci.

Koncept existenciálního rizika byl poprvé vyjádřen ve své současné podobě Dr. Nickem Bostromem, Oxfordským filozofem. K objasnění existenciálních rizik používá graf rizik podobný následujícímu:

Rozsah rizika
Globální	El Niño	odlesňování	existenciální riziko
Místní	bouřka	ekonomický pokles	hurikán
Osobní	papercut	vymknutý kotník	jsi zastřelen
Intenzita rizika	Zanedbatelný	Zvládnutelné	Terminál

Existující rizika jsou globální a terminální, nebo možná blízká terminál. Příkladem existenciálního rizika je extrémně nakažlivý virus s 99,9% smrtelností, na kterou nikdo není imunní.

Bostrom poukazuje na to, že naše mysli a instituce jsou špatně vybavené, aby se vypořádaly s přemýšlením o existenciálním riziku, protože jsme to nikdy předtím nezažili - pokud bychom měli, nebyli bychom zde, abychom o nich přemýšleli. Jako dítě, které neví, že je kamna horká, dokud se jí nedotkne, máme na této úrovni s katastrofami málo zkušeností. Bubonský mor středověké Evropy a španělská chřipka první světové války nám nabízejí chuť jaké by existenciální katastrofy byly. Desítky milionů zdravých lidí byly oběma nemocemi zasaženy za pouhé hodiny.

Bostrom ve svém kanonickém článku na toto téma uvádí asi tucet existenčních rizik a kategorizuje je na základě jejich závažnosti a návratnosti. Zde jsou uvedeny některé z nejpravděpodobnějších:

• geneticky upravené viry
• nanotechnologické závody ve zbrojení
• katastrofální jaderná válka
• samonabíjecí robotika mimo kontrolu
• superinteligentní umělá inteligence lhostejná lidem
• fyzikální katastrofa v urychlovači částic
• exploze supervolcano blokuje slunce

Z důvodu extrémní závažnosti a nezvratnosti existenciálního rizika stojí za to, že možná protiopatření stojí za to brainstorming a implementaci. I když je pravděpodobnost, že se daná existenciální hrozba stane realitou, malá, obrovské podíly, které jsou součástí, vyžadují seriózní program vyhýbání se. Pokud jde o hrozby způsobené člověkem, protiopatření zahrnují sofistikované systémy pozorování a varování a regulaci určitých technologií, aby se zajistilo, že nebudou použity pro hromadné ničení. Země podezřelé z držení zbraní hromadného ničení jsou někdy napadeny jinými zeměmi obavami o dlouhodobé důsledky, jak jasně ukazuje válka v Iráku.