Hvad er eksistentiel risiko?

En eksistentiel risiko er en katastrofe, der er så stor, at den enten udsletter hele menneskeheden eller permanent lurer os. Disse kan være naturkatastrofer eller menneskeskabte katastrofer af forsætlig eller utilsigtet karakter. En eksistentiel risiko kan have eksisteret i lang tid eller kun et par årtier, eller måske ligger den i vores fremtid. Eksempler på eksistentiel risiko inkluderer store asteroide strejker, atomkrig og useriøs kunstig intelligens.

Begrebet eksistentiel risiko blev først artikuleret i sin nuværende form af Dr. Nick Bostrom, en Oxford -filosof. Han bruger et risikokort, der ligner følgende for at forklare eksistentielle risici:

omfang af risiko global el niño afskovning eksistentiel risiko lokal tordenvejr økonomisk nedtur orkan meget intensitet af risiko ubetydelig håndterbar terminal

Eksistentielle risici er globale og terminale eller måske næsten terminale. En ekstremt smitsom virus med en 99,9% dødelighed, som ingen er immun mod, er et eksempel på en eksistentiel risiko.

Bostrom påpeger, at vores sind og institutioner er dårligt udstyret til at tackle at tænke på eksistentiel risiko, fordi vi aldrig har oplevet en før-hvis vi havde, vi ikke ville være her til at tænke på dem. Som et barn, der ikke ved, at en komfur er varm, indtil han rører ved det, har vi ringe erfaring med katastrofer på dette niveau. Den buboniske pest i det middelalderlige Europa og den spanske influenza fra WWI giver os en forsmag på, hvordan en eksistentiel katastrofe ville være. Dusinvis af millioner af raske mennesker blev ramt døde på blotte timer af begge sygdomme.

i sit kanoniske papir om emnet lister Bostrom om et dusin eksistentielle risici og kategoriserer dem baseret på deres sværhedsgrad og genvinding. Nogle af de mest plausible er anført her:

• Genetisk konstruerede vira
• Nanoteknologiske våbenløb
• Katastrofisk atomkrig
• Out-of-control-selvreplicerende robotik
• Superintelligent AI ligeglad med mennesker
• Fysikkatastrofe i en partikelaccelerator
• Supervolcano -eksplosion blokerer for solen

På grund af den ekstreme sværhedsgrad og irreversibilitet af eksistentiel risiko er mulige modforanstaltninger værd at brainstorming og implementering. Selv hvis chancen for, at en given eksistentiel trussel bliver en realitet, er lille, kræver de enorme indsatser et alvorligt undgåelsesprogram. Til trusler med menneskelig oprindelse inkluderer modforanstaltninger sofistikerede observation-og-alarmeringssystemer og regulering af visse teknologier for at sikre, at de ikke bruges til masseødelæggelse. Lande SuspecTed for at besidde masseødelæggelsesvåben er undertiden invaderet af andre lande, der er bekymrede for de langsigtede konsekvenser, som krigen i Irak levende viser.