Hva er eksistensiell risiko?
En eksistensiell risiko er en katastrofe som er så stor at den enten tørker ut hele menneskeheten eller forgår oss permanent. Dette kan være naturkatastrofer, eller menneskeskapte katastrofer av forsettlig eller tilfeldig karakter. En eksistensiell risiko kan ha eksistert i lang tid, eller bare noen få tiår, eller kanskje det ligger i fremtiden vår. Eksempler på eksistensiell risiko inkluderer store asteroide streik, atomkrig og useriøs kunstig intelligens.
Begrepet eksistensiell risiko ble først artikulert i sin nåværende form av Dr. Nick Bostrom, en Oxford -filosof. Han bruker et risikokart som ligner på følgende for å forklare eksistensielle risikoer:
| Risikomadium | |||
| global | el niño | avskoging | eksistensiell risiko |
| Local | tordenvær | økonomisk nedtur | orkan |
| personlig | Papercut | forstuet ankel | du er skutt |
| intensitet av risiko | ubetydelig | håndterbar | terminal |
Eksistensielle risikoer er globale og terminale, eller kanskje nesten terminal. Et ekstremt smittsomt virus med en 99,9% dødelighetsrate som ingen er immun mot, er et eksempel på en eksistensiell risiko.
Bostrom påpeker at våre sinn og institusjoner er dårlig utstyrt for å takle å tenke på eksistensiell risiko, fordi vi aldri har opplevd en før-hvis vi hadde hatt, ville vi ikke være her for å tenke på dem. Som et barn som ikke vet at en komfyr er varm før han berører den, har vi liten erfaring med katastrofe på dette nivået. Den buboniske pesten i middelalderens Europa og den spanske influensa fra WWI gir oss en smak av hvordan en eksistensiell katastrofe ville være. Dusinvis av millioner sunne mennesker ble slått døde i bare timer av begge sykdommer.
I sin kanoniske artikkel om emnet lister Bostrom omtrent et dusin eksistensielle risikoer og kategoriserer dem basert på deres alvorlighetsgrad og utvinning. Noen av de mest sannsynlige er oppført her:
- Genetisk konstruerte virus
- Nanoteknologiske våpenløp
- Katastrofisk atomkrig
- Out-of-Control selvrepliserende robotikk
- Superintelligent AI likegyldig til mennesker
- Fysikkkatastrofe i en partikkelakselerator
- Supervolcano -eksplosjon blokkerer solen
På grunn av den ekstreme alvorlighetsgraden og irreversibiliteten av eksistensiell risiko, er mulige mottiltak verdt å brainstorme og implementere. Selv om sjansen for at en gitt eksistensiell trussel blir en realitet er liten, krever de enorme innsatsen som er involvert et alvorlig unngåelsesprogram. For trusler om menneskelig originering inkluderer mottiltak sofistikert observasjon-og-alert-systemer og regulering av visse teknologier for å sikre at de ikke brukes til masseødeleggelse. Land SuspesTed for å ha masseødeleggelsesvåpen blir noen ganger invadert av andre land som er bekymret for de langsiktige konsekvensene, som krigen i Irak levende demonstrerer.