Co to jest ryzyko egzystencjalne?

Ryzyko egzystencjalne jest tak wielką katastrofą, że albo wymazuje całą ludzkość, albo trwale nas kaleczy. Mogą to być klęski żywiołowe lub katastrofy spowodowane przez człowieka o umyślnym lub przypadkowym charakterze. Ryzyko egzystencjalne mogło istnieć od dłuższego czasu lub tylko kilku dekad, a może leży w naszej przyszłości. Przykłady ryzyka egzystencjalnego obejmują duże ataki asteroid, wojnę nuklearną i nieuczciwą sztuczną inteligencję.

Pojęcie ryzyka egzystencjalnego zostało po raz pierwszy sformułowane w obecnej formie przez dr Nicka Bostrom, filozofa z Oksfordu. Używa tabeli ryzyka podobnej do poniższej, aby wyjaśnić ryzyko egzystencjalne:

Zakres ryzyka
Światowy	El Niño	wylesianie	ryzyko egzystencjalne
Lokalny	burza z piorunami	pogorszenie koniunktury gospodarczej	huragan
Osobisty	wycinanka	skręcona kostka	jesteś postrzelony
Intensywność ryzyka	Nieistotny	Posłuszny	Terminal

Zagrożenia egzystencjalne są globalne i terminalne, a być może zbliżone do terminalnych. Niezwykle zaraźliwy wirus o śmiertelności 99,9%, na który nikt nie jest odporny, jest przykładem ryzyka egzystencjalnego.

Bostrom zwraca uwagę, że nasze umysły i instytucje są źle przygotowane do radzenia sobie z myśleniem o ryzyku egzystencjalnym, ponieważ nigdy wcześniej go nie doświadczyliśmy - gdybyśmy mieli, nie bylibyśmy tutaj, aby o nich myśleć. Jak dziecko, które nie wie, że piec jest gorący, dopóki go nie dotknie, mamy niewielkie doświadczenie z katastrofami na tym poziomie. Dżuma dymieniczna średniowiecznej Europy i hiszpańska grypa z I wojny światowej dają nam przedsmak katastrofy egzystencjalnej. Dziesiątki milionów zdrowych ludzi zostało zabitych w ciągu zaledwie kilku godzin przez obie choroby.

W swoim kanonicznym artykule na ten temat Bostrom wymienia około tuzina ryzyk egzystencjalnych i kategoryzuje je na podstawie ich ciężkości i możliwości odzyskania. Niektóre z najbardziej prawdopodobnych są wymienione tutaj:

• wirusy modyfikowane genetycznie
• wyścigi zbrojeń nanotechnologicznych
• katastrofalna wojna nuklearna
• niekontrolowana samoreplikująca się robotyka
• superinteligentna AI obojętna na ludzi
• katastrofa fizyczna w akceleratorze cząstek
• wybuch superwulkanu blokuje słońce

Ze względu na ekstremalną dotkliwość i nieodwracalność ryzyka egzystencjalnego, możliwe są środki zaradcze warte przeprowadzenia burzy mózgów i wdrożenia. Nawet jeśli szansa, że ​​dane zagrożenie egzystencjalne stanie się rzeczywistością, jest niewielka, ogromne zaangażowanie wymaga poważnego programu unikania. W przypadku zagrożeń pochodzących od ludzi środki zaradcze obejmują wyrafinowane systemy obserwacji i ostrzegania oraz regulację niektórych technologii, aby zagwarantować, że nie zostaną one wykorzystane do masowego rażenia. Kraje podejrzane o posiadanie broni masowego rażenia są czasami atakowane przez inne kraje martwiące się długoterminowymi konsekwencjami, jak wyraźnie pokazuje Wojna w Iraku.