Jakie jest ryzyko egzystencjalne?
Ryzyko egzystencjalne jest katastrofą tak wielką, że albo wymazuje całą ludzkość, albo trwale nas okalecza. Mogą to być klęski żywiołowe lub katastrofy wywołane przez człowieka o charakterze celowym lub przypadkowym. Ryzyko egzystencjalne mogło istnieć od dłuższego czasu lub tylko kilka dekad, a może leży w naszej przyszłości. Przykłady ryzyka egzystencjalnego obejmują duże strajki asteroidowe, wojnę nuklearną i nieuczciwą sztuczną inteligencję.
Pojęcie ryzyka egzystencjalnego zostały po raz pierwszy wyrażone w obecnej formie przez dr Nicka Bostroma, filozofa z Oksfordu. Używa wykresu ryzyka podobnego do następujących, aby wyjaśnić ryzyko egzystencjalne:
Ryzyko egzystencjalne są globalne i terminalowe, a może bliskie. Niezwykle zaraźliwy wirus z 99,9% śmiertelnością, na który nikt nie jest odporny, jest przykładem ryzyka egzystencjalnego.
Bostrom wskazuje, że nasze umysły i instytucje są źle wyposażone w myślenie o ryzyku egzystencjalnym, ponieważ nigdy wcześniej go nie doświadczyliśmy-gdybyśmy nie byli tutaj, aby myśleć o nich. Jak dziecko, które nie wie, że piec jest gorący, dopóki go nie dotknie, mamy niewielkie doświadczenie z katastrofami na tym poziomie. Chłodka dżuma średniowiecznej Europy i hiszpańska grypa I wojny światowej oferują nam smak egzystencjalnej katastrofy. Dziesiątki milionów zdrowych ludzi zostały ułożone martwe w zaledwie godzinach przez obie choroby.
W swoim kanonicznym artykule na ten temat Bostrom zawiera listę kilkunastu zagrożeń egzystencjalnych i kategoryzuje je na podstawie ich dotkliwości i możliwości odzyskiwania. Niektóre z najbardziej prawdopodobnych są tutaj wymienione:
- Genetycznie zmodyfikowane wirusy
- Nanotechnologiczne wyścigi zbrojeniowe
- Katastroficzna wojna nuklearna
- Niekontrolowanie robotyki samoreplikujące się
- Superinteligent AI obojętny na ludzi
- katastrofa fizyki w akceleratorze cząstek
- Explosion Supercolcano blokuje Słońce
Ze względu na ekstremalną nasilenie i nieodwracalność ryzyka egzystencjalnego możliwe środki zaradcze są warte burzy mózgów i wdrażania. Nawet jeśli szansa, że dane zagrożenie egzystencjalne stanie się rzeczywistością, jest niewielka, ogromne stawki wymagały programu poważnego unikania. W przypadku zagrożeń hodowlanych przez człowieka środki zaradcze obejmują wyrafinowane systemy obserwacji i wartości oraz regulację niektórych technologii, aby upewnić się, że nie są one wykorzystywane do masowego rażenia. Kraje zawiesićTED posiadania broni masowego rażenia są czasami inwazalne przez inne kraje martwiące się o długoterminowe konsekwencje, jak pokazuje wojna w Iraku.