Qual è il rischio esistenziale?

Un rischio esistenziale è un disastro così grande da spazzare via tutta l'umanità o ci parali in modo permanente. Questi possono essere catastrofi naturali o catastrofi artificiali di natura intenzionale o accidentale. Un rischio esistenziale potrebbe essere in circolazione da molto tempo, o solo pochi decenni, o forse sta nel nostro futuro. Esempi di rischio esistenziale includono grandi scioperi degli asteroidi, guerra nucleare e intelligenza artificiale canaglia.

Il concetto di rischio esistenziale è stato articolato per la prima volta nella sua forma attuale dal Dr. Nick Bostrom, un filosofo di Oxford. Usa un grafico a rischio simile a quello che segue per spiegare i rischi esistenziali:

Scope del rischio ; ; ; intensità del rischio trascurabile gestibile terminale

I rischi esistenziali sono globali e terminali, o forse quasi terminale. Un virus estremamente contagioso con un tasso di letalità del 99,9% a cui nessuno è immune è un esempio di rischio esistenziale.

Bostrom sottolinea che le nostre menti e le nostre istituzioni sono mal equipaggiate per far fronte al pensiero sul rischio esistenziale, perché non ne abbiamo mai sperimentato uno prima-se non ci saremmo mai vissuti-se non avremmo avuto, non saremmo qui per pensarci. Come un bambino che non sa che una stufa è calda fino a quando non la tocca, abbiamo poca esperienza con le catastrofi a questo livello. La peste bubbonica dell'Europa medievale e l'influenza spagnola della prima guerra mondiale ci offrono un assaggio di come sarebbe un disastro esistenziale. Dozzine di milioni di persone sane sono state colpite a morte in poche ore da entrambe le malattie.

Nel suo documento canonico sull'argomento, Bostrom elenca una dozzina di rischi esistenziali e li classifica in base alla loro gravità e recupero. Alcuni dei più plausibili sono elencati qui:

• Virus geneticamente modificati
• gare di armi nanotecnologiche
• Guerra nucleare catastrofica
• Robotica auto-replicante fuori controllo
• Superintelligent AI indifferente agli umani
• Disastro di fisica in un acceleratore di particelle
• L'esplosione del Superolcano blocca il sole

A causa della gravità estrema e dell'irreversibilità del rischio esistenziale, le possibili contromisure meritano un brainstorming e l'implementazione. Anche se la possibilità che una determinata minaccia esistenziale diventasse una realtà è piccola, l'immensa posta in gioco prevedeva un serio programma di evitamento. Per le minacce di origine umana, le contromisure includono sofisticati sistemi di osservazione e allerta e regolamentazione di alcune tecnologie per garantire che non siano utilizzate per la distruzione di massa. Paesi sospecTed di possedere armi di distruzione di massa a volte invase da altri paesi preoccupati per le conseguenze a lungo termine, come dimostra vividamente la guerra in Iraq.