O que é um risco existencial?

Um risco existencial é um desastre tão grande que acaba com toda a humanidade ou nos prejudica permanentemente. Estes podem ser desastres naturais, ou desastres causados ​​pelo homem de natureza intencional ou acidental. Um risco existencial pode estar existente há muito tempo, ou apenas algumas décadas, ou talvez esteja em nosso futuro. Exemplos de risco existencial incluem grandes greves de asteróides, guerra nuclear e inteligência artificial desonesta. Ele usa um gráfico de risco semelhante ao seguinte para explicar riscos existenciais:

escopo de risco global el niño desmatamento risco existencial local trovoada crise econômica furacão PESSOAL papercut torno de tornozelo você é filmado Intensidade de risco insignificante gerenciável terminal Os riscos existenciais são globais e terminais, ou talvez no terminal. Um vírus extremamente contagioso com uma taxa de letalidade de 99,9% que ninguém está imune é um exemplo de risco existencial. Como uma criança que não sabe que um fogão está quente até que ele o toque, temos pouca experiência com catástrofes nesse nível. A praga bubônica da Europa medieval e a gripe espanhola da Primeira Guerra Mundial nos oferecem uma amostra de como seria um desastre existencial. Dezenas de milhões de pessoas saudáveis ​​foram mortas em poucas horas por ambas as doenças.

Em seu artigo canônico sobre o tópico, a Bostrom lista sobre uma dúzia de riscos existenciais e os categoriza com base em sua gravidade e recuperação. Alguns dos mais plausíveis estão listados aqui:

• Vírus geneticamente projetados
• Races de armas nanotecnológicas
• Guerra nuclear catastrófica
• Robótica auto-replicando fora de controle
• Superinteligente IA indiferente aos seres humanos
• Desastre de física em um acelerador de partículas
• Explosão de supervulcão bloqueia o sol

Devido à extrema severidade e irreversibilidade do risco existencial, possíveis contramedidas valem brainstorming e implementação. Mesmo que a chance de uma determinada ameaça existencial se tornar realidade seja pequena, as imensas apostas envolvidas exigem um programa de evitação grave. Para ameaças de origem humana, as contramedidas incluem sistemas sofisticados de observação e alerta e regulação de certas tecnologias para garantir que elas não sejam usadas para destruição em massa. Países suspeitosTED de possuir armas de destruição em massa às vezes é invadido por outros países preocupados com as consequências de longo prazo, como demonstra a guerra no Iraque.