O que é risco existencial?
Um risco existencial é um desastre tão grande que destrói toda a humanidade ou nos paralisa permanentemente. Podem ser desastres naturais ou desastres causados pelo homem, de natureza intencional ou acidental. Um risco existencial pode existir há muito tempo, ou apenas algumas décadas, ou talvez esteja no nosso futuro. Exemplos de risco existencial incluem grandes ataques de asteróides, guerra nuclear e Inteligência Artificial desonesta.
O conceito de risco existencial foi articulado em sua forma atual pelo Dr. Nick Bostrom, filósofo de Oxford. Ele usa um gráfico de risco semelhante ao seguinte para explicar os riscos existenciais:
| Escopo de risco | |||
| Global | El Nino | desmatamento | risco existencial |
| Local | trovoada | desaceleração econômica | furacão |
| Pessoal | papercut | tornozelo torcido | você é baleado |
| Intensidade de risco | Insignificante | Gerenciável | terminal |
Os riscos existentes são globais e terminais, ou talvez quase terminais. Um vírus extremamente contagioso com uma taxa de letalidade de 99,9% a que ninguém está imune é um exemplo de risco existencial.
Bostrom ressalta que nossas mentes e instituições estão mal equipadas para lidar com o pensamento sobre o risco existencial, porque nunca experimentamos um antes - se o tivéssemos, não estaríamos aqui para pensar sobre eles. Como uma criança que não sabe que um fogão está quente até tocá-lo, temos pouca experiência com catástrofes nesse nível. A peste bubônica da Europa medieval e a gripe espanhola da Primeira Guerra Mundial nos oferecem uma amostra de como seria um desastre existencial. Dezenas de milhões de pessoas saudáveis foram mortas em poucas horas por ambas as doenças.
Em seu artigo canônico sobre o tema, Bostrom lista cerca de uma dúzia de riscos existenciais e os categoriza com base em sua gravidade e capacidade de recuperação. Alguns dos mais plausíveis estão listados aqui:
- vírus geneticamente modificados
- corridas de armas nanotecnológicas
- guerra nuclear catastrófica
- robótica auto-replicante fora de controle
- IA superinteligente indiferente aos seres humanos
- desastre da física em um acelerador de partículas
- explosão do supervulcão bloqueia o sol
Devido à extrema gravidade e irreversibilidade do risco existencial, vale a pena pensar e implementar possíveis contramedidas. Mesmo que a chance de uma dada ameaça existencial se tornar realidade seja pequena, os imensos riscos envolvidos exigem um sério programa de prevenção. Para ameaças de origem humana, as contramedidas incluem sistemas sofisticados de observação e alerta e regulamentação de certas tecnologias para garantir que elas não sejam usadas para destruição em massa. Os países suspeitos de possuírem armas de destruição em massa são às vezes invadidos por outros países preocupados com as conseqüências a longo prazo, como a Guerra do Iraque demonstra vividamente.