¿Qué es el riesgo existencial?
Un riesgo existencial es un desastre tan grande que elimina a toda la humanidad o nos paraliza permanentemente. Estos pueden ser desastres naturales, o desastres provocados por el hombre de naturaleza intencional o accidental. Un riesgo existencial puede haber existido durante mucho tiempo, o solo unas pocas décadas, o tal vez radica en nuestro futuro. Los ejemplos de riesgo existencial incluyen grandes ataques de asteroides, guerra nuclear e inteligencia artificial deshonesta.
El concepto de riesgo existencial fue articulado por primera vez en su forma actual por el Dr. Nick Bostrom, un filósofo de Oxford. Utiliza una tabla de riesgo similar a la siguiente para explicar los riesgos existenciales:
Los riesgos existenciales son globales y terminales, o tal vez casi terminales. Un virus extremadamente contagioso con una tasa de letalidad del 99.9% a la que nadie es inmune es un ejemplo de riesgo existencial.
bostrom señala que nuestras mentes e instituciones están mal equipadas para hacer frente a pensar en el riesgo existencial, porque nunca hemos experimentado uno antes, si no lo habríamos hecho aquí para pensar en ellas. Como un niño que no sabe que una estufa está caliente hasta que la toca, tenemos poca experiencia con catástrofes en este nivel. La peste bubónica de la Europa medieval y la gripe española de la Primera Guerra Mundial nos ofrecen una muestra de cómo sería un desastre existencial. Docenas de millones de personas sanas fueron golpeados en solo horas por ambas enfermedades.
En su artículo canónico sobre el tema, Bostrom enumera sobre una docena de riesgos existenciales y los clasifica en función de su gravedad y recuperación. Algunos de los más plausibles se enumeran aquí:
- virus genéticamente diseñados
- carreras de armas nanotecnológicas
- Guerra nuclear catastrófica
- Robótica autorreplicante fuera de control
- Superintelligente ai indiferente a los humanos
- Desastre de física en un acelerador de partículas
- La explosión de supervolcano bloquea el sol
Debido a la gravedad extrema y la irreversibilidad del riesgo existencial, vale la pena hacer una lluvia de ideas e implementar las contramedidas. Incluso si la posibilidad de que una amenaza existencial dada se convierta en realidad es pequeña, las inmensas apuestas involucradas exigen un programa de evitación grave. Para las amenazas de origen humano, las contramedidas incluyen sistemas sofisticados de observación y alerta y regulación de ciertas tecnologías para garantizar que no se utilicen para la destrucción masiva. Países STIVECTed de poseer armas de destrucción masiva a veces son invadidas por otros países preocupados por las consecuencias a largo plazo, como lo demuestra la guerra en Irak vívidamente.