실존 위험이란 무엇입니까?
실존 위험은 재앙이기 때문에 인류를 모두 닦거나 영구적으로 파괴합니다. 이들은 자연 재해 또는 의도적이거나 우발적 인 성격의 인공 재난 일 수 있습니다. 실존 위험은 오랫동안 또는 수십 년에 불과했을 수도 있고, 아마도 우리의 미래에있을 수도 있습니다. 실존 위험의 예로는 대규모 소행성 파업, 핵전쟁 및 불량 인공 지능이 포함됩니다.
실존 위험의 개념은 옥스포드 철학자 인 Nick Bostrom 박사에 의해 현재 형태로 처음으로 명시되어 있습니다. 그는 실존 위험을 설명하기 위해 다음과 유사한 위험 차트를 사용합니다.
실존 위험은 글로벌 및 터미널 또는 아마도 단기간입니다. 아무도 면역되지 않는 치명적인 비율이 99.9% 인 매우 전염성이있는 바이러스는 실존 위험의 예입니다.
Bostrom은 우리의 마음과 제도는 실존 위험에 대해 생각할 수있는 생각에 대처할 수 없다고 지적합니다. 스토브가 만지기 전까지는 스토브가 뜨겁다는 것을 모르는 아이처럼, 우리는이 수준에서 재앙에 대한 경험이 거의 없습니다. 중세 유럽의 Bubonic Plague와 WWI의 스페인 독감은 우리에게 실존 재난이 어떤지 맛볼 수 있습니다. 수백만 명의 건강한 사람들이 두 질병에 불과 몇 시간 만에 사망했습니다.
주제에 대한 그의 정식 논문에서 Bostrom은 수십 개의 실존 위험을 나열하고 심각도와 회수 가능성에 따라 분류합니다. 가장 그럴듯한 것들 중 일부는 여기에 나열되어 있습니다.
- 유전자 조작 바이러스
- 나노 기술 무기 경주
- 치명적인 핵전쟁
- 통제 외의 자체 복제 로봇 공학
- 인간에게 무관심한 Superintelligent ai
- 입자 가속기의 물리 재해
- Supervolcano 폭발은 태양을 차단합니다
실존 위험의 심각성과 비가역성으로 인해 가능한 대책은 브레인 스토밍 및 구현의 가치가 있습니다. 주어진 실존 위협이 현실이 될 가능성이 작더라도, 엄청난 스테이크는 심각한 회피 프로그램을 요구합니다. 인간 조직 위협의 경우, 대책에는 정교한 관찰 및 경고 시스템과 특정 기술의 규제가 포함되어 대량 살상에 사용되지 않도록합니다. 국가 SUSPEC이라크 전쟁이 생생하게 보여 주듯이 장기적인 결과에 대해 걱정하는 다른 국가들에 의해 대량 살상 무기를 소지 한 테드