什么是生存风险(Existential Risk)？

存在主义风险是一场灾难，它可以毁灭人类，也可以使我们永远残废。这可能是自然灾害，也可能是有意或偶然的人为灾难。存在风险可能存在很长时间，或者只有几十年，或者它可能存在于我们的未来。存在风险的例子包括大型小行星撞击、核战争和无赖的人工智能。传染性病毒是存在风险的一个例子。牛津大学哲学家尼克·博斯特罗姆博士首先以目前的形式阐述了存在风险的概念他使用类似于以下内容的风险图来解释存在风险：风险范围全球厄尔尼诺现象存在风险本地雷暴经济下行飓风个人文件在安克雷你是风险强度可忽略的可管理的终端存在风险是全球性的一种极端传染性病毒，致死率高达99.9%，没有人能免疫，这就是存在风险的一个例子。博斯特罗姆指出，我们的头脑和机构都没有能力处理对生存风险的思考，因为我们以前从未经历过——如果我们曾经经历过，我们不会在这里为他们着想的。就像一个孩子在接触到炉子之前不知道炉子是热的，我们对这一级别的灾难几乎没有经验。中世纪欧洲的黑死病和第一次世界大战的西班牙流感让我们尝到了生存灾难的滋味。在这两种疾病中，仅仅几个小时就有数以千万计的健康人丧生。在他关于这个主题的经典论文中，博斯特罗姆列出了大约12种存在的风险，并根据其严重性和可恢复性对它们进行了分类这里列出了一些最有可能的例子：基因工程病毒无技术武器竞赛天文核战争失控自我复制机器人智能人工智能对粒子加速器中的人类物理灾难漠不关心超级火山爆发由于极端严重性和不可逆转性而挡住了太阳对于存在的风险，可能的应对措施值得集思广益并付诸实施。即使某个特定的存在威胁成为现实的可能性很小，所涉及的巨大利害关系也需要一个严肃的规避计划。对于人类起源的威胁，应对措施包括先进的观察和警报系统，并对某些技术进行管制，以确保这些技术不被用于大规模毁灭性武器。被怀疑拥有大规模毁灭性武器的国家有时会受到其他国家的入侵，担心其长期后果，伊拉克战争生动地证明了这一点。