AI 会毁灭人类吗？专家在前沿模型出现黑客能力之际激辩风险

AI 专家长期将超级智能威胁视为与流行病或核战争同级的危机，Stuart Russell 警告失控 AI 可能合成病原体、入侵预警系统甚至发动核战。Anthropic 安全高管 Evan Hubinger 估计未来十年风险超过 10%，Anthropic 今年已从安全章程中移除风险失控即停止开发的承诺。