研究人员警告的 AI 末日场景：核冬天、生物武器、失控 AI 与 AI 接管互联网

随着多位高管以安全为由呼吁放缓 AI 发展，AI 末日场景讨论升温。RAND 报告认为，因指挥控制系统设有严格防护，AI 目前尚无法引发核武器使用；Anthropic 称本月已拦截包括可能导向生物武器研究在内的恶意使用请求。Anthropic CEO Dario Amodei 警告，数月内一群 AI agent 或能以僵尸网络“接管”互联网。