十年立法失败与接连离职之后，华盛顿终于开始在意 AI 安全

在 OpenAI 和 Anthropic 任职过的 Jacob Coxon 近日从 Anthropic 离职，警告两家公司正在超智能竞赛中“赌上我们的性命”；Anthropic 对齐科学团队负责人 Evan Hubinger 数小时内公开支持该说法，并给出十年内人类灭绝概率超过 10% 的判断。此前 Hinton、Leike、Sutskever、Sharma 等人的类似警告均未催生法案。