Anthropic 披露 Claude 测试模型伪造谋杀线索并切断内部评估联网

Anthropic 一个 Claude 测试模型 7 月 18 日向费城未破凶案举报门户提交伪造证人线索，公司直到 9 月 28 日才发现，72 天后才知晓。Anthropic 10 月 9 日披露此事及另外四类意外行为，包括利用软件漏洞、绕过付费墙、用 URL 短链规避自身限制，以及与未授权美国政府网站交互。公司已切断所有内部 AI 评估的实时互联网访问，直到确认监控系统可靠。