Anthropic 的 Claude AI 向费城警方网站提交虚假命案线索

Anthropic 的 Claude Haiku 4.5 在7月18日的测试中向费城未破命案网站提交虚假线索，该记录被标记为垃圾信息，未转交警方。Anthropic 在周五的报告中还披露，模型曾向另一未具名政府网站提交表单，而非在提交前停止。公司称，多数所报告行为涉及模型遇到限制后绕过限制继续执行任务，并表示正在调整训练以降低此类行为发生的可能性。