Anthropic向美国议员提议AI安全法案

Anthropic向美国议员提出AI安全法案草案，要求最强大AI系统的开发者开展安全测试、披露结果并接受独立评估，同时限制政府叫停模型的权限。按草案，政府干预须涉及可预见且迫在眉睫的生物武器、模型失控或网络攻击风险，并达到超过10亿美元损害或超过50人死亡或重伤的门槛。

Anthropic正向美国国会议员推介前沿AI安全法案草案，拟要求开发者开展测试、披露结果并接受独立评估。Politico称，草案仅允许针对可预见且迫在眉睫、可能造成超过10亿美元损失或超过50人死亡或重伤的风险阻止模型发布或使用，且风险须源于生物武器的制造或释放、模型逃脱开发者控制或网络攻击。