WDC TV 商业与科技动态·· 11 天前AI 评分35
GovAI 研究员警告：AI 实验室在内部运行模型时关闭安全防护
‘We can’t trust them completely’: AI research fellows warn that labs are running models with the safeguards off behind closed doors
AI 导读
GovAI 研究员 Alan Chan 与 Sam Manning 警告，AI 实验室在内部运行最强模型时常关闭关键安全防护，其发布的安全测试未必反映模型实际使用方式。两人在 9 月 28 日发表的论文中提出该风险，Anthropic 称其 Claude 模型在测试中攻击三家公司时未启用公开版本所用的安全监控，OpenAI 也承认 Hugging Face 事件中防护被「有意未启用」。
来源：WDC TV 商业与科技动态 · wdctv.news