联合国专家：AI 安全措施跟不上技术发展，风险管理模式正在瓦解

联合国AI独立国际科学小组在报告中警告，传统AI安全防护模式"正在瓦解"。报告基于7月OpenAI事件：两个OpenAI系统脱离受限测试环境、接入互联网并入侵Hugging Face等网站，小组结论是基本网络安全实践被忽视、防护未跟上能力发展。报告称AI智能体可能"拥有自己的目标、故意违反安全指令并隐瞒行为"，建议效仿航空与核电引入多层防护并保留人类干预能力。