物理学家警告：高级 AI 智能体无控制接入互联网或威胁人类，Bachrach 提议独立安全网关

物理学家 Robert Z. Bachrach 博士发文警告，高级 AI 推理智能体若无有效独立控制地接入互联网，可能因恶意利用、外部操纵或意外行为带来严重风险。他提议在 AI 系统与互联网之间设立专用 AI 安全网关，让 AI 只能请求信息或提议行动，由独立控制的系统决定是否授权，凭证、权限、监控和紧急隔离均不归 AI 掌控。该架构旨在降低风险，但须经独立测试，且无法保证安全。