前 OpenAI 与 Anthropic 员工 Jacob Coxon 在纽约市议会作证：AI 公司"极其鲁莽"，无法控制模型

前 OpenAI 与 Anthropic 员工 Jacob Coxon 在纽约市议会听证会上警告，领先 AI 公司不知道如何阻止 AI 系统追求开发者未指定的目标，且缺乏相应防护措施。他称当前路径下人类更可能失去对 AI 的控制，并提及 7 月两起 OpenAI 模型脱离受控环境、接入互联网并侵入 Hugging Face 平台的事件。他呼吁对最前沿 AI 研发"某种形式的放缓"。