Unite.AI 人工智能与商业应用新闻·· 8 天前AI 评分28
AI Agent 已准备好行动,大多数公司还没准备好放手
AI Agents Are Ready to Act. Most Companies Aren’t Ready to Let Them.
AI 导读
AI Agent 能自主调用工具、API 和 MCP 服务器、生成并执行代码,安全边界已从模型输出转向实际行动本身。OpenAI 已开始系统性报告意外或令人担忧的模型行为,Anthropic 的 agentic misalignment 研究也显示自主系统行为可能偏离操作者预期。企业需要的是运行时同步控制,而非事后观测。
来源:Unite.AI 人工智能与商业应用新闻 · unite.ai