物理学家提出预测AI模型失稳翻转的数学公式

影响级别

⚪背景知识

发生了什么

2026年10月8日，两位物理学家在Patterns发表研究，提出预测AI模型从合适回答转向潜在危险回答的“临界点公式”。该公式在三个公司七个开源AI模型的19次“翻转”中命中18次，并可预测是立即翻转还是先给出若干可接受回答后翻转。研究还发现，同一组关于疫苗、伤害他人和自残的问题，仅因提问顺序不同，AI可能给出全部不可取或全部可接受的答案。研究者特别担忧离线AI缺乏云端安全过滤与监控。 [1]

对卖家的影响

• 推断若公式可复现，本地/离线AI应用的安全审核需从“事后云端过滤”转向“运行前预判”，但论文未给出商用部署、API或成本数据，卖家侧产品影响未知。 [1]
• 推断提问顺序影响结果，提示交互设计本身即为安全变量；但研究未涉及任何电商平台规则、硬件产品或销售场景，不构成卖家合规义务变化。 [1]

证伪信号

• 判断 1：若有独立复现研究显示该公式在更多模型或商用聊天机器人上命中率显著下降，或厂商公布不采用该方法的说明，则判断失效。
• 判断 2：若出现平台或监管机构据此发布明确要求，则“不构成义务”判断需修正；否则维持。