简单数学公式可预测 AI 聊天机器人何时"失控"变坏

两位物理学家在 Patterns 发表研究，提出一个可预测 AI 模型从合适回答转向潜在危险回答的"临界点公式"。该公式在三个公司七个开源 AI 模型的 19 次"翻转"中命中 18 次，并能预测 AI 是立刻翻转还是先给出一连串可接受回答后再翻转。研究者发现同一组关于疫苗、伤害他人和自残的问题，仅因提问顺序不同，AI 可能对所有问题都给出不可取答案或都给出可接受答案。