Tech Xplore 科技、AI 与电子产业·· 13 天前AI 评分25
受量子物理启发的数学方法,或助 AI 识别自己「不知道答案」
Quantum-inspired math could help AI recognize when it does not know the answer
AI 导读
迈阿密大学工程学院团队提出一种检测大语言模型何时可能不可靠的方法:通过测试模型输出概率在微小扰动下是否稳定,并借用量子物理中的数学工具与统计学的 missing-species 模型,估计未被输出但可能存在的答案,相关研究已发布在 arXiv。该研究并非要消除 AI 幻觉,而是为不可靠回答提供更清晰的信号,目标包括让模型直接说明「我不确定」或在回答前索取更多上下文。
来源:Tech Xplore 科技、AI 与电子产业 · techxplore.com