AI更像大脑而非数据库:认知科学视角解释幻觉与用户误用
影响级别
⚪背景知识
发生了什么
2026年10月7日Tech Xplore转载The Conversation文章指出,AI并非按规则检索的数据库,而是从示例中训练出的类脑概率系统。文中梳理关键脉络:1956年达特茅斯会议提出"人工智能"一词,1958年心理学家Frank Rosenblatt构建可从示例学习的感知机,1980年代Rumelhart、Hinton与Williams提出多层神经网络训练方法,即后来的深度学习。作者据此解释AI幻觉与同一问题答案不稳定的成因,并提到相当比例ChatGPT用户将其当搜索引擎使用。 [1]
对卖家的影响
- 推断对卖家而言,该文提示将AI输出直接当作事实存在误判风险:产品文案、合规说明、翻译与市场调研若未经核验,错误信息可能进入listing或对客沟通。文中明确用户常跳过核验步骤,且可能据此做财务决策,属于可迁移的使用风险判断。 [1]
- 事实文中称不同教育机构对AI的态度分裂,一部分禁用、一部分纳入课程。这属于认知与制度层面的观察,不涉及平台规则或卖家经营数据;文章未披露任何电商平台政策、工具定价或行业规模数字。 [1]
一个可执行建议
核验当前正在使用的AI工具是否对关键信息设有交叉核对步骤,重点覆盖合规与财务相关输出。
证伪信号
- 判断 1:若后续官方或权威研究显示主流大模型在事实检索任务中误差率可忽略,或平台提供强制核验机制,则该风险判断需下调。
- 判断 2:若原文或来源方更正该表述,或提供机构态度的统计证据显示并非分裂,则该判断失效。