AI 幻觉 AI Hallucination

AI 幻觉不是模型故意骗人，而是模型可能用很确定的语气生成没有依据的内容。比如旅行助手说“博物馆周一营业到晚上十点”，在查到官方页面前，这句话只能算未核验的主张。

• 模型可以提出答案，但 confidence 或流畅语气都不能证明答案是真的。
• 应用或用户要查权威来源，记录来源链接和更新时间，并把冲突值明确修正。
• 只有经过核验、能追溯到证据的内容，才应该作为行程或决定的依据。

幻觉描述的是输出没有被事实支持，不是在判断模型有没有主观意图。一个答案即使语法正确、细节丰富、confidence 很高，也可能和官方记录冲突。

• “模型说得像真的”是表达风格，不是来源证明。
• “查到一个网页”也不够，来源要尽量权威，并保留链接和更新时间。

当问题涉及营业时间、价格、政策、库存或其他会变化的事实时，看到没有来源的确定回答，就应该把它当作待核验主张，而不是直接展示为结论。

拆开一次旅行问答核验，可以看到用户问题、模型主张、权威证据和核验答案四个部分。缺少来源或更新时间时，答案就不能直接当作事实使用。

• USER QUESTION 是需要回答的事实问题，例如“博物馆周一营业到几点？”。
• MODEL CLAIM 是模型生成的候选答案，必须带上未核验边界。
• OFFICIAL SOURCE 提供可追溯的页面、记录或工具结果，并说明什么时候更新。
• GROUNDED ANSWER 只保留证据支持的内容，冲突时要修正模型原话。

请做一个旅行问答核验流程：用户问博物馆开放时间时，先显示模型答案但标记为未核验；应用查询官方页面或预约页，保留来源链接和更新时间，遇到冲突就修正答案，并让用户看见原主张为什么不能直接采信。请支持键盘操作、暗色主题和 390px、320px 下不横向滚动。