1.一种降低大语言模型幻觉的方法,其特征在于,所述方法包括:
多候选结构化推理生成:接收输入问题,驱动大语言模型生成N个结构化候选,每个结构化候选包含最终答案和推理步骤链,所述推理步骤链中每个步骤携带前提陈述和自评置信度;
三重置信度评估:对每个结构化候选执行对立检查获取对立置信度,执行蕴含检查获取蕴含置信度,计算推理步骤链中的最小步骤置信度,基于所述三个置信度聚合计算综合置信度;
候选择优:从N个候选中选择综合置信度最高的结构化候选作为当前最优状态;
全局诊断与迭代优化:在内层循环中,识别当前最优状态中置信度最低的推理步骤,通过全局推理链进行弱点诊断分析,输出诊断结果,诊断分析的内容包括根本原因、上游依赖关系和整体推理方向,基于诊断结果选择修正策略,执行步骤修正,并对修正步骤之后的推理链进行后缀重建或答案重写;
收敛判定:当综合置信度 、最小步骤置信度和蕴含置信度均超过各自预设阈值时,判定收敛并输出当前答案;否则继续迭代或进入下一轮外层候选生成;
所述对立检查的步骤,包括驱动大语言模型针对当前答案生成对立结论;评估对立结论的可信度,其中,越高表示对立结论可信度越高,基于对立结论的可信度对推理步骤进行校准:,其中,为第i个步骤的自评置信度;
所述蕴含检查的步骤包括:将推理步骤链和最终答案输入大语言模型,判断推理步骤链是否逻辑蕴含最终答案,输出蕴含置信度;其中,蕴含置信度的判定标准为:表示推理链强支持答案;表示证据支持但不充分;表示推理链与答案存在矛盾;
所述综合置信度的聚合计算公式为:
其中,为所有步骤置信度的最小值,为对立置信度的下限保护值;
所述通过全局推理链进行弱点诊断分析,输出诊断结果的步骤,包括:上游依赖:判断弱点是否由之前的步骤出现异常导致;
信息缺失:判断推理链是否跳过的中间步骤;
逻辑断裂:判断步骤之间的推导是否存在跳跃或隐含假设;
方向偏差:判断整体推理方向是否正确,并判定是否需要更换角度;
答案一致性:判断最终答案与推理步骤是否匹配;
输出诊断结果,包括问题根因、导致问题的步骤索引、整体推理链问题、修正指令和建议动作。
2.根据权利要求1所述的降低大语言模型幻觉的方法,其特征在于,所述建议动作包括三种类型:refine_single:仅需修正当前最弱步骤;
rebuild_from:从cause_step_idx开始重建后续步骤,cause_step_idx为全局诊断输出的根因步骤索引;
rethink_all:整体推理方向存在问题,跳出内层循环触发外层重新生成候选。
3.根据权利要求2所述的降低大语言模型幻觉的方法,其特征在于,基于诊断结果选择修正策略,执行步骤修正的步骤中,根据诊断结果确定需要修正的目标步骤索引,若,则修正根因步骤,否则修正当前最弱步骤;基于修正指令,驱动大语言模型修改目标步骤;输出修正后的前提陈述更新后的自评置信度;用修正后的步骤替换原始步骤。
4.根据权利要求2所述的降低大语言模型幻觉的方法,其特征在于,对修正步骤之后的推理链进行后缀重建的步骤,包括:根据全局诊断结果确定重建起点,若诊断建议为,则使用,否则使用实际修正的步骤索引;将推理步骤链分割为前缀和后缀,其中前缀包含从第一步到重建起点,后缀为重建起点之后的所有步骤,保持前缀不变,驱动大语言模型重新生成后缀;若重建后缀为空,则保留原后缀。
5.根据权利要求1所述的降低大语言模型幻觉的方法,其特征在于,收敛判定的步骤中,收敛判定的条件为:其中,为全局置信度阈值,为单步置信度阈值,为蕴含置信度阈值,三个条件同时满足,即判定收敛。
6.根据权利要求5所述的降低大语言模型幻觉的方法,其特征在于,答案一致性检查的步骤包括:从推理步骤链的最后若干步骤中使用模式匹配提取数值答案;若提取的数值答案与最终答案不一致,或最终答案为超过预设长度的非数值文本,则用提取的数值答案替换最终答案。