清华腾讯申请基于置信度引导的大模型推理链压缩方法与系统专利，在保证推理完整性与准确性的前提下最大限度压缩冗余步骤
时间：2025-08-13 11:12:39 阅读：
国家知识产权局信息显示，清华大学;腾讯科技有限公司申请一项名为“一种基于置信度引导的大模型推理链压缩方法与系统”的专利，公开号CN120430412A，申请日期为2025年04月。
专利摘要显示，本发明提出一种基于置信度引导的大模型推理链压缩方法与系统，属于大模型技术领域。其中，所述方法包括：构建用于提升大模型推理内部置信度的信心短语池；获取标准问题集，利用大模型对标准问题集中每个问题生成对应的完整推理链，以构建高效推理数据集；其中，推理链生成过程中通过利用信心短语池对推理链中的反思步骤进行信心注入以及对每次更新后的当前推理链计算置信度以优化推理过程；之后利用高效推理数据集对大模型进行训练，训练完毕的大模型用于自动生成经过有效压缩后的针对输入问题的推理链。
源自：