摘要
本发明公开了一种基于特征分类器的思维链推理数学问题求解方法及系统,包括:(1)获取数学问题集并选取正向与反向思维链示例进行拼接组成新集合;(2)将新集合元素分别输入模型进行推理构建单词级别的推理路径生成树,选择池化差值处理后的注意力权重矩阵作为节点特征进行存储;(3)遍历生成的所有推理路径生成树,筛选符合要求的节点构建特征分类器训练集;(4)使用支持向量机算法训练特征分类器;(5)通过训练好的特征分类器,参与预训练语言模型推理过程中路径的选择,获得较为准确的推理过程及答案。利用本发明,可以实现对于预训练语言模型推理路径更细颗粒度的调整把控,有利于其在数学问题上的准确推理求解,提升其泛化水平。
技术关键词
预训练语言模型
提示生成方法
生成树
数学
文本
分类器训练
支持向量机算法
答案
训练特征
注意力
矩阵
支持向量机分类
正确率
节点特征
拉格朗日对偶
支持向量机模型
径向基核函数
样本