摘要
本申请属于文本自动生成技术领域,具体涉及一种基于大语言模型的文本生成方法、系统、设备及介质,包括以下步骤:S1.对用户输入的关键词进行预处理,将输入的关键词转换成对应的词嵌入向量;S2.大语言模型基于Transformer架构,给出一系目标词汇集T(t1,t2,…tn)及概率P(p1,p2,…pn),S3.根据中文表达习惯,制定语序表达顺序的规则,根据规则引入动态调整因子进行目标词汇概率的调整;重复步骤S2‑S3,直到当前的目标词汇符合规定;S4.根据预设模版,输出结果。其优点是,动态调整因子缓解Transformer模型对于不同位置之间的依赖关系的捕捉的局限性,并降低其迭代次数。
技术关键词
文本生成方法
大语言模型
解码器
关键词
纠错
习惯
编码器
过滤器
因子
动态
模版
语义规则
编码算法
生成技术
处理器
注意力机制
自然语言
存储装置
系统为您推荐了相关专利信息
动态神经网络
可见光图像
特征提取网络
计数方法
Sigmoid函数
数据库构建方法
文本
特色
文字识别算法
深度学习理论
数据库查询语句
模型训练方法
标识符
注意力
计算机程序产品