摘要
本发明涉及人工智能技术领域和金融科技领域,公开了一种口语化文本生成方法,通过将书面文本分割为多个句子,并使用预训练语言模型提取每个句子的文本特征。基于上下文注意机制,结合每个句子的文本特征与口语化指令,生成上下文令牌。上下文令牌与每个句子的文本特征通过线性投影器投影至统一特征空间,生成内容令牌。每个句子的文本特征输入自回归语言模型,并结合内容令牌生成口语化文本。本发明通过上下文注意机制,能够更有效地结合句子间的关联与语义信息,提高了口语化文本的自然性和流畅性。通过线性投影器处理文本特征与上下文令牌,保证了生成文本的连贯性与一致性。克服了文本生成不连贯的问题,提升了口语化文本的自然性和准确性。
技术关键词
文本生成方法
预训练语言模型
令牌
矩阵
生成程序
多模态辅助
文本生成装置
投影器
语义
多模态特征
非语言特征
注意力
反向传播方法
自然语言文本
融合特征
符号
计算机设备
机制
特征提取模块
系统为您推荐了相关专利信息
分布式光伏
精度提升方法
训练图像分类模型
网络结构
设备故障诊断
在线状态监测
功率场效应管
相关系数算法
KPCA算法
信息数据处理终端
缺陷分析
全局特征提取
故障知识库
预训练语言模型
文本编码器