摘要
本发明涉及人工智能技术领域,可应用于金融科技、医疗健康等业务系统平台中,公开了一种文本编码方法、装置、计算机设备及存储介质,方法包括:获取输入文本序列,生成所述输入文本序列对应的关键向量矩阵,其中,所述关键向量矩阵包括查询矩阵、键矩阵和值矩阵;获取所述输入文本序列的各个元素的关注度,基于所述关注度以及所述查询矩阵,对所述查询矩阵进行剪枝处理;基于剪枝处理后的查询矩阵、所述键矩阵和所述值矩阵,计算出所述输入文本序列的注意力得分,以实现对所述输入文本序列的编码。本发明解决了解决现有技术中无法保证文本编码准确的同时,降低注意力计算的运算量和内存占用的技术问题。
技术关键词
文本编码方法
矩阵
序列
计算机可读指令
注意力
元素
文本编码装置
计算机设备
可读存储介质
人工智能技术
医疗健康
业务系统
编码模块
处理器
存储器
金融
重构
系统为您推荐了相关专利信息
遗传算法优化
优化分析系统
矩阵
资源分配
分析单元
芯片验证系统
验证方法
非瞬时性计算机可读存储介质
输入模块
计算机可读指令
信息管理方法
地基土层
信息管理系统
编码器
全局特征提取
摆臂式履带机器人
摆臂角度
骨架模型
机器人运动控制技术
序列
反演方法
方位地震数据
介质弹性参数
剪切模量
方位角