摘要
用于克服大语言模型中的最大词元限制的实施例。该实施例可接收目标文本。该实施例可以将与目标文本相关联的注意力矩阵分成一系列子矩阵。该实施例可以利用门控循环单元神经网络来编码对应于该系列子矩阵的固定长度向量。该实施例可以构造有向无环图,其中编码的固定长度向量是节点,并且其中基于目标任务定义节点之间的连接。该实施例可以利用图神经网络来执行动态图构造和节点特征转移,以迭代地生成包括一系列最相关的节点特征和连接关系的更新图。该实施例可以通过从更新图中提取信息来生成针对所接收的目标文本的一个或多个摘要。
技术关键词
节点特征
计算机可读存储器
大语言模型
有向无环图
计算机系统
矩阵
GRU神经网络
计算机程序产品
文本
门控循环单元
摘要
邻居
关系
处理器
注意力
编码
定义