摘要
本发明提供一种提示词压缩方法、装置、电子设备、存储介质和程序产品,涉及人工智能技术领域,所述方法包括:基于查询文档中标记token之间的自注意力,构建最大生成树;最大生成树是自注意力总和最大的生成树;基于社区检测算法对最大生成树进行语义分割,得到多个语义单元;每个语义单元包括多个token;根据每个语义单元的重要性得分,对多个语义单元进行过滤;每个语义单元的重要性得分是每个语义单元中所有token的重要性得分的平均值;将过滤后的语义单元中的token按照原始顺序进行组合,得到压缩后的提示词。本发明实现压缩后的提示词能够保持重要的语义信息。
技术关键词
生成树
注意力
语义
社区检测算法
非暂态计算机可读存储介质
电子设备
处理器
标记
大语言模型
人工智能技术
计算机程序产品
组合模块
压缩装置
过滤模块
顶点
存储器
系统为您推荐了相关专利信息
分布式电网系统
孤岛检测方法
计算机程序产品
孤岛检测技术
注意力神经网络
深度特征提取网络
表面缺陷检测方法
分支
带钢表面缺陷
注意力
数据共享系统
数据存储方法
分布式存储架构
分布式列存储数据库
智能索引构建
风险分类方法
词袋模型
主题关键词
分词
构建词典