提示词压缩方法、装置、电子设备、存储介质和程序产品

AITNT
正文
推荐专利
提示词压缩方法、装置、电子设备、存储介质和程序产品
申请号:CN202411859790
申请日期:2024-12-17
公开号:CN120031123A
公开日期:2025-05-23
类型:发明专利
摘要
本发明提供一种提示词压缩方法、装置、电子设备、存储介质和程序产品,涉及人工智能技术领域,所述方法包括:基于查询文档中标记token之间的自注意力,构建最大生成树;最大生成树是自注意力总和最大的生成树;基于社区检测算法对最大生成树进行语义分割,得到多个语义单元;每个语义单元包括多个token;根据每个语义单元的重要性得分,对多个语义单元进行过滤;每个语义单元的重要性得分是每个语义单元中所有token的重要性得分的平均值;将过滤后的语义单元中的token按照原始顺序进行组合,得到压缩后的提示词。本发明实现压缩后的提示词能够保持重要的语义信息。
技术关键词
生成树 注意力 语义 社区检测算法 非暂态计算机可读存储介质 电子设备 处理器 标记 大语言模型 人工智能技术 计算机程序产品 组合模块 压缩装置 过滤模块 顶点 存储器
系统为您推荐了相关专利信息
1
一种孤岛检测方法及计算机程序产品、存储介质、设备
分布式电网系统 孤岛检测方法 计算机程序产品 孤岛检测技术 注意力神经网络
2
一种基于深度学习的钢铁表面缺陷检测方法
深度特征提取网络 表面缺陷检测方法 分支 带钢表面缺陷 注意力
3
应用于地理空间数据共享系统的数据存储方法及系统
数据共享系统 数据存储方法 分布式存储架构 分布式列存储数据库 智能索引构建
4
基于YOLO-Light对交通图像目标检测方法
交通特征 多尺度特征融合 注意力机制 洗牌 通道
5
一种基于LDA主题建模的地铁建设风险分类方法
风险分类方法 词袋模型 主题关键词 分词 构建词典
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号