摘要
本申请公开了一种提示文本压缩方法和相关设备,通过将原始提示文本分解为令牌序列,计算各令牌基于上下文条件概率的自信息量,依据目标压缩比确定迭代限制阈值,迭代移除低自信息量令牌直至达到压缩目标。该方案通过自信息量评估令牌重要性,精准去除冗余、低价值信息,解决了现有技术无法有效剔除低信息量内容的问题;基于语言模型的计算机制,规避了大模型自身能力限制及幻觉严重的缺陷;相较于构建知识图谱的方法,无需复杂图谱构建与遍历,大幅降低成本,显著缩短信息处理时间。由此,实现了对提示文本的高效、准确压缩,提升信息处理效率,得到更贴合实际应用需求的高质量压缩提示文本。
技术关键词
令牌
文本压缩方法
序列
大语言模型
句法依存关系
构建知识图谱
信息处理
语义
梯度下降法
压缩设备
计算机程序产品
处理器
模态特征
压缩装置
资源
可读存储介质
多模态
存储器
系统为您推荐了相关专利信息
蒸汽管道
智能预测方法
电站锅炉
工况
深度学习算法
胶囊网络
序列特征
识别方法
卷积模块
多层感知机
递归神经网络模型
场景分类方法
胶囊内镜
卷积神经网络模型
样本
免疫调节活性
薄壳山核桃
免疫调节功能
蛋白水解物
免疫抑制模型