大语言模型记忆资源管理内核构建方法、管理系统及装置

AITNT
正文
推荐专利
大语言模型记忆资源管理内核构建方法、管理系统及装置
申请号:CN202511053593
申请日期:2025-07-29
公开号:CN120952116A
公开日期:2025-11-14
类型:发明专利
摘要
本发明公开了大语言模型记忆资源管理内核构建方法、管理系统及装置,涉及人工智能领域。本发明通过构建MemCube作为异构记忆资源的统一封装单元,每个MemCube包含记忆本体(封装参数化记忆、激活状态、外部知识等内容)和结构化元数据(描述身份信息、控制策略与行为指标);通过记忆调度器实现MemCube的上下文匹配、优先级加载、权限控制与生命周期管理,并支持跨类型记忆转化(明文→激活→参数→明文)。本发明解决了现有技术中记忆管理碎片化、可控性差、调度低效等问题,实现了异构记忆的统一治理,提升了模型推理效率与演化能力,适用于各类大语言模型的记忆系统优化。
技术关键词
大语言模型 细粒度访问控制 封装单元 异构 明文 调度器 元数据管理模块 控制策略 指标 资源管理装置 资源管理系统 更新时间戳 语义 参数 生命周期管理 记忆管理
系统为您推荐了相关专利信息
1
一种基站确定方法、装置、设备及介质
定位基站 故障状态信息 距离信息 位置变更 服务系统
2
一种基于分布式KV缓存池的大语言模型推理方法
推理方法 调度器 大语言模型 集群 队列调度策略
3
一种基于光伏清洁机器人的自主规划路径系统及方法
光伏清洁机器人 路径系统 融合卷积神经网络 机器人运动轨迹 量子遗传算法
4
一种网络传输的隐私保护方法及系统
认证标签 数据标签 对称加密算法 隐私保护方法 丢弃数据包
5
基于沙箱与大型语言模型的智能手机自动操作方法及系统
自动操作方法 自动操作系统 智能手机 移动终端智能化 大语言模型
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号