基于CXL的优化张量传输方法、设备以及存储介质

AITNT
正文
推荐专利
基于CXL的优化张量传输方法、设备以及存储介质
申请号:CN202510292287
申请日期:2025-03-12
公开号:CN120144501A
公开日期:2025-06-13
类型:发明专利
摘要
本申请涉及数据传输技术领域,公开了一种基于CXL的优化张量传输方法、设备以及存储介质,该方法包括将人工智能加速器的部分全局内存划分为CPU主机侧对应的一致性缓存区域,并通过CXL实现映射,其余张量则被分配到人工智能加速器侧对应的非一致性内存区域;在对CPU进行数据请求时,若所需缓存行无效,则向一致性缓存区域发起访存请求。本公开通过在人工智能加速器侧挂载一致性缓存区域减轻CPU侧的存储负担,同时基于更新的CXL策略,无需设计大容量的探听滤波器或一致性目录,提高了深度学习训练效率同时降低了成本,并在CXL层引入整合器和分解器,降低CXL通信流量,提高通信效率,降低了成本。
技术关键词
人工智能加速器 缓存行状态 分解器 主机 传输方法 信号 深度学习训练 数据更新 外存设备 数据传输技术 参数 内存控制器 计算机 通信效率 处理器通信 指令 可读存储介质
系统为您推荐了相关专利信息
1
一种确定性网络多通道高带宽利用率的可靠性传输方法及装置
链路 传输方法 高带宽 多通道 机器可读程序
2
一种信息安全攻防靶场软件系统的设计方法
解析器 配置管理工具 图形用户界面 虚拟化技术 场景
3
坍塌支护监控主机及其组网系统和组网方法
监控主机 终端机 电源转化电路 网络通信芯片 降压芯片
4
数据包传输方法及装置、终端设备
USB控制器 数据包传输方法 硬件加速器 无线通信模块 数据包传输装置
5
一种可自动插拔充电枪的移动机器人及其工作方法
图像捕捉单元 六轴机械臂 数据分析单元 移动机器人 车辆识别装置
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号