一种基于语义分割的大模型分块传输方法及装置

AITNT
正文
推荐专利
一种基于语义分割的大模型分块传输方法及装置
申请号:CN202411711689
申请日期:2024-11-27
公开号:CN119544153A
公开日期:2025-02-28
类型:发明专利
摘要
本发明涉及数据处理技术领域,公开了一种基于语义分割的大模型分块传输方法及装置。该方法分析大模型的整体结构,识别大模型的关键功能区域和数据流路径;基于关键功能区域对大模型进行语义分割,形成若干个语义块;利用数据流路径对各语义块进行依赖性定义,形成若干个模型块;通过动态权衡各模型块的重要性和实时网络条件评估各模型块的传输优先级;基于各模型块的传输优先级,通过网络对各模型块进行传输。本发明提升了模型分割的准确性和效率,减少了网络负载,优化了大模型在网络中的传输效率和可靠性,极大地提高了模型的运行稳定性和效率。
技术关键词
分块传输方法 模型块 语义 数据依赖关系 网络 传输模块 定义 识别模块 因子 监控工具 动态 数据处理技术 强度 逻辑 参数
系统为您推荐了相关专利信息
1
打线器件的散射参数测量方法、装置、存储介质及电子设备
散射参数测量方法 引线 矢量网络分析仪 机器可读存储介质 存储器存储指令
2
基于大模型的系统故障自动诊断与处置方法
故障诊断模型 深度残差网络 系统故障诊断技术 接口 程序
3
基于微扰响应模型的多源场景下主导路径识别方法及系统
路径识别方法 源节点 稳态 网络 幅值
4
一种基于AI应用商店的医疗诊断系统及方法
诊断模块 模型训练模块 算法模块 商店 医疗诊断系统
5
一种基于户型图匹配家居产品的应用方法、设备及介质
家居 中子 语义分割算法 空间分布特征 坐标
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号