摘要
本发明实施例提供了一种层次式智算算力供应系统、模型的生成方法、设备和介质,层次式智算算力供应系统包括:模型算法设计模块,用于根据用户的模型需求,生成目标逻辑模型;训推仿真与验证模块,用于基于目标逻辑模块,生成目标模型,以及目标模型的虚拟资源需求;算力底座布局模块,用于根据虚拟资源需求,对目标模型进行资源调度。通过本发明实施例,可以解耦大模型的逻辑优化和部署优化工作,保证用户逻辑模型的跨平台可移植性,加速服务迭代升级速度,提升智算云平台算力供应的质量,改善用户在大模型场景中的智算服务体验。
技术关键词
布局模块
模型算法
供应系统
生成方法
逻辑模块
资源
存储模块
上存储计算机程序
模型场景
可读存储介质
处理器
镜像
底座
存储器
电子设备
参数
系统为您推荐了相关专利信息
路线生成方法
节点
粒子
路线生成系统
路径搜索方法
电容阵列
功率
锁相环模块
频率校准电路
频率校准方法