算力应用场景与智算芯片的适配评估方法、设备及产品

AITNT
正文
推荐专利
算力应用场景与智算芯片的适配评估方法、设备及产品
申请号:CN202410802293
申请日期:2024-06-20
公开号:CN118820033A
公开日期:2024-10-22
类型:发明专利
摘要
本申请提出一种算力应用场景与智算芯片的适配评估方法、设备及产品,该方法基于算力应用场景中智算模型包括的各算子的计算量,预测智算模型应用于设定行业时所需的模型计算算力;以及,基于各算子的参数量,计算智算模型被训推时所需的模型显存存储量;基于模型计算算力、模型显存存储量和各智算芯片中用于描述智算芯片的性能的芯片参数,计算各智算芯片完成智算模型的训推所需的最少训推时间;基于完成智算模型的训推时各智算芯片的成本和各智算芯片的最少训推时间,确定与智算模型适配的智算芯片选型方案。相对于相关技术,节省了购买智算芯片的成本,同时即使是MLPerf基准中未囊括的智算模型,也能获得与该智算模型适配的最佳的芯片选型方案。
技术关键词
芯片 计算机可读代码 参数 处理器 电子设备 可读存储介质 场景 计算机程序产品 数据 存储器 基准
系统为您推荐了相关专利信息
1
一种双稳态开关的自保护电路
双稳态开关 开关控制元件 供电模块 线圈 恢复保险丝
2
直接反演自然电位梯度数据的方法、装置、设备及介质
电流源模型 数据 网格 节点 矩阵
3
一种任务调度合理性的分析方法、装置及介质
任务调度 指令 TLM模型 核心 时间段
4
解闭锁系统和车辆
近场通信模块 闭锁系统 电子锁 通讯设备 控制器
5
一种基于特征频率匹配的电磁时间反转故障定位方法、系统、设备及介质
故障定位方法 高频暂态信号 短路故障点 暂态行波 计算机可执行指令
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号