稀疏感知调度器、混合加速架构、智能边缘芯片及设备

AITNT
正文
推荐专利
稀疏感知调度器、混合加速架构、智能边缘芯片及设备
申请号:CN202410813110
申请日期:2024-06-23
公开号:CN118921302B
公开日期:2025-12-26
类型:发明专利
摘要
本发明公开一种稀疏感知调度器、混合加速架构、智能边缘芯片及设备,其中,稀疏感知调度器,包括:稀疏信息提取器,用于将神经网络中网络层与该网络层的稀疏特征信息进行关联;延迟估计单元,用于根据每个网络层的稀疏特征信息对该网络层运行在不同加速器时的延迟进行评估;负载分配器,用于根据第一加速器中前向传播延迟、第二加速器中反向传播延迟、第一加速器中后向传播延迟和第二加速器中前向传播延迟确定加速器的配置方案,以获得较小延迟;所述前递检测器,用于根据负载分配器的输出结果确定第一加速器的输出和第二加速器的输出是否直接发送到对方的输入缓存区。本发明具有较低的延迟时间,又具有较高的资源利用率。
技术关键词
加速器 稀疏特征 调度器 分配器 内存系统 流水线 检测器 芯片 处理单元 比率 矩阵 阵列 资源 模式
系统为您推荐了相关专利信息
1
一种深度学习加速器软硬件协同方法及装置
抽样模型 深度学习加速器 参数 样本 优化器
2
一种效能指标实时评估系统、方法及程序产品
指标 中央处理器 效能 评估系统 计算器
3
一种面向DNN模型的模式感知的自动化SDK存算一体映射方法
DNN模型 强化学习模型 映射方法 动作策略 并行策略
4
一种基于异构计算的统一内存系统
数据迁移 内存管理单元 缓存命中率 硬件性能计数器 内存访问模式
5
一种DNA结合蛋白的识别方法及系统
胶囊网络 序列特征 识别方法 卷积模块 多层感知机
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号