一种基于远程过程调用的模型推理方法及芯片

AITNT
正文
推荐专利
一种基于远程过程调用的模型推理方法及芯片
申请号:CN202410748658
申请日期:2024-06-11
公开号:CN118626289A
公开日期:2024-09-10
类型:发明专利
摘要
本申请实施例提供了一种基于远程过程调用的模型推理方法及芯片,该方法利用RPMsg协议在第一应用域和第二应用域之间进行消息传输,并通过预先分配的共享内存在第一应用域和第二应用域之间传输模型文件、输入张量和输出张量,从而在采用硬隔离方案的系统级芯片中,实现了高效的对嵌入式神经网络处理器资源的跨域调用。
技术关键词
推理方法 神经网络处理器 内存 消息传输 指令 数据 系统级芯片 协议 存储器 异构 资源
系统为您推荐了相关专利信息
1
内存池化系统及其控制方法、上电方法、装置、电子设备
扩展单元 备用电 控制器模块 可编程器件 主机
2
图像修复模型训练方法及装置
文本 训练图像修复模型 生成对抗网络 字体 颜色
3
用于对瘤内扰流装置进行模拟的方法、设备和存储介质
动脉瘤模型 顶点 轮廓曲线 参数 校正
4
一种医学文本中语义结构单元的智能标注方法及系统
结构单元 智能标注方法 语义 标注工具 文本
5
一种摄像头主动与手机实现远程连接的方法及系统
语音识别功能 发起语音对讲 语音呼叫功能 指令 建立通信
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号