摘要
本发明涉及大数据技术领域,公开了一种AI算力资源远程调用框架及大数据直通方法。AI算力资源远程调用框架包括:交互层和资源层;交互层用于与用户侧的用户应用进行交互,用户应用采用编程模式并通过交互层提供的API接口调用资源层的AI算力服务执行模型训练或模型推理;资源层用于承载与管理AI算力资源,并通过AI算力服务调度AI算力资源执行模型推理或模型训练。本发明采用分层设计,不仅为计算资源用户和AI开发用户提供了更加便捷易用的开发和应用场景,同时通过对AI算力资源的动态调度,实现AI算力资源的远程调用,该框架在实际应用中可以部署在云端、边端、设备端等多异构算力平台,进一步提升AI算力资源平台的可扩展性和可伸缩性。
技术关键词
队列
数据模块
建立通信
框架
链路
数据传输参数
子模块
策略
数据存储
拆分规则
批量数据
大数据技术
AI算法
数据压缩
资源分配
数据格式
系统为您推荐了相关专利信息
RFID芯片
光伏电站
光伏组件
RFID读写器
盘点方法
大语言模型
计算机可执行指令
处理单元
计算机程序产品
可读存储介质
灵活可调
计算方法
环境光
高温高湿环境
参数敏感性分析