一种部署DeepSeek的装置和方法

本发明公开了一种部署DeepSeek的装置和方法，装置包括：威鑫H8000处理器、申威A1加速卡、AI第三方库、加速库、基础软件、编译器、编译框架及DeepSeek大模型；威鑫H8000处理器作为核心计算单元负责通用计算和资源调度；申威A1加速卡提供AI专用算力加速；AI第三方库和加速库优化算法执行效率；基础软件管理系统资源；编译器和编译框架用于将软件代码适配国产硬件；DeepSeek大模型作为顶层AI应用，调用底层各部件资源；威鑫H8000处理器与申威A1加速卡构建异构计算资源池整合算力，基础软件统一调度，AI加速库和编译框架优化算法执行效率，RDMA高速网络提升数据交互性能，DeepSeek大模型协同调用各部件算力资源完成AI计算任务。本发明解决联网的人工智能产品缺乏隐私保护的问题。