近存计算芯片

本申请涉一种近存计算芯片，包括存储芯片和逻辑芯片，所述存储芯片和逻辑芯片及混合键合的方式连接，所述存储芯片包括多个存储模块组，每个所述存储模块组包括多个存储模块；逻辑芯片包括多个对应于存储模块组的内存控制器组，每个所述内存控制器组对应于所述存储模块组内的多个存储模块设置有多个内存控制器，以及，对应多个所述内存控制器组设置的多个NPU Bank。存储芯片与逻辑芯片之间采用了基于Bank层次的并行访存方式进行互连。由于每个存储模块都对应一个位于逻辑芯片中的内存控制器Memory Controller。在进行大模型推理时，这些内存控制器Memory Controller能够并行访问对应的存储模块，大大提高了数据访问效率。