面向LLM推理芯片的NAND FLASH存内计算系统ECC保护力度优化方法

AITNT
正文
推荐专利
面向LLM推理芯片的NAND FLASH存内计算系统ECC保护力度优化方法
申请号:CN202510602794
申请日期:2025-05-12
公开号:CN120540895A
公开日期:2025-08-26
类型:发明专利
摘要
本发明公开面向LLM推理芯片的NAND FLASH存内计算系统ECC保护力度优化方法,属于计算、推算或计数的技术领域。基于NAND FLASH存内计算架构,本发明提出基于汉明码的自适应分平面保护策略,通过分析大语言模型权重数据的BF16数值分布特性,建立符号位、指数位及尾数位的错误敏感度分级模型;结合Transformer解码层的残差连接结构,计算层间余弦相似度以评估层重要性;采用贪婪算法动态调整汉明码保护粒度,根据模拟错误注入结果迭代优化,直至模型困惑度与精确度满足阈值。根据贪婪算法迭代结果进行ECC软硬件协同设计,得到NAND闪存各平面所需配置的ECC电路。本方法在保证模型推理精度的同时,显著降低电路面积功耗,并减少ECC带宽需求,显著提升大模型推理效率与可靠性。
技术关键词
错误敏感度 数据 大语言模型 贪婪算法 解码 存储页面 错误率 软硬件协同设计 芯片 NAND闪存 精度 标志位 启发式算法 序列 符号 指数 样本 数值 电路
系统为您推荐了相关专利信息
1
近场通信控制方法、装置以及近场通信设备
近场通信天线 近场通信设备 对象 读卡器 模式
2
模糊边界场景下的多人检测框标注差异降低方法
模糊边界 深度优先搜索算法 路面裂缝 场景 坐标
3
安全分析算法自动进化方法及系统
自动进化方法 算法模型 检索策略 代表 执行算法
4
麻醉苏醒阶段医护工沟通交互系统及方法
时序 生命体征数据 后台服务器 序列 心率
5
一种基于台户关系识别模型的台户关系识别方法
关系识别方法 强分类器 处理错误数据 插值法 特征值
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号