一种面向医学大模型压缩的混合动态剪枝方法

AITNT
正文
推荐专利
一种面向医学大模型压缩的混合动态剪枝方法
申请号:CN202410901076
申请日期:2024-07-05
公开号:CN118780338B
公开日期:2025-03-14
类型:发明专利
摘要
本发明公开了一种面向医学大模型压缩的混合动态剪枝方法,采用基于混合稀疏预测的稀疏预测器,相比其他单纯基于动态稀疏预测的动态剪枝方法具有降低性能损失的优势。有效解决目前医学大模型压缩后性能下降严重的问题,并提高模型推理速度,为实现高稀疏化,高性能的大模型在实际应用的推广和应用提供了可行的解决方案。
技术关键词
注意力 动态剪枝 模型压缩 医学 推理机制 Softmax函数 序列 表达式 文本 编码 数据 指标 掩码矩阵 模型块 输出特征 高性能 非线性 参数
系统为您推荐了相关专利信息
1
气象仪器故障检测系统及方法
编码向量 气象仪器 故障检测方法 交互特征 语义
2
基于深度学习的用户意图预测及精准广告投放系统
精准广告投放系统 意图 场景指纹 基元 广告特征
3
一种面向重载机械臂的操作者认知行为建模方法
重载机械臂 操作者 记忆 建模方法 环境图像信息
4
一种人工智能多模态医学影像处理系统
多模态医学影像 融合特征 三维结构 数据处理模块 卷积神经网络提取
5
一种基于多模态的智能电梯精准控制方法及系统
精准控制方法 智能电梯 电梯按钮 门控循环单元 特征提取模块
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号