基于持续学习与知识蒸馏的中文医疗连续实体识别方法

AITNT
正文
推荐专利
基于持续学习与知识蒸馏的中文医疗连续实体识别方法
申请号:CN202510335519
申请日期:2025-03-20
公开号:CN120337925A
公开日期:2025-07-18
类型:发明专利
摘要
基于持续学习与知识蒸馏的中文医疗连续实体识别方法,包括以下步骤:步骤1:将含有连续命名实体的中文医疗文本输入到CK‑CMCNER模型中,经过BERT编码层生成实体特征表示;步骤2:在特征提取层中,通过双向GRU模型捕捉词元间的前后向上下文信息,将正反向隐藏状态加权结合,得到更准确的词元特征表示;步骤3:在跨度表示层中,采用特定于实体类型的前馈网络对每个跨度的起始和终止位置编码,通过残差连接增强表示能力,并引入相对位置编码细化词元间位置信息,提升模型对嵌套或重叠实体的识别精度;步骤4:在多标签损失层中,通过二元交叉熵BCE损失函数对每种实体类型独立分类,并结合知识蒸馏技术,确保新知识学习不会导致旧知识遗忘。
技术关键词
跨度 实体识别方法 知识蒸馏技术 GRU模型 sigmoid函数 文本编码器 标签 代表 教师 序列 嵌套 网络 精度 学生 矩阵
系统为您推荐了相关专利信息
1
一种电气设备生产装配线用实时监测方法
电器组件 实时监测方法 图像采集设备 核心 分水岭算法
2
一种无菌配药室的壁挂式消毒喷雾泄露风险预测方法
无菌配药 多层感知网络 风险预测方法 风险预测模型 壁挂式
3
基于多重SATMDI的大跨度桥梁多阶模态涡振控制方法
跨度桥梁 桥梁有限元模型 结构振动控制 广义 频率
4
基于双重语义对齐的中英双语中草药和靶点实体识别方法
实体识别方法 中草药 语义 编码器 多语言
5
融合LSTM-GRU时序预测与模糊逻辑的农业变频监测方法及系统
农田环境 GRU模型 监测方法 模糊逻辑算法 数据采集频率
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号