一种针对文本数据的推理结果的生成方法和装置

AITNT
正文
推荐专利
一种针对文本数据的推理结果的生成方法和装置
申请号:CN202411815064
申请日期:2024-12-10
公开号:CN119830870B
公开日期:2025-12-19
类型:发明专利
摘要
本发明实施例提供了一种针对文本数据的推理结果的生成方法和装置,通过所述近似模型生成针对所述文本数据的初始草稿;通过所述原始模型基于初始草稿生成目标草稿,并基于所述目标草稿确定针对所述文本数据的推理结果,可以加速推理,大幅缩短推理时间。
技术关键词
大语言模型 中间层 文本 数据 生成方法 注意力机制 通信接口 处理器 矩阵 客户端设备 分支 存储器 云端服务器 生成装置 网络结构 蒸馏 超参数 可读存储介质
系统为您推荐了相关专利信息
1
用于智能化箱式变电站的自我监控方法
智能化箱式变电站 监控方法 曲线 智能箱式变电站 归一化算法
2
一种应用迁移的方法、装置、设备及存储介质
节点 模板 计算机设备 计算机程序产品 模版
3
一种基于MSAF-DT的D-NeRF图像降噪方法及系统
生成RGB图像 图像降噪方法 射线 图像降噪系统 图像降噪技术
4
基于GMS系统的氮气低温脆断监测保护系统
监测保护系统 应力 截面尺寸 应变传感器 强度
5
地铁隧道盾构施工安全预警系统及其使用方法
MCU控制器 地铁隧道盾构施工 盾构机数据采集 采集终端 预警系统
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号