基于私有化部署大模型的边缘智能自动配置客服方法
申请号：CN202510237617
申请日期：2025-03-03
公开号：CN120374120A
公开日期：2025-07-25
类型：发明专利
摘要
本发明公开基于私有化部署大模型的边缘智能自动配置客服方法，其特征在于，具体包括如下步骤：进行边缘计算设备的硬件适配；通过模型蒸馏及动态量化获取轻量化大模型并构建FAQ知识库；通过自动设置参数优化获取的轻量化大模型完成自动配置优化。
技术关键词
客服方法
模型压缩
增量更新
蒸馏
多轮对话
意图识别
语义
动态
低延迟
操作系统
小规模
多模态
批量
格式
参数
答案
云端
网关
速度
索引
系统为您推荐了相关专利信息
模型部署方法
学生
教师
模型训练模块
节点
静态代码分析
嵌套
BFS算法
自动化执行模块
缓存机制
增量学习方法
端节点
服务器
标签
蒸馏
绩效数据处理方法
前馈神经网络
序列
蒸馏
计算机程序指令
术语
实体
推荐方法
语义
索引
