AI大模型调用负载均衡方法、装置、设备及介质

AITNT
正文
推荐专利
AI大模型调用负载均衡方法、装置、设备及介质
申请号:CN202510922706
申请日期:2025-07-04
公开号:CN120803719A
公开日期:2025-10-17
类型:发明专利
摘要
本发明涉及电数字数据处理技术领域,尤其涉及一种AI大模型调用负载均衡方法、装置、设备及介质。方法包括:确定各个备选AI大模型的擅长领域标签,筛选出与擅长领域标签匹配的预设问题领域类别;当检测到待处理问题请求集合时,通过问题请求分类模型,筛选出各个问题请求的问题领域类别;对各个问题请求进行分组,得到至少一个问题请求分组;根据各个备选AI大模型的擅长领域标签和各个问题请求分组的问题领域类别,将各个问题请求分组分流至各个备选AI大模型进行处理。本发明实施例可以在每次获取到一批需要处理的问题请求之后,将各个问题请求分流到多个可以调用的AI大模型进行处理,提高AI大模型调用过程的效率和稳定性。
技术关键词
负载均衡方法 信息处理模型 标签 文本 电数字数据处理技术 负载均衡装置 关键词 可读存储介质 计算机 配额 指令 电子设备 处理器通信 模块 存储器 答案
系统为您推荐了相关专利信息
1
基于AIGC的拍照图像生成方法、系统及拍照设备
人脸特征向量 图像生成方法 深度图 拍照设备 风格
2
一种基于大语言模型的智能教学辅助方法与系统
教学辅助方法 大语言模型 知识点 矩阵 因子
3
基于多源特征融合的中医方剂智能推荐方法、介质和设备
多源特征融合 智能推荐方法 方剂 患者 协同过滤推荐
4
一种基于生成式人工智能的多模态教学方法、设备、介质及产品
文本 教学方法 深度学习模型 输出模块 多模态
5
基于三维多通道探地雷达图像的地下病害检测方法与系统
探地雷达图像 病害检测方法 多通道 标签文件 病害检测技术
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号