基于Java的大语言模型动态适配方法及系统

AITNT
正文
推荐专利
基于Java的大语言模型动态适配方法及系统
申请号:CN202511055303
申请日期:2025-07-30
公开号:CN121012756A
公开日期:2025-11-25
类型:发明专利
摘要
本发明公开了基于Java的大语言模型动态适配方法及系统,属于人工智能技术领域,要解决的技术问题为:如何克服多模型接口接口差异、简化开发流程,提供标准化、高扩展性的大模型管理。包括:提供模型注册与动态加载服务、协议转换与参数标准化服务以及负载均衡与故障转移服务;提供流式传输协议服务、函数调用动态注入服务以及全局错误处理机制;提供文档解析与分块服务、向量化索引构建服务以及RAG增强生成服务用户提问时,通过RAG增强生成服务检索Pinecone中相关文档块,作为上下文注入大语言模型提示词,并返回大语言模型生成的回答。
技术关键词
大语言模型 动态适配方法 分块 适配器 支持混合索引 协议 适配系统 多模型 错误码 BERT模型 机制 参数 网络抖动 生成文档 生成向量 错误日志 多实例 接口
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号