摘要
本申请公开了一种无线蜂窝系统中大语言模型应用的方法,方法包括:针对一种终端中基于大语言模型的应用,终端采用分级触发策略动态地切换其大语言模型的应用模式,其中分级触发策略首先判断终端的参数是否满足大语言模型应用的条件,其中参数至少包括终端剩余电量、大语言模型能否提供答案、大语言模型响应时延。如果以上参数满足在终端应用大语言模型的条件,在终端进行大语言模型的应用。如果以上参数不满足在终端应用大语言模型的条件,基于网络侧参数判断是否可以在网络侧进行大语言模型应用,其网络侧参数至少包括终端的数据传输费用和数据传输时延。如果网络侧参数满足在网络侧进行大语言模型应用的条件,终端将数据传输到网络侧进行大语言模型应用。在网络侧进行大语言模型应用的过程中,终端随时监测自身参数,判断终端的参数是否满足大语言模型应用的条件,如果满足在终端应用大语言模型的条件,动态地切回到在终端应用大语言模型。
技术关键词
大语言模型
无线蜂窝系统
终端
数据传输时延
参数
网络
答案
动态地
策略
信号处理
模式
文本
音频
视频
系统为您推荐了相关专利信息
深度学习网络
网络特征
超参数
深度学习神经网络
精度