摘要
本公开提供了一种问答系统、安全防御方法及程序产品,涉及计算机技术领域。该问答系统包括:判别分析模块,用于获取来自用户的查询请求,查询请求包括用户输入的问题,触发大语言模型对用户输入的问题进行语义分析,并对用户输入的问题进行任务结构分析,以评估用户输入的问题的意图是否存在恶意,得到用户输入的问题是否为有害内容查询的安全判断结果;判别响应模块,用于触发大语言模型结合安全判断结果,生成针对用户输入的问题的答复响应。根据本公开实施例,能够提升问答系统的安全性。
技术关键词
大语言模型
问答系统
判断准则
意图
上下文语义理解
计算机程序产品
逻辑回归模型
模块
深度学习模型
指令
嵌套
关键词
场景