摘要
本发明提供一种基于本地小模型的人工智能对话合规审查方法及系统,包括:获取用户输入请求及其关联内容,发送至本地小模型(LSM),依据预设规则进行发送前审查;若内容合规,则将其发送至外部大型语言模型(LLM)获取响应;外部LLM响应内容以流式或完整方式返回,LSM对流式返回的每个数据片段进行实时审查,若存在违规片段则按风险等级处理,若无则展示;完整响应则直接显示。系统还对所有内容进行整体后审查,若发现问题按风险等级处理,否则展示给用户。本发明一方面通过部署本地小模型对用户输入、LLM输出的全过程进行多阶段合规审查,实现数据隐私保护与内容安全控制;另一方面可对高风险内容进行实时中断与交叉验证,并支持日志记录、异议反馈、服务降级等机制,确保系统审查的可靠性、稳定性与可追溯性。
技术关键词
人工智能对话
高风险
接口模块
内容显示
降级策略
个人隐私数据
数据隐私保护
日志
超时机制
决策
故障检测
多阶段
中间件
冗余
格式