通过对敏感词分级处理优化大模型输入输出系统及方法

本发明公开了通过对敏感词分级处理优化大模型输入输出系统及方法，本发明涉及敏感词的分级处理领域，包括用户请求处理模块、LLM输出监控模块、数据管理模块、结果输出模块，所述用户请求处理模块用于负责用户输入的接收、预处理、敏感词检测及分级处理。本发明所述的通过对敏感词分级处理优化大模型输入输出系统及方法，基于敏感词上下文语义分级处理，实现精准过滤，避免传统方法的误判与漏判，在输入阶段与输出阶段双重监控，减少无效算力消耗，提升系统运行效率，可以通过分级处理机制，对不同级别敏感词采取差异化策略，在合规管控的同时，最大程度保持用户输入与模型输出的完整性，实现友好交互。