一种聊天内容风险检测方法、装置、设备及其存储介质

本申请属于人工智能技术领域，应用于金融保险业务服务过程中用户与客服进行线上即时交流场景中，涉及一种聊天内容风险检测方法、装置、设备及其存储介质，通过抓取目标即时通讯工具中待展示的实时聊天内容；对实时聊天内容进行文本化处理；对目标文本内容进行分词处理，识别出分词结果中的所有敏感词，获取第一风险检测结果；将目标文本内容输入到语义风险检测模型，获取第二风险检测结果；结合第一风险检测结果、第二风险检测结果和预设的风险处理策略，对实时聊天内容进行风险处理。应用在聊天内容向聊天界面展示之前，避免客户采用即时通讯工具进行金融业务线上办理时，将个人隐私或者身份信息暴露在聊天界面中，提高信息安全性。