基于输出响应的智能体助手攻击防御方法及相关装置

本发明属于人工智能领域，公开了一种基于输出响应的智能体助手攻击防御方法及相关装置，包括获取智能体助手基于当前感知界面和当前操作的当前输出响应；进行当前输出响应的对抗性检测，得到状态安全性检测结果；基于当前输出响应构建当前状态节点并插入至状态树中，以及从状态树中获取第一路径信息和第二路径信息；对第一路径信息进行越狱性判定，得到路径安全性检测结果；对第二路径信息进行任务完成可能度判定，得到路径完整性检测结果；当状态安全性检测结果、路径安全性检测结果和路径完整性检测结果均为通过时，智能体助手继续执行；否则，回滚至状态树中设定状态节点对应的状态。增强智能体助手的稳健性和适应性，保障智能体助手安全应用。