一种基于深度强化学习模型的模糊测试方法与流程

本发明公开了一种基于深度学习模型的模糊测试方法与流程。首先，收集不同格式的Linux应用程序，保存收集得到的应用程序和与其格式相同的种子文件；其次，基于价值导向的DQN算法和策略导向的TRPO算法构建固定变异策略下的变异模型，并基于改进的Thompson采样算法构建Havoc随机变异模型，以输出测试样例的有效变异算子和变异策略链信息；接着，对AFL源码进行修改，嵌入所提出的两种变异模型，并使用共享内存的方式实现模型与AFL间的交互；最后，面向上一步得到的嵌入模型后的AFL，编写自动化执行脚本并设定其执行时间，执行afl‑fuzz、afl‑showmap和afl‑cov指令训练嵌入的两种模型并进行自动化模糊测试，根据模糊测试执行结果，将代码覆盖率、崩溃数量、变异算子使用情况等结果可视化。