一种基于AST增强二进制代码相似性检测方法及系统

本发明涉及一种基于AST增强二进制代码相似性检测方法及系统，包括了采用深度优先算法对抽象语法树进行遍历，从中筛选出对程序控制流和逻辑结构具有关键作用的节点，对于筛选得到的关键节点构建AST，得到AST语义特征；基于跳转感知机制提取二进制代码的控制流特征，并根据函数执行微迹提取二进制代码的行为特征；采用通道注意力机制对AST语义特征、控制流特征、行为特征进行特征融合；采用融合后的特征检测二进制代码的相似性。本发明提出了新的混合架构模型SemASTer，集成了Tree‑LSTM和Transformer，以增强对AST中的深层次语义的理解；而且引入了通道注意力机制，能够高效结合基于语法特征的方法和基于行为特征的方法。