实施模型不可知框架以提供与机器学习模型相关联的沙普利值

提供了用于实施模型不可知框架以提供与机器学习模型相关联的沙普利值的方法、系统和计算机程序产品。一种方法可包含：接收用于神经网络机器学习模型的可执行文件；将用于所述神经网络机器学习模型的所述可执行文件的格式转换为不可知模型格式，以为所述神经网络机器学习模型提供不可知模型格式文件；解析所述不可知模型格式文件，以提供与所述神经网络机器学习模型相关联的正向符号图和与所述神经网络机器学习模型相关联的反向符号图；接收实时推断请求；以及确定与所述实时推断请求相关联的所述神经网络机器学习模型的输出和与所述神经网络机器学习模型的所述输出相关联的一个或多个沙普利值。