最近有遇到需要将onnx模型的中间节点裁剪掉的情况,mxnet转成的caff模型,预处理(减去均值除以方差的操作)写在了模型结构里,量化时要把预处理层单独拿出来,这个操作有两种方法可以实现,一种可以加载mxnet训练好的模型,去掉预处理后再保存;另一种时直接将onnx中对应的两个预处理节点裁掉,这里写一下第二种方法具体实现
import onnx_graphsurgeon as gsimport numpy as npimport onnx# remove preprocessing node# (x - mean)/stddef remove_preprocessing_node(onnx_path): onnx_model = onnx.load(onnx_path) #加载onnx模型 graph = onnx_model.graph old_nodes = graph.node new_nodes = old_nodes[2:] #去掉data,sub,mul前三个节点 del onnx_model.graph.node[:] # 删除当前onnx模型的所有node onnx_model.graph.node.extend(new_nodes) # extend新的节点 conv0_node = onnx_model.graph.node[0] conv0_node.input[0] = 'data' #给第一层的卷积节点设置输入的data节点 # graph = onnx_model.graph # print(graph.node) onnx.checker.check_model(onnx_model) onnx.save(onnx_model, "./janus_mask_occ_nopre.onnx")def crop_middle_nodes(onnx_path):if __name__ == "__main__": onnx_path = "J:/code/mxnet_mask/janus_mask_occ.onnx" remove_preprocessing_node(onnx_path)
实现效果: