h5, pb模型存储格式的区别
h5是keras标准定义的模型存储格式. c++没有合适的第三方接口可以直接读取这个格式. pb是tenserflow定义的格式.并且tenserflow提供了c++接口可以读取pb文件. 同时h5文件可以方便的转换成pb文件
pb模型的c++加载
如果要在c++工程中部署model, 需要把h5文件转换成pb文件, 然后通过tenserflow提供的c++接口进行快速部署. 当然也可以自己编写cnn, dense的底层c实现,然后解析model参数并应用. 除非必要,否则这样做就是在浪费时间了.
(https://blog.csdn.net/qq_38232171/article/details/110196015)
静态图pb文件的获取, 模型训练完之后,保存模型并转换成静态图pb
tf.saved_model.save(model,'modelPath')//要在c++端部署时，需使用该模式进行保存
API会把模型参数和模型描述保存在modelPath目录下.这个目录下会生成
1) assets目录
2) variables目录
3) saved_model.pb 文件
saved_model.pb文件只是存放了模型结构,并没有模型参数, 模型的参数在variables目录里面. 如果在c++ 工程中要使用opencv的加载模型api,需要把tenserflow V2的pb文件转换成tenserflow V1的pb文件. V1的pb文件称为静态图pb文件,即包含了模型结构,也包含了模型的参数.转换的代码如下:
import tensorflow as tf
from tensorflow.python.framework.convert_to_constants import convert_variables_to_constants_v2
loaded = tf.saved_model.load('model')
infer = loaded.signatures['serving_default']
f = tf.function(infer).get_concrete_function(input_1=tf.TensorSpec(shape=[None, 28, 28, 1], dtype=tf.float32))
f2 = convert_variables_to_constants_v2(f)
graph_def = f2.graph.as_graph_def()
# Export frozen graph
with tf.io.gfile.GFile('frozen_graph.pb', 'wb') as f:
f.write(graph_def.SerializeToString())
c++工程中的静态图pb加载
Net net = readNetFromTensorflow(pbFileName);
net.setPreferableBackend(DNN_BACKEND_OPENCV);
net.setPreferableTarget(DNN_TARGET_CPU);
Mat img = imread("1.png",0);
resize(img, img, Size(28, 28));
Mat blob = blobFromImage(img, 1.0 / 255, Size(28, 28), Scalar(0, 0, 0), false, false);
net.setInput(blob);
cout << blob.size << endl;
Mat out;
out = net.forward();
cout << out << endl;
