更新（2019.6.29）:
- 目前tensorflow已经更新到2.0，本文方法已失效
- 方案三支持tensorflow1.13版本（脚本安装）
最近机器学习非常火，各种框架工具也很常用，比如，tensorflow。tensorflow的官网上提供很详细的python教程，也确实很好用。但是，python始终是一个开发工具，应用软件产品，大多用c/c++写的。所以，我打算用python训练tensorflow模型，然后用c++调用tensorflow模型。但是关于tensorflow c++的资料确实很少，本人通过收集资料，总结了几种方法。本文主要讲解一下内容：
注：均在ubuntu上实现
1.方案一（在tensorflow库中编译工程）
参考文章：(我只是搬运工，感兴趣的可以直接看原文)
a.具体步骤
前期准备：
- 安装Bazel（google开源构建工具）
step1：下载TensorFlow repo
下载tensorflow源代码仓库（TensorFlow repo）
使用git
git clone --recursive https://github.com/tensorflow/tensorflow
step2：新建工程项目
进入下载好的tensorflow文件夹，新建需要的工程项目，以example为例（example为工程项目名，可以改变）
文件目录结构：
- tensorflow/tensorflow/example（项目工程目录）
- tensorflow/tensorflow/example/example.cc（c++代码）
- tensorflow/tensorflow/example/BUILD （构建文件，供bazel使用）
example.cc代码
#include <tensorflow/core/platform/env.h>
#include <tensorflow/core/public/session.h>
#include <iostream>
using namespace std;
using namespace tensorflow;
int main()
{
Session* session;
Status status = NewSession(SessionOptions(), &session);
if (!status.ok()) {
cout << status.ToString() << "\n";
return 1;
}
cout << "Session successfully created.\n";
}
BUILD代码
cc_binary(
name = "example",
srcs = ["example.cc"],
deps = [
"//tensorflow/core:tensorflow",
]
)
step3：编译工程项目
配置tensorflow：进入tensorflow目录，输入以下命令
./configure #具体配置依自己情况定，可参考其他教程
编译： 在example工程项目目录下，输入以下命令
bazel build :example
- 二进制可执行文件生成在 tensorflow/bazel-bin/tensorflow/example 目录下
step4：运行项目程序
切换到 tensorflow/bazel-bin/tensorflow/example 目录下，运行example
./example
也可以利用bazel运行，在example目录下：
bazel run :example
- 使用bazel运行时的工作目录为当前目录example，如果以相对路径加载模型文件需要注意一下文件位置。
程序运行结果：
如果输出Session successfully created.，则说明程序编译运行成功。
- 注意：目前本人还没用实现该方法。（一直编译失败）
b.问题
该方法的几个问题：
- 在build构建项目的时候，需要在TensorFlow repo中。
- 编译出来的二进制文件非常大 (103MB).
- 编译较慢。
其他编译问题：
由于之前就用bazel编译过tensorflow，不知道咋了，结果bazel时就报错：
ERROR: /home/gezp/.cache/bazel/_bazel_gezp/2e4f7705435d0bd99b2c7f0d4e7595e7/external/protobuf_archive/BUILD:93:1: undeclared inclusion(s) in rule '@protobuf_archive//:protobuf_lite':
this rule is missing dependency declarations for the following files included by 'external/protobuf_archive/src/google/protobuf/stubs/int128.cc'
解决方法 ：删除bazel cache，重新编译。
rm -rf /home/gezp/.cache/bazel #选择自己的cache目录
2.方案二（构建tenserflow动态库）
参考文章：(我只是搬运工，感兴趣的可以直接看原文)
- tensorflow c/c++库使用方法
- Tensorflow c++ 实践及各种坑
- Tensorflow C++ 编译和调用图模型 :即讲了安装tensorflow c++过程，又讲了使用过程。
a.具体步骤
前期准备：
- 安装Bazel（google开源构建工具）
step1：下载TensorFlow repo
下载tensorflow源代码仓库（TensorFlow repo）
使用git克隆tenserflow仓库：
git clone --recursive https://github.com/tensorflow/tensorflow
step2：构建tensorflow动态库
配置tensorflow：进入tensorflow目录，输入以下命令
./configure #具体配置依自己情况定，可参考其他教程
进入tensorflow根目录，使用bazel构建
bazel build //tensorflow:libtensorflow_cc.so
step3：新建工程，编写代码
工程目录如下：
- /src：源代码目录，如下main.cc
- /lib：依赖库目录，将在tensorflow根目录下的bazel-bin/tensorflow/目录下的libtensorflow_cc.so拷贝在此目录。
- /include：包含文件目录，tensorflow/contrib/makefile目录下，找到build_all_xxx.sh文件并执行，例如准备在linux上使用，就执行build_all_linux.sh文件，成功后会出现一个gen文件夹。然后将tensorflow /contrib/ makefile/ gen/ protobuf/ include和tensorflow，bazel-genfiles文件夹下的头文件都抽取出来，拷贝放在该目录下，也可以通过cmake包含，就不需要拷贝。
- /build：构建项目文件区，编译后产生相关构建文件。无需添加文件。
- CMakeLists.txt：cmake构建文件。
其中main.cc示例代码：
#include <tensorflow/core/platform/env.h>
#include <tensorflow/core/public/session.h>
#include <iostream>
using namespace std;
using namespace tensorflow;
int main()
{
Session* session;
Status status = NewSession(SessionOptions(), &session);
if (!status.ok()) {
cout << status.ToString() << "\n";
return 1;
}
cout << "Session successfully created.\n";
}
CMakeLists.txt代码
cmake_minimum_required (VERSION 2.8.8)
project (example)
set(CMAKE_CXX_FLAGS "${CMAKE_CXX_FLAGS} -g -std=c++11 -W")
aux_source_directory(./src DIR_SRCS)
link_directories(./lib)
include_directories(
./include
#如果没有拷贝相关头文件到include目录，需要添加以下包含目录
# path_to_tensorflow/tensorflow
# path_to_tensorflow/tensorflow/bazel-genfiles
# path_to_tensorflow/tensorflow/contrib/makefile/gen/protobuf/include
)
add_executable(example ${DIR_SRCS})
target_link_libraries(example tensorflow_cc)
step4：编译及运行
进入工程项目的build目录，使用cmake编译。
cmake ..
#生成makefile
make
#生成可执行程序example
./example
#运行程序
如果输出Session successfully created.，则说明程序编译运行成功。
3.方案三（利用脚本一键配置）
参考文章：(我只是搬运工，感兴趣的可以直接看原文)
a.具体步骤
- 注意：这里只介绍ubuntu环境下
step1：前期准备
# RUN apt-get install software-properties-common
# RUN add-apt-repository ppa:ubuntu-toolchain-r/test
# RUN apt-get update
sudo apt-get install build-essential curl git cmake unzip autoconf autogen libtool mlocate zlib1g-dev \
g++-6 python python3-numpy python3-dev python3-pip python3-wheel wget
sudo updatedb
step2：下载配置脚本
git clone https://github.com/FloopCZ/tensorflow_cc.git
cd tensorflow_cc
step3：运行
静态库版本：
cd tensorflow_cc
mkdir build && cd build
cmake ..
make && sudo make install
动态库版本：
cd tensorflow_cc
mkdir build && cd build
cmake -DTENSORFLOW_STATIC=OFF -DTENSORFLOW_SHARED=ON ..
make && sudo make install
step4：清理磁盘（可选）
# cleanup bazel build directory
rm -rf ~/.cache
# remove the build folder
cd .. && rm -rf build
b.使用
工程链接时，cmake编译文件：CMakeLists.txt
find_package(TensorflowCC REQUIRED)
add_executable(example example.cpp)
# link the static Tensorflow library
target_link_libraries(example TensorflowCC::Static)
# link the shared Tensorflow library
# target_link_libraries(example TensorflowCC::Shared)
1）静态库版本
- 编译快。
- 仅提供基本功能，不过足以实现引用一个已经构建好的图。
- 不支持GPU
2）动态库版本
- 需要Bazel构建工具
- 编译慢
- 提供全部的TensorFlow C++ API
- 支持GPU
c.总结
极其简单好用，目前本人采用该方法配置环境。
4.方案四(利用python安装好的tensorflow的库)
- 参考：How to build and use Google TensorFlow C++ api 的一个回答
- 本人未验证过该方案
step1.使用pip安装python版的tensorflow
step2.动态库文件
在以下目录找到动态库_pywrap_tensorflow.so
usr/local/lib/python2.7/dist-packages/tensorflow/python/_pywrap_tensorflow.so
step３.新建工程，并编译
使用cmake编译，在CmakeLists.txt中加入(需要链接tensorflow库和python库)
target_link_libraries(target _pywrap_tensorflow python2.7)
头文件目录：
/usr/local/lib/python2.7/dist-packages/tensorflow/include/
编译。
其他参考资料
- How to build and use Google TensorFlow C++ api ：stackflow上的回答，给了多种解决方案，包括上面三种。
- 如何构建和使用Google TensorFlow C++ api :第一个参考资料的翻译精简版
