windows_cpp_inference.md 2.8 KB
Newer Older
1
Windows环境模型预测
D
dzhwinter 已提交
2 3 4 5 6 7 8
===========================

环境部署
--------

### 硬件环境

T
tink2123 已提交
9
测试环境硬件配置:
D
dzhwinter 已提交
10

W
wopeizl 已提交
11 12 13 14 15
| CPU      |      I7-8700K      |
|:---------|:-------------------|
| 内存 | 16G               |
| 硬盘 | 1T hdd + 256G ssd |
| 显卡 | GTX1080 8G        |
D
dzhwinter 已提交
16

W
wopeizl 已提交
17
测试环境操作系统使用 win10 家庭版本。
D
dzhwinter 已提交
18 19 20

### 环境配置步骤

W
wopeizl 已提交
21
**请您严格按照以下步骤进行安装,否则可能会导致安装失败!**
D
dzhwinter 已提交
22

W
wopeizl 已提交
23
**安装Visual Studio 2015 update3**
D
dzhwinter 已提交
24

W
wopeizl 已提交
25
安装Visual Studio 2015,安装选项中选择安装内容时勾选自定义,选择安装全部关于c,c++,vc++的功能。
D
dzhwinter 已提交
26 27 28 29 30


预测demo使用
------------

W
wopeizl 已提交
31
解压Paddle,Release,fluid_install_dir压缩包。
D
dzhwinter 已提交
32

W
wopeizl 已提交
33
进入Paddle/paddle/fluid/inference/api/demo_ci目录,新建build目录并进入,然后使用cmake生成vs2015的solution文件。
D
dzhwinter 已提交
34
指令为:
W
wopeizl 已提交
35 36

`cmake .. -G "Visual Studio 14 2015 Win64" -DWITH_GPU=OFF -DWITH_MKL=OFF -DWITH_STATIC_LIB=ON -DCMAKE_BUILD_TYPE=Release -DDEMO_NAME=simple_on_word2vec -DPADDLE_LIB=path_to_the_patddle\paddle_fluid.lib`
D
dzhwinter 已提交
37 38 39

注:

W
wopeizl 已提交
40
-DDEMO_NAME 是要编译的文件
D
dzhwinter 已提交
41

W
wopeizl 已提交
42 43
-DPADDLE_LIB 是fluid_install_dir路径,例如
-DPADDLE_LIB=D:\fluid_install_dir
D
dzhwinter 已提交
44 45


W
wopeizl 已提交
46
Cmake可以在[官网进行下载](https://cmake.org/download/),并添加到环境变量中。
D
dzhwinter 已提交
47

W
wopeizl 已提交
48
执行完毕后,build 目录如图所示,打开箭头指向的 solution 文件:
D
dzhwinter 已提交
49

T
tink2123 已提交
50
<p align="center">
C
Cheerego 已提交
51
<img src="https://raw.githubusercontent.com/PaddlePaddle/FluidDoc/develop/doc/fluid/advanced_usage/deploy/inference/image/image3.png">
T
tink2123 已提交
52
</p>
D
dzhwinter 已提交
53

W
wopeizl 已提交
54
修改编译属性为 `/MT`
D
dzhwinter 已提交
55

T
tink2123 已提交
56
<p align="center">
C
Cheerego 已提交
57
<img src="https://raw.githubusercontent.com/PaddlePaddle/FluidDoc/develop/doc/fluid/advanced_usage/deploy/inference/image/image4.png">
T
tink2123 已提交
58
</p>
D
dzhwinter 已提交
59

T
tink2123 已提交
60
<p align="center">
C
Cheerego 已提交
61
<img src="https://raw.githubusercontent.com/PaddlePaddle/FluidDoc/develop/doc/fluid/advanced_usage/deploy/inference/image/image5.png">
T
tink2123 已提交
62
</p>
D
dzhwinter 已提交
63

W
wopeizl 已提交
64
编译生成选项改成 `Release`
D
dzhwinter 已提交
65

T
tink2123 已提交
66
<p align="center">
C
Cheerego 已提交
67
<img src="https://raw.githubusercontent.com/PaddlePaddle/FluidDoc/develop/doc/fluid/advanced_usage/deploy/inference/image/image6.png">
T
tink2123 已提交
68
</p>
D
dzhwinter 已提交
69

T
tink2123 已提交
70
<p align="center">
C
Cheerego 已提交
71
<img src="https://raw.githubusercontent.com/PaddlePaddle/FluidDoc/develop/doc/fluid/advanced_usage/deploy/inference/image/image7.png">
T
tink2123 已提交
72
</p>
D
dzhwinter 已提交
73 74 75

将提供的依赖包中,Release下的openblas和模型文件拷贝到编译生成的Release下。

T
tink2123 已提交
76
<p align="center">
C
Cheerego 已提交
77
<img src="https://raw.githubusercontent.com/PaddlePaddle/FluidDoc/develop/doc/fluid/advanced_usage/deploy/inference/image/image8.png">
T
tink2123 已提交
78
</p>
D
dzhwinter 已提交
79 80 81 82 83

通过cmd进到Release目录执行:

  1.  开启GLOG

W
wopeizl 已提交
84
  	`set GLOG_v=100`
D
dzhwinter 已提交
85 86 87

  2.  进行预测

W
wopeizl 已提交
88
  	`simple_on_word2vec.exe --dirname=.\word2vec.inference.model`
D
dzhwinter 已提交
89

T
tink2123 已提交
90
<p align="center">
C
Cheerego 已提交
91
<img src="https://raw.githubusercontent.com/PaddlePaddle/FluidDoc/develop/doc/fluid/advanced_usage/deploy/inference/image/image9.png">
T
tink2123 已提交
92
</p>
D
dzhwinter 已提交
93