Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
OpenDocCN
pytorch-doc-zh
提交
f2552c4f
P
pytorch-doc-zh
项目概览
OpenDocCN
/
pytorch-doc-zh
通知
123
Star
3932
Fork
992
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
pytorch-doc-zh
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
未验证
提交
f2552c4f
编写于
1月 24, 2019
作者:
T
talengu
提交者:
GitHub
1月 24, 2019
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update cpp_export.md
上级
4e5668bb
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
2 addition
and
2 deletion
+2
-2
docs/1.0/cpp_export.md
docs/1.0/cpp_export.md
+2
-2
未找到文件。
docs/1.0/cpp_export.md
浏览文件 @
f2552c4f
...
...
@@ -3,7 +3,7 @@
# 在C++中加载PYTORCH模型
> 译者:[talengu](https://github.com/talengu)
顾名思义,
PyTorch的主要接口为Python。虽然Python有动态编程和易于迭代的优势,但在很多情况下,正是Python的这些属性会带来不利。我们经常遇到的生产环境,要满足低延迟和严格部署要求。对于生产场景而言,C++通常是首选语言,也能很方便的将其绑定到另一种语言,如Java,Rust或Go。本教程将介绍从将PyTorch训练的模型序列化表示,到C++语言_加载_和_执行_的过程。
PyTorch的主要接口为Python。虽然Python有动态编程和易于迭代的优势,但在很多情况下,正是Python的这些属性会带来不利。我们经常遇到的生产环境,要满足低延迟和严格部署要求。对于生产场景而言,C++通常是首选语言,也能很方便的将其绑定到另一种语言,如Java,Rust或Go。本教程将介绍从将PyTorch训练的模型序列化表示,到C++语言_加载_和_执行_的过程。
## 第一步:将PyTorch模型转换为Torch Script
...
...
@@ -282,7 +282,7 @@ tensor([-0.2698, -0.0381, 0.4023, -0.3010, -0.0448], grad_fn=<SliceBackward>)
本教程希望能使你理解PyTorch模型从python到c++的调用过程。通过上述教程,你能够通过“eager” PyTorch做一个简单模型,转成
`ScriptModule`
,并序列化保存。然后在C++里面通过
`script::Module`
加载运行模型。
当然,还有好多内容我们没有涉及。举个例子,你
想要在C++ or CUDA中实现扩展
`ScriptModule`
自定义操作,然后就可以运行
`ScriptModule`
模型。这种是可以实现的,可以看
[
this
](
https://github.com/pytorch/pytorch/tree/master/test/custom_operator
)
。下面还有一些文档可以参考,比较有帮助:
当然,还有好多内容我们没有涉及。举个例子,你
希望在C++或者CUDA中实现
`ScriptModule`
中的自定义操作,然后就可以在C++调用运行
`ScriptModule`
模型。这种是可以做到的,可以参考
[
this
](
https://github.com/pytorch/pytorch/tree/master/test/custom_operator
)
。下面还有一些文档可以参考,比较有帮助:
*
Torch Script 参考:
[
https://pytorch.org/docs/master/jit.html
](
https://pytorch.org/docs/master/jit.html
)
*
PyTorch C++ API 文档:
[
https://pytorch.org/cppdocs/
](
https://pytorch.org/cppdocs/
)
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录