Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PaddleHub
提交
333d3814
P
PaddleHub
项目概览
PaddlePaddle
/
PaddleHub
大约 1 年 前同步成功
通知
282
Star
12117
Fork
2091
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
200
列表
看板
标记
里程碑
合并请求
4
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleHub
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
200
Issue
200
列表
看板
标记
里程碑
合并请求
4
合并请求
4
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
333d3814
编写于
12月 23, 2019
作者:
B
Bin Long
提交者:
GitHub
12月 23, 2019
浏览文件
操作
浏览文件
下载
差异文件
Merge pull request #271 from ShenYuhan/bert_as_service
fix bs doc, fix serving port set
上级
a14bbd43
d97780d2
变更
2
显示空白变更内容
内联
并排
Showing
2 changed file
with
7 addition
and
5 deletion
+7
-5
demo/serving/bert_service/README.md
demo/serving/bert_service/README.md
+3
-3
paddlehub/commands/serving.py
paddlehub/commands/serving.py
+4
-2
未找到文件。
demo/serving/bert_service/README.md
浏览文件 @
333d3814
...
@@ -68,7 +68,7 @@ $ pip install ujson
...
@@ -68,7 +68,7 @@ $ pip install ujson
|模型|网络|
|模型|网络|
|:-|:-:|
|:-|:-:|
|
[
ERNIE
](
https://paddlepaddle.org.cn/hubdetail?name=ERNIE&en_category=SemanticModel
)
|ERNIE|
|
[
ernie
](
https://paddlepaddle.org.cn/hubdetail?name=ERNIE&en_category=SemanticModel
)
|ERNIE|
|
[
ernie_tiny
](
https://paddlepaddle.org.cn/hubdetail?name=ernie_tiny&en_category=SemanticModel
)
|ERNIE|
|
[
ernie_tiny
](
https://paddlepaddle.org.cn/hubdetail?name=ernie_tiny&en_category=SemanticModel
)
|ERNIE|
|
[
ernie_v2_eng_large
](
https://paddlepaddle.org.cn/hubdetail?name=ernie_v2_eng_large&en_category=SemanticModel
)
|ERNIE|
|
[
ernie_v2_eng_large
](
https://paddlepaddle.org.cn/hubdetail?name=ernie_v2_eng_large&en_category=SemanticModel
)
|ERNIE|
|
[
ernie_v2_eng_base
](
https://paddlepaddle.org.cn/hubdetail?name=ernie_v2_eng_base&en_category=SemanticModel
)
|ERNIE|
|
[
ernie_v2_eng_base
](
https://paddlepaddle.org.cn/hubdetail?name=ernie_v2_eng_base&en_category=SemanticModel
)
|ERNIE|
...
@@ -225,8 +225,8 @@ Paddle Inference Server exit successfully!
...
@@ -225,8 +225,8 @@ Paddle Inference Server exit successfully!
> Q : 如何在一台服务器部署多个模型?
> Q : 如何在一台服务器部署多个模型?
> A : 可通过多次启动`Bert Service`,分配不同端口实现。如果使用GPU,需要指定不同的显卡。如同时部署`ernie`和`bert_chinese_L-12_H-768_A-12`,分别执行命令如下:
> A : 可通过多次启动`Bert Service`,分配不同端口实现。如果使用GPU,需要指定不同的显卡。如同时部署`ernie`和`bert_chinese_L-12_H-768_A-12`,分别执行命令如下:
> ```shell
> ```shell
> $ hub serving start bert_servi
ng
-m ernie -p 8866
> $ hub serving start bert_servi
ce
-m ernie -p 8866
> $ hub serving start bert_servi
ng
-m bert_chinese_L-12_H-768_A-12 -p 8867
> $ hub serving start bert_servi
ce
-m bert_chinese_L-12_H-768_A-12 -p 8867
> ```
> ```
> Q : 启动时显示"Check out http://yq01-gpu-255-129-12-00.epc.baidu.com:8887 in web
> Q : 启动时显示"Check out http://yq01-gpu-255-129-12-00.epc.baidu.com:8887 in web
...
...
paddlehub/commands/serving.py
浏览文件 @
333d3814
...
@@ -159,7 +159,7 @@ class ServingCommand(BaseCommand):
...
@@ -159,7 +159,7 @@ class ServingCommand(BaseCommand):
module
=
args
.
modules
module
=
args
.
modules
if
module
is
not
None
:
if
module
is
not
None
:
use_gpu
=
args
.
use_gpu
use_gpu
=
args
.
use_gpu
port
=
args
.
port
[
0
]
port
=
args
.
port
if
ServingCommand
.
is_port_occupied
(
"127.0.0.1"
,
port
)
is
True
:
if
ServingCommand
.
is_port_occupied
(
"127.0.0.1"
,
port
)
is
True
:
print
(
"Port %s is occupied, please change it."
%
(
port
))
print
(
"Port %s is occupied, please change it."
%
(
port
))
return
False
return
False
...
@@ -206,10 +206,12 @@ class ServingCommand(BaseCommand):
...
@@ -206,10 +206,12 @@ class ServingCommand(BaseCommand):
if
args
.
sub_command
==
"start"
:
if
args
.
sub_command
==
"start"
:
if
args
.
bert_service
==
"bert_service"
:
if
args
.
bert_service
==
"bert_service"
:
ServingCommand
.
start_bert_serving
(
args
)
ServingCommand
.
start_bert_serving
(
args
)
el
s
e
:
el
if
args
.
bert_service
is
Non
e
:
ServingCommand
.
start_serving
(
args
)
ServingCommand
.
start_serving
(
args
)
else
:
else
:
ServingCommand
.
show_help
()
ServingCommand
.
show_help
()
else
:
ServingCommand
.
show_help
()
command
=
ServingCommand
.
instance
()
command
=
ServingCommand
.
instance
()
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录