Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
Paddle-Lite
提交
ee2dddec
P
Paddle-Lite
项目概览
PaddlePaddle
/
Paddle-Lite
通知
337
Star
4
Fork
1
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
271
列表
看板
标记
里程碑
合并请求
78
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle-Lite
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
271
Issue
271
列表
看板
标记
里程碑
合并请求
78
合并请求
78
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
ee2dddec
编写于
9月 21, 2019
作者:
S
sangoly
提交者:
juncaipeng
9月 21, 2019
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
[Java API doc] add java api doc (#2101)
* [Java API doc] add java api doc
上级
51c089e4
变更
4
隐藏空白更改
内联
并排
Showing
4 changed file
with
389 addition
and
21 deletion
+389
-21
_all_pages/develop/cxx_api_doc.md
_all_pages/develop/cxx_api_doc.md
+21
-21
_all_pages/develop/index.md
_all_pages/develop/index.md
+1
-0
_all_pages/develop/java_api_doc.md
_all_pages/develop/java_api_doc.md
+362
-0
index.md
index.md
+5
-0
未找到文件。
_all_pages/develop/cxx_api_doc.md
浏览文件 @
ee2dddec
...
...
@@ -428,7 +428,7 @@ for (int i = 0; i < ShapeProduction(output_tensor->shape()); i += 100) {
> **data
<T
>()**
> **data
\<T\
>()**
```c++
template <typename T>
...
...
@@ -443,37 +443,37 @@ const T* data() const;
std::unique_ptr<const Tensor> output_tensor(std::move(predictor->GetOutput(0)));
// 如果模型中输出为float类型
output_tensor->data<float>()
```
```
参数:
参数:
- `
None
`
- `
None
`
返回:`
Tensor
`底层数据常量指针
返回:`
Tensor
`底层数据常量指针
返回类型:`
const T
*
`
返回类型:`
const T
*
`
> **mutable_data<T
>()**
> **mutable_data\<T\
>()**
```c++
template <typename T>
T* mutable_data() const;
```
```c++
template <typename T>
T* mutable_data() const;
```
获取Tensor的底层数据的指针,根据传入的不同模型类型获取相应数据。用于设置Tensor数据。
获取Tensor的底层数据的指针,根据传入的不同模型类型获取相应数据。用于设置Tensor数据。
示例:
示例:
```c++
std::unique_ptr<Tensor> input_tensor(std::move(predictor->GetInput(0)));
// 如果模型中输出为float类型
auto* data = input_tensor->mutable_data<float>();
// 设置Tensor数据
for (int i = 0; i < ShapeProduction(input_tensor->shape()); ++i) {
data[i] = 1;
}
```c++
std::unique_ptr<Tensor> input_tensor(std::move(predictor->GetInput(0)));
// 如果模型中输出为float类型
auto* data = input_tensor->mutable_data<float>();
// 设置Tensor数据
for (int i = 0; i < ShapeProduction(input_tensor->shape()); ++i) {
data[i] = 1;
}
```
参数:
...
...
_all_pages/develop/index.md
浏览文件 @
ee2dddec
...
...
@@ -49,6 +49,7 @@ Paddle-Lite 框架是 PaddleMobile 新一代架构,重点支持移动端推理
## API文档
-
[
C++ API文档
](
../cxx_api_doc
)
-
[
Java API文档
](
../java_api_doc
)
## FAQ
...
...
_all_pages/develop/java_api_doc.md
0 → 100644
浏览文件 @
ee2dddec
---
layout
:
post
title
:
Java API文档
---
# MobileConfig
```
java
public
class
MobileConfig
extends
ConfigBase
;
```
`MobileConfig`
用来配置构建轻量级PaddlePredictor的配置信息,如NaiveBuffer格式的模型地址、能耗模式、工作线程数等等。
*注意:输入的模型需要使用Model Optimize Tool转化为NaiveBuffer格式的优化模型。*
示例:
```
java
MobileConfig
config
=
new
MobileConfig
();
// 设置NaiveBuffer格式模型目录
config
.
setModelDir
(
modelPath
);
// 设置能耗模式
config
.
setPowerMode
(
PowerMode
.
LITE_POWER_HIGH
);
// 设置工作线程数
config
.
setThreads
(
1
);
// 根据MobileConfig创建PaddlePredictor
PaddlePredictor
predictor
=
PaddlePredictor
.
createPaddlePredictor
(
config
);
```
> **setModelDir(model_dir)**
设置模型文件夹路径。
参数:
-
`model_dir(String)`
- 模型文件夹路径
返回:
`None`
返回类型:
`void`
> **getModelDir()**
返回设置的模型文件夹路径。
参数:
-
`None`
返回:模型文件夹路径
返回类型:
`String`
> **setPowerMode(mode)**
设置CPU能耗模式。若不设置,则默认使用
`LITE_POWER_HIGH`
。
*注意:只在开启`OpenMP`时生效,否则系统自动调度。*
参数:
-
`mode(PowerMode)`
- CPU能耗模式。
返回:
`None`
返回类型:
`void`
> **getPowerMode()**
获取设置的CPU能耗模式。
参数:
-
`None`
返回:设置的CPU能耗模式
返回类型:
`PowerMode`
> **setThreads(threads)**
设置工作线程数。若不设置,则默认使用单线程。
*注意:只在开启`OpenMP`的模式下生效,否则只使用单线程。*
参数:
-
`threads(int)`
- 工作线程数。默认为1。
返回:
`None`
返回类型:
`void`
> **getThreads()**
获取设置的工作线程数。
参数:
-
`None`
返回:工作线程数
返回类型:
`int`
# PaddlePredictor
```
java
public
class
PaddlePredictor
;
```
`PaddlePredictor`
是Paddle-Lite的预测器。用户可以根据PaddlePredictor提供的接口使用MobileConfig创建新的预测器、设置输入数据、执行模型预测、获取输出以及获得当前使用lib的版本信息等。
示例:
```
java
// 设置MobileConfig
MobileConfig
config
=
new
MobileConfig
();
config
.
setModelDir
(
modelPath
);
// 创建PaddlePredictor
PaddlePredictor
predictor
=
PaddlePredictor
.
createPaddlePredictor
(
config
);
// 设置输入数据
long
[]
dims
=
{
100
,
100
};
float
[]
inputBuffer
=
new
float
[
10000
];
for
(
int
i
=
0
;
i
<
10000
;
++
i
)
{
inputBuffer
[
i
]
=
i
;
}
Tensor
input
=
predictor
.
getInput
(
0
);
input
.
resize
(
dims
);
input
.
setData
(
inputBuffer
);
// 执行预测
predictor
.
run
();
// 获取输出数据
Tensor
output
=
predictor
.
getOutput
(
0
);
float
[]
output
=
result
.
getFloatData
();
for
(
int
i
=
0
;
i
<
1000
;
++
i
)
{
System
.
out
.
println
(
output
[
i
]);
}
```
> **CreatePaddlePredictor(config)**
```
java
public
static
PaddlePredictor
createPaddlePredictor
(
ConfigBase
config
);
```
`CreatePaddlePredictor`
用来根据
`ConfigBase`
动态创建预测器,目前Java API支持使用MobileConfig
`。框架会根据您在config中指定的模型路径、能耗模型、工作线程数等自动创建一个预测器。
参数:
- `
config(ConfigBase,目前应使用MobileConfig)
` - 创建预测器的配置信息
返回:根据config创建完成的预测器
返回类型:`
PaddlePredictor
`
> **getInput(index)**
获取输入Tensor,用来设置模型的输入数据。
参数:
- `
index(int)
` - 输入Tensor的索引
返回:第`
index
`个输入`
Tensor
`
返回类型:`
Tensor
`
> **getOutput(index)**
获取输出Tensor,用来获取模型的输出结果。
参数:
- `
index(int)
` - 输出Tensor的索引
返回:第`
index
`个输出Tensor
返回类型:`
Tensor
`
> **run()**
执行模型预测,需要在***设置输入数据后***调用。
参数:
- `
None
`
返回:预测执行状态,成功返回`
true
`,否则返回`
false
`
返回类型:`
boolean
`
> **getVersion()**
用于获取当前lib使用的代码版本。若代码有相应tag则返回tag信息,如`
v2.0-beta
`;否则返回代码的`
branch(commitid)
`,如`
develop(7e44619)
`。
参数:
- `
None
`
返回:当前lib使用的代码版本信息
返回类型:`
String
`
# PowerMode
```java
public enum PowerMode;
```
`
PowerMode
`为ARM CPU能耗模式,用户可以根据应用场景设置能耗模式获得最优的能效比。
示例:
```java
MobileConfig config = new MobileConfig();
// 设置NaiveBuffer格式模型目录
config.setModelDir(modelPath);
// 设置能耗模式
config.setPowerMode(PowerMode.LITE_POWER_HIGH);
// 根据MobileConfig创建PaddlePredictor
PaddlePredictor predictor = PaddlePredictor.createPaddlePredictor(config);
```
PowerMode详细说明如下:
| 选项 | 说明 |
| :------------------: | ------------------------------------------------------------ |
| LITE_POWER_HIGH | 绑定大核运行模式。如果ARM CPU支持big.LITTLE,则优先使用并绑定Big cluster。如果设置的线程数大于大核数量,则会将线程数自动缩放到大核数量。如果系统不存在大核或者在一些手机的低电量情况下会出现绑核失败,如果失败则进入不绑核模式。 |
| LITE_POWER_LOW | 绑定小核运行模式。如果ARM CPU支持big.LITTLE,则优先使用并绑定Little cluster。如果设置的线程数大于小核数量,则会将线程数自动缩放到小核数量。如果找不到小核,则自动进入不绑核模式。 |
| LITE_POWER_FULL | 大小核混用模式。线程数可以大于大核数量。当线程数大于核心数量时,则会自动将线程数缩放到核心数量。 |
| LITE_POWER_NO_BIND | 不绑核运行模式(推荐)。系统根据负载自动调度任务到空闲的CPU核心上。 |
| LITE_POWER_RAND_HIGH | 轮流绑定大核模式。如果Big cluster有多个核心,则每预测10次后切换绑定到下一个核心。 |
| LITE_POWER_RAND_LOW | 轮流绑定小核模式。如果Little cluster有多个核心,则每预测10次后切换绑定到下一个核心。 |
# Tensor
```c++
public class Tensor;
```
Tensor是Paddle-Lite的数据组织形式,用于对底层数据进行封装并提供接口对数据进行操作,包括设置维度、数据等。
*注意:用户应使用`
PaddlePredictor
`的`
getInput
`和`
getOuput
`接口获取输入/输出的`
Tensor
`。*
示例:
```java
// 设置MobileConfig
MobileConfig config = new MobileConfig();
config.setModelDir(modelPath);
// 创建PaddlePredictor
PaddlePredictor predictor = PaddlePredictor.createPaddlePredictor(config);
// 设置输入数据
long[] dims = {100, 100};
float[] inputBuffer = new float[10000];
for (int i = 0; i < 10000; ++i) {
inputBuffer[i] = i;
}
// 获取输入Tensor
Tensor input = predictor.getInput(0);
// 设置输入维度
input.resize(dims);
// 设置输入数据
input.setData(inputBuffer);
// 执行预测
predictor.run();
// 获取输出Tensor
Tensor output = predictor.getOutput(0);
// 获取输出数据
float[] output = result.getFloatData();
for (int i = 0; i < 1000; ++i) {
System.out.println(output[i]);
}
```
> **resize(dims)**
设置Tensor的维度信息。
参数:
- `
dims(long[])
` - 维度信息
返回:设置成功返回`
true
`,否则返回`
false
`
返回类型:`
boolean
`
> **shape()**
获取Tensor的维度信息。
参数:
- `
None
`
返回:Tensor的维度信息
返回类型:`
long[]
`
> **setData(data)**
设置Tensor数据。
参数:
- `
data(float[])
` - 需要设置的数据
返回:成功则返回`
true
`,否则返回`
false
`
返回类型:`
boolean
`
> **getFloatData()**
获取Tensor的底层float型数据。
参数:
- `
None
`
返回:`
Tensor
`底层数据
返回类型:`
float[]
`
index.md
浏览文件 @
ee2dddec
...
...
@@ -47,6 +47,11 @@ Paddle-Lite 框架是 PaddleMobile 新一代架构,重点支持移动端推理
-
[
开发基础须知
](
{{
site.baseurl }}/develop/for-developer)
-
[
架构详解
](
{{
site.baseurl }}/develop/architecture-intro)
## API文档
-
[
C++ API文档
](
{{
site.baseurl }}/develop/cxx_api_doc)
-
[
Java API文档
](
{{
site.baseurl }}/develop/java_api_doc)
## FAQ
-
问题或建议可以
[
发Issue
](
https://github.com/PaddlePaddle/Paddle-Lite/issues
)
,为加快问题解决效率,可先检索是否有类似问题,我们也会及时解答!
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录