python.mdx 14.0 KB
Newer Older
B
Bo Ding 已提交
1 2
---
sidebar_position: 3
D
dingbo 已提交
3
sidebar_label: Python
4
title: Python Connector
B
Bo Ding 已提交
5
description: "taospy 是 TDengine 的官方 Python 连接器。taospy 提供了丰富的 API, 使得 Python 应用可以很方便地使用 TDengine。tasopy 对 TDengine 的原生接口和 REST 接口都进行了封装, 分别对应 tasopy 的两个子模块:tasos 和 taosrest。除了对原生接口和 REST 接口的封装,taospy 还提供了符合 Python 数据访问规范(PEP 249)的编程接口。这使得 taospy 和很多第三方工具集成变得简单,比如 SQLAlchemy 和 pandas"
B
Bo Ding 已提交
6 7
---

B
Bo Ding 已提交
8 9
import Tabs from "@theme/Tabs";
import TabItem from "@theme/TabItem";
B
Bo Ding 已提交
10

B
Bo Ding 已提交
11
`taospy` 是 TDengine 的官方 Python 连接器。`taospy` 提供了丰富的 API, 使得 Python 应用可以很方便地使用 TDengine。`tasopy` 对 TDengine 的[原生接口](/reference/connector/cpp)和 [REST 接口](/reference/rest-api)都进行了封装, 分别对应 `tasopy` 包的 `taos` 模块 和 `taosrest` 模块。
B
Bo Ding 已提交
12
除了对原生接口和 REST 接口的封装,`taospy` 还提供了符合 [Python 数据访问规范(PEP 249)](https://peps.python.org/pep-0249/) 的编程接口。这使得 `taospy` 和很多第三方工具集成变得简单,比如 [SQLAlchemy](https://www.sqlalchemy.org/) 和 [pandas](https://pandas.pydata.org/)。
B
Bo Ding 已提交
13

B
Bo Ding 已提交
14 15
使用客户端驱动提供的原生接口直接与服务端建立的连接的方式下文中称为“原生连接”;使用 taosAdapter 提供的 REST 接口与服务端建立的连接的方式下文中称为“REST 连接”。

B
Bo Ding 已提交
16
Python 连接器的源码托管在 [GitHub](https://github.com/taosdata/taos-connector-python)。
B
Bo Ding 已提交
17

B
Bo Ding 已提交
18
## 支持的平台
B
Bo Ding 已提交
19

B
Bo Ding 已提交
20 21
- 原生连接[支持的平台](/reference/connector/#支持的平台)和 TDengine 客户端支持的平台一致。
- REST 连接支持所有能运行 Python 的平台。
B
Bo Ding 已提交
22

B
Bo Ding 已提交
23
## 版本选择
B
Bo Ding 已提交
24

B
Bo Ding 已提交
25
无论使用什么版本的 TDengine 都建议使用最新版本的 `tasopy`。
B
Bo Ding 已提交
26

B
Bo Ding 已提交
27
## 支持的功能
B
Bo Ding 已提交
28

B
Bo Ding 已提交
29 30
- 原生连接支持 TDeingine 的所有核心功能, 包括: 连接管理、查询(包括写入)、参数绑定、订阅、无模式写入(Schemaless)。
- REST 连接目前仅支持查询功能。
B
Bo Ding 已提交
31

B
Bo Ding 已提交
32
## 安装
B
Bo Ding 已提交
33

B
Bo Ding 已提交
34
### 准备
B
Bo Ding 已提交
35

B
Bo Ding 已提交
36 37 38
1. 安装 Python。建议使用 Python >= 3.6。如果系统上还没有 Python 可参考 [Python BeginnersGuide](https://wiki.python.org/moin/BeginnersGuide/Download) 安装。
2. 安装 [pip](https://pypi.org/project/pip/)。大部分情况下 Python 的安装包都自带了 pip 工具, 如果没有请参考 [pip docuemntation](https://pip.pypa.io/en/stable/installation/) 安装。
3. 如果使用原生连接,还需[安装客户端驱动](../#安装客户端驱动)。客户端软件包含了 TDengine 客户端动态链接库(libtaos.so 或 taos.dll) 和 TDengine CLI。
B
Bo Ding 已提交
39

B
Bo Ding 已提交
40
### 使用 pip 安装
B
Bo Ding 已提交
41

B
Bo Ding 已提交
42
#### 卸载旧版本
B
Bo Ding 已提交
43

B
Bo Ding 已提交
44
如果以前安装过旧版本的 Python 连接器, 请提前卸载。
B
Bo Ding 已提交
45

B
Bo Ding 已提交
46 47 48
```
pip3 uninstall taos taospy
```
B
Bo Ding 已提交
49

B
Bo Ding 已提交
50 51
:::note
较早的 TDengine 客户端软件包含了 Python 连接器。如果从客户端软件的安装目录安装了 Python 连接器,那么对应的 Python 包名是 `taos`。 所以上述卸载命令包含了 `taos`, 不存在也没关系。
B
Bo Ding 已提交
52

B
Bo Ding 已提交
53
:::
B
Bo Ding 已提交
54

B
Bo Ding 已提交
55
#### 安装 `tasopy`
B
Bo Ding 已提交
56

B
Bo Ding 已提交
57 58
<Tabs>
<TabItem label="从 PyPI 安装" value="pypi">
B
Bo Ding 已提交
59

B
Bo Ding 已提交
60
安装最新版本
B
Bo Ding 已提交
61

B
Bo Ding 已提交
62 63 64
```
pip3 install taospy
```
B
Bo Ding 已提交
65

66
也可以指定某个特定版本安装。
B
Bo Ding 已提交
67

B
Bo Ding 已提交
68
```
69
pip3 install taospy==2.3.0
B
Bo Ding 已提交
70
```
B
Bo Ding 已提交
71

B
Bo Ding 已提交
72 73
</TabItem>
<TabItem label="从 GitHub 安装" value="github">
B
Bo Ding 已提交
74

B
Bo Ding 已提交
75 76
```
pip3 install git+https://github.com/taosdata/taos-connector-python.git
B
Bo Ding 已提交
77 78
```

B
Bo Ding 已提交
79 80
</TabItem>
</Tabs>
B
Bo Ding 已提交
81

B
Bo Ding 已提交
82
### 安装验证
B
Bo Ding 已提交
83

B
Bo Ding 已提交
84 85
<Tabs groupId="connect" default="native">
<TabItem value="native" label="原生连接">
B
Bo Ding 已提交
86

87
对于原生连接,需要验证客户端驱动和 Python 连接器本身是否都正确安装。如果能成功导入 `taos` 模块,则说明已经正确安装了客户端驱动和 Python 连接器。可在 Python 交互式 Shell 中输入:
B
Bo Ding 已提交
88 89 90 91 92

```python
import taos
```

B
Bo Ding 已提交
93 94
</TabItem>
<TabItem  value="rest" label="REST 连接">
B
Bo Ding 已提交
95

96
对于 REST 连接,只需验证是否能成功导入 `taosrest` 模块。可在 Python 交互式 Shell 中输入:
B
Bo Ding 已提交
97

B
Bo Ding 已提交
98 99 100
```python
import taosrest
```
B
Bo Ding 已提交
101

B
Bo Ding 已提交
102 103
</TabItem>
</Tabs>
B
Bo Ding 已提交
104

B
Bo Ding 已提交
105
:::tip
B
Bo Ding 已提交
106
如果系统上有多个版本的 Python,则可能有多个 `pip` 命令。要确保使用的 `pip` 命令路径是正确的。上面我们用 `pip3` 命令安装,排除了使用 Python 2.x 版本对应的 `pip` 的可能性。但是如果系统上有多个 Python 3.x 版本,仍需检查安装路径是否正确。最简单的验证方式是,在命令再次输入 `pip3 install taospy`, 就会打印出 `taospy` 的具体安装位置,比如在 Windows 上:
B
Bo Ding 已提交
107

B
Bo Ding 已提交
108 109 110
```
C:\> pip3 install taospy
Looking in indexes: https://pypi.tuna.tsinghua.edu.cn/simple
111
Requirement already satisfied: taospy in c:\users\username\appdata\local\programs\python\python310\lib\site-packages (2.3.0)
B
Bo Ding 已提交
112
```
B
Bo Ding 已提交
113

B
Bo Ding 已提交
114
:::
B
Bo Ding 已提交
115

B
Bo Ding 已提交
116
## 建立连接
B
Bo Ding 已提交
117

B
Bo Ding 已提交
118
### 连通性测试
B
Bo Ding 已提交
119

B
Bo Ding 已提交
120
在用连接器建立连接之前,建议先测试本地 TDengine CLI 到 TDengine 集群的连通性。
B
Bo Ding 已提交
121

B
Bo Ding 已提交
122 123
<Tabs>
<TabItem value="native" label="原生连接">
B
Bo Ding 已提交
124

B
Bo Ding 已提交
125
请确保 TDengine 集群已经启动, 且集群中机器的 FQDN (如果启动的是单机版,FQDN 默认为 hostname)在本机能够解析, 可用 ping 命令进行测试:
B
Bo Ding 已提交
126

B
Bo Ding 已提交
127 128 129
```
ping <FQDN>
```
B
Bo Ding 已提交
130

B
Bo Ding 已提交
131
然后测试用 TDengine CLI 能否正常连接集群:
B
Bo Ding 已提交
132

B
Bo Ding 已提交
133 134
```
taos -h <FQDN> -p <PORT>
B
Bo Ding 已提交
135 136
```

B
Bo Ding 已提交
137
上面的 FQDN 可以为集群中任意一个 dnode 的 FQDN, PORT 为这个 dnode 对应的 serverPort。
B
Bo Ding 已提交
138

B
Bo Ding 已提交
139 140
</TabItem>
<TabItem value="rest" label="REST 连接" groupId="connect">
B
Bo Ding 已提交
141

B
Bo Ding 已提交
142
对于 REST 连接, 除了确保集群已经启动,还要确保 taosAdapter 组件已经启动。可以使用如下 curl 命令测试:
B
Bo Ding 已提交
143

B
Bo Ding 已提交
144 145 146
```
curl -u root:taosdata http://<FQDN>:<PORT>/rest/sql -d "select server_version()"
```
B
Bo Ding 已提交
147

B
Bo Ding 已提交
148 149 150 151 152 153 154 155 156 157 158 159
上面的 FQDN 为运行 taosAdapter 的机器的 FQDN, PORT 为 taosAdapter 配置的监听端口, 默认为 6041。
如果测试成功,会输出服务器版本信息,比如:

```json
{
  "status": "succ",
  "head": ["server_version()"],
  "column_meta": [["server_version()", 8, 8]],
  "data": [["2.4.0.16"]],
  "rows": 1
}
```
B
Bo Ding 已提交
160

B
Bo Ding 已提交
161 162
</TabItem>
</Tabs>
B
Bo Ding 已提交
163

B
Bo Ding 已提交
164
### 使用连接器建立连接
B
Bo Ding 已提交
165

B
Bo Ding 已提交
166
以下示例代码假设 TDengine 安装在本机, 且 FQDN 和 serverPort 都使用了默认配置。
B
Bo Ding 已提交
167

B
Bo Ding 已提交
168 169
<Tabs>
<TabItem value="native" label="原生连接" groupId="connect">
B
Bo Ding 已提交
170

B
Bo Ding 已提交
171 172 173
```python
{{#include docs-examples/python/connect_native_reference.py}}
```
B
Bo Ding 已提交
174

175
`connect` 函数的所有参数都是可选的关键字参数。下面是连接参数的具体说明:
B
Bo Ding 已提交
176

177 178 179 180 181 182
- `host` : 要连接的节点的 FQDN。 没有默认值。如果不同提供此参数,则会连接客户端配置文件中的 firstEP。
- `user` :TDengine 用户名。 默认值是 root。
- `password` : TDengine 用户密码。 默认值是 taosdata。
- `port` : 要连接的数据节点的起始端口,即 serverPort 配置。默认值是 6030。只有在提供了 host 参数的时候,这个参数才生效。
- `config` : 客户端配置文件路径。 在 Windows 系统上默认是 `C:\TDengine\cfg`。 在 Linux 系统上默认是 `/etc/taos/`。
- `timezone` : 查询结果中 TIMESTAMP 类型的数据,转换为 python 的 datetime 对象时使用的时区。默认为本地时区。
B
Bo Ding 已提交
183

B
Bo Ding 已提交
184
:::warning
185
`config` 和 `timezone` 都是进程级别的配置。建议一个进程建立的所有连接都使用相同的参数值。否则可能产生无法预知的错误。
B
Bo Ding 已提交
186
:::
B
Bo Ding 已提交
187

B
Bo Ding 已提交
188 189
:::tip
`connect` 函数返回 `taos.TaosConnection` 实例。 在客户端多线程的场景下,推荐每个线程申请一个独立的连接实例,而不建议多线程共享一个连接。
B
Bo Ding 已提交
190

B
Bo Ding 已提交
191
:::
B
Bo Ding 已提交
192

B
Bo Ding 已提交
193 194
</TabItem>
<TabItem value="rest" label="REST 连接">
B
Bo Ding 已提交
195

196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211
```python
{{#include docs-examples/python/connect_rest_examples.py:connect}}
```

`connect` 函数的所有参数都是可选的关键字参数。下面是连接参数的具体说明:

- `host`: 要连接的主机。默认是 localhost。
- `user`: TDenigne 用户名。默认是 root。
- `password`: TDeingine 用户密码。默认是 taosdata。
- `port`: taosAdapter REST 服务监听端口。默认是 6041.
- `timeout`: HTTP 请求超时时间。单位为秒。默认为 `socket._GLOBAL_DEFAULT_TIMEOUT`。 一般无需配置。

:::note

:::

B
Bo Ding 已提交
212 213
</TabItem>
</Tabs>
B
Bo Ding 已提交
214

215
## 示例程序
B
Bo Ding 已提交
216

B
Bo Ding 已提交
217
### 基本使用
B
Bo Ding 已提交
218

219 220 221
<Tabs default="native" groupId="connect">
<TabItem value="native" label="原生连接">

B
Bo Ding 已提交
222
##### TaosConnection 类的使用
223 224 225 226 227 228 229 230 231 232 233 234 235 236 237

`TaosConnection` 类既包含对 PEP249 Connection 接口的实现(如:`cursor`方法和 `close` 方法),也包含很多扩展功能(如: `execute`、 `query`、`schemaless_insert` 和 `subscribe` 方法。

```python title="execute 方法"
{{#include docs-examples/python/connection_usage_native_reference.py:insert}}
```

```python title="query 方法"
{{#include docs-examples/python/connection_usage_native_reference.py:query}}
```

:::tip
查询结果只能获取一次。比如上面的示例中 `featch_all` 和 `fetch_all_into_dict` 只能用一个。重复获取得到的结果为空列表。
:::

B
Bo Ding 已提交
238
##### TaosResult 类的使用
239 240 241 242 243 244

上面 `TaosConnection` 类的使用示例中,我们已经展示了两种获取查询结果的方法: `featch_all` 和 `fetch_all_into_dict`。除此之外 `TaosResult` 还提供了按行迭代(`rows_iter`)或按数据块迭代(`blocks_iter`)结果集的方法。在查询数据量较大的场景,使用这两个方法会更高效。

```python title="blocks_iter 方法"
{{#include docs-examples/python/result_set_examples.py}}
```
B
Bo Ding 已提交
245
##### TaosCursor 类的使用
246 247 248 249 250 251 252 253 254 255 256 257 258 259 260

`TaosConnection` 类和 `TaosResult` 类已经实现了原生接口的所有功能。如果你对 PEP249 规范中的接口比较熟悉也可以使用 `TaosCursor` 类提供的方法。

```python title="TaosCursor 的使用"
{{#include docs-examples/python/cursor_usage_native_reference.py}}
```

:::note
TaosCursor 类使用原生连接进行写入、查询操作。在客户端多线程的场景下,这个游标实例必须保持线程独享,不能跨线程共享使用,否则会导致返回结果出现错误。

:::

</TabItem>
<TabItem value="rest" label="REST 连接">

B
Bo Ding 已提交
261 262 263 264 265
#####  TaosRestCursor 类的使用

`TaosRestCursor` 类是对 PEP249 Cursor 接口的实现。

```python title="TaosRestCursor 的使用"
266 267
{{#include docs-examples/python/connect_rest_examples.py:basic}}
```
B
Bo Ding 已提交
268 269 270 271 272 273 274 275 276 277 278 279 280 281 282
- `cursor.execute` : 用来执行任意 SQL 语句。
- `cursor.rowcount`: 对于写入操作返回写入成功记录数。对于查询操作,返回结果集行数。
- `cursor.description` : 返回字段的描述信息。关于描述信息的具体格式请参考[TaosRestCursor](https://docs.taosdata.com/api/taospy/taosrest/cursor.html)。

##### RestClient 类的使用

`RestClient` 类是对于 [REST API](/reference/rest-api) 的直接封装。它只包含一个 `sql()` 方法用于执行任意 SQL 语句, 并返回执行结果。

```python title="RestClient 的使用"
{{#include docs-examples/python/rest_client_example.py}}
```

对于 `sql()` 方法更详细的介绍, 请参考 [RestClient](https://docs.taosdata.com/api/taospy/taosrest/restclient.html)。


283 284 285 286

</TabItem>
</Tabs>

B
Bo Ding 已提交
287
### 与 pandas 一起使用
B
Bo Ding 已提交
288

289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305
<Tabs default="native" groupId="connect">
<TabItem value="native" label="原生连接">

```python
{{#include docs-examples/python/conn_native_pandas.py}}
```

</TabItem>
<TabItem value="rest" label="REST 连接">

```python
{{#include docs-examples/python/conn_rest_pandas.py}}
```

</TabItem>
</Tabs>

B
Bo Ding 已提交
306
### 其它示例程序
B
Bo Ding 已提交
307

B
Bo Ding 已提交
308 309 310 311 312 313 314 315
| 示例程序链接                                                                                                  | 示例程序内容            |
| ------------------------------------------------------------------------------------------------------------- | ----------------------- |
| [bind_multi.py](https://github.com/taosdata/taos-connector-python/blob/main/examples/bind-multi.py)           | 参数绑定, 一次绑定多行 |
| [bind_row.py](https://github.com/taosdata/taos-connector-python/blob/main/examples/bind-row.py)               | 参数绑定,一次绑定一行  |
| [insert_lines.py](https://github.com/taosdata/taos-connector-python/blob/main/examples/insert-lines.py)       | InfluxDB 行协议写入     |
| [json_tag.py](https://github.com/taosdata/taos-connector-python/blob/main/examples/json-tag.py)               | 使用 JSON 类型的标签    |
| [subscribe-async.py](https://github.com/taosdata/taos-connector-python/blob/main/examples/subscribe-async.py) | 异步订阅                |
| [subscribe-sync.py](https://github.com/taosdata/taos-connector-python/blob/main/examples/subscribe-sync.py)   | 同步订阅                |
B
Bo Ding 已提交
316

B
Bo Ding 已提交
317
## 其它说明 
B
Bo Ding 已提交
318

319
### 异常处理
B
Bo Ding 已提交
320

321 322 323 324 325 326 327 328
所有数据库操作如果出现异常,都会直接抛出来。由应用程序负责异常处理。比如:

```python
{{#include docs-examples/python/handle_exception.py}}
```

### 关于纳秒 (nanosecond)

B
Bo Ding 已提交
329
由于目前 Python 对 nanosecond 支持的不完善(见下面的链接),目前的实现方式是在 nanosecond 精度时返回整数,而不是 ms 和 us 返回的 datetime 类型,应用开发者需要自行处理,建议使用 pandas 的 to_datetime()。未来如果 Python 正式完整支持了纳秒,Python 连接器可能会修改相关接口。
B
Bo Ding 已提交
330

B
Bo Ding 已提交
331 332
1. https://stackoverflow.com/questions/10611328/parsing-datetime-strings-containing-nanoseconds
2. https://www.python.org/dev/peps/pep-0564/
B
Bo Ding 已提交
333 334


B
Bo Ding 已提交
335
## 常见问题
B
Bo Ding 已提交
336

B
Bo Ding 已提交
337
欢迎[提问或报告问题](https://github.com/taosdata/taos-connector-python/issues)。
B
Bo Ding 已提交
338

B
Bo Ding 已提交
339
## 重要更新
B
Bo Ding 已提交
340

B
Bo Ding 已提交
341 342
| 连接器版本 | 重要更新                                                                          | 发布日期   |
| ---------- | --------------------------------------------------------------------------------- | ---------- |
D
dingbo 已提交
343
| 2.3.1      | 1. support TDengine REST API <br/> 2. remove support for Python version below 3.6 | 2022-04-28 |
B
Bo Ding 已提交
344 345 346
| 2.2.5      | support timezone option when connect                                              | 2022-04-13 |
| 2.2.2      | support sqlalchemy dialect plugin                                                 | 2022-03-28 |

B
Bo Ding 已提交
347

B
Bo Ding 已提交
348
[**Release Notes**](https://github.com/taosdata/taos-connector-python/releases)
B
Bo Ding 已提交
349

B
Bo Ding 已提交
350
## API 参考
B
Bo Ding 已提交
351

B
Bo Ding 已提交
352 353
- [taos](https://docs.taosdata.com/api/taospy/taos/)
- [taosrest](https://docs.taosdata.com/api/taospy/taosrest)