index.mdx 17.9 KB
Newer Older
1
---
2
title: TDinsight
3
sidebar_label: TDinsight
4
description: 基于Grafana的TDengine零依赖监控解决方案
5 6
---

arielyangpan's avatar
arielyangpan 已提交
7 8 9
import Tabs from '@theme/Tabs'
import TabItem from '@theme/TabItem'

H
huolibo 已提交
10
TDinsight 是使用监控数据库和 [Grafana] 对 TDengine 进行监控的解决方案。
11

G
gccgdb1234 已提交
12
TDengine 通过 [taosKeeper](../taosKeeper) 将服务器的 CPU、内存、硬盘空间、带宽、请求数、磁盘读写速度、慢查询等信息定时写入指定数据库,并对重要的系统操作(比如登录、创建、删除数据库等)以及各种错误报警信息进行记录。通过 [Grafana] 和 [TDengine 数据源插件](https://github.com/taosdata/grafanaplugin/releases),TDinsight 将集群状态、节点信息、插入及查询请求、资源使用情况等进行可视化展示,同时还支持 vnode、dnode、mnode 节点状态异常告警,为开发者实时监控 TDengine 集群运行状态提供了便利。本文将指导用户安装 Grafana 服务器并通过 `TDinsight.sh` 安装脚本自动安装 TDengine 数据源插件及部署 TDinsight 可视化面板。
13 14 15

## 系统要求

H
huolibo 已提交
16
- 单节点的 TDengine 服务器或多节点的 [TDengine] 集群,以及一个[Grafana]服务器。此仪表盘需要 TDengine 3.0.0.0 及以上,并开启监控服务,具体配置请参考:[TDengine 监控配置](../config/#监控相关)。
G
gccgdb1234 已提交
17 18
- taosAdapter 已经安装并正常运行。具体细节请参考:[taosAdapter 使用手册](../taosadapter)
- taosKeeper 已安装并正常运行。具体细节请参考:[taosKeeper 使用手册](../taosKeeper)
H
huolibo 已提交
19 20 21 22 23 24

记录以下信息:

- taosAdapter 集群 REST API 地址,如:`http://tdengine.local:6041`。
- taosAdapter 集群认证信息,可使用用户名及密码。
- taosKeeper 记录监控指标的数据库名称。
25 26 27

## 安装 Grafana

H
huolibo 已提交
28
我们建议在此处使用最新的[Grafana] 8 或 9 版本。您可以在任何[支持的操作系统](https://grafana.com/docs/grafana/latest/installation/requirements/#supported-operating-systems)中,按照 [Grafana 官方文档安装说明](https://grafana.com/docs/grafana/latest/installation/) 安装 [Grafana]。
29

H
huolibo 已提交
30 31
<Tabs defaultValue="debian" groupId="install">
<TabItem value="debian" label="基于 Debian 或 Ubuntu 系统">
32 33 34 35 36 37 38 39 40 41 42 43 44 45 46

对于 Debian 或 Ubuntu 操作系统,建议使用 Grafana 镜像仓库。使用如下命令从零开始安装:

```bash
sudo apt-get install -y apt-transport-https
sudo apt-get install -y software-properties-common wget
wget -q -O - https://packages.grafana.com/gpg.key |\
  sudo apt-key add -
echo "deb https://packages.grafana.com/oss/deb stable main" |\
  sudo tee -a /etc/apt/sources.list.d/grafana.list
sudo apt-get update
sudo apt-get install grafana
```

### 在 CentOS / RHEL 上安装 Grafana
arielyangpan's avatar
arielyangpan 已提交
47

H
huolibo 已提交
48
</TabItem>
49
<TabItem value="redhat" label="基于 CentOS / RHEL 系统">
50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77

您可以从官方 YUM 镜像仓库安装。

```bash
sudo tee /etc/yum.repos.d/grafana.repo << EOF
[grafana]
name=grafana
baseurl=https://packages.grafana.com/oss/rpm
repo_gpgcheck=1
enabled=1
gpgcheck=1
gpgkey=https://packages.grafana.com/gpg.key
sslverify=1
sslcacert=/etc/pki/tls/certs/ca-bundle.crt
EOF
sudo yum install grafana
```

或者用 RPM 安装:

```bash
wget https://dl.grafana.com/oss/release/grafana-7.5.11-1.x86_64.rpm
sudo yum install grafana-7.5.11-1.x86_64.rpm
# or
sudo yum install \
  https://dl.grafana.com/oss/release/grafana-7.5.11-1.x86_64.rpm
```

H
huolibo 已提交
78 79 80 81 82 83
</TabItem>

</Tabs>

<Tabs defaultValue="auto" groupId="deploy">
<TabItem value="auto" label="自动部署 TDinsight">
84 85 86 87 88 89 90 91 92 93 94

我们提供了一个自动化安装脚本 [`TDinsight.sh`](https://github.com/taosdata/grafanaplugin/releases/latest/download/TDinsight.sh) 脚本以便用户快速进行安装配置。

您可以通过 `wget` 或其他工具下载该脚本:

```bash
wget https://github.com/taosdata/grafanaplugin/releases/latest/download/TDinsight.sh
chmod +x TDinsight.sh
./TDinsight.sh
```

H
huolibo 已提交
95
这个脚本会自动下载最新的[Grafana TDengine 数据源插件](https://github.com/taosdata/grafanaplugin/releases/latest) 和 [TDinsight 仪表盘](https://github.com/taosdata/grafanaplugin/blob/master/dashboards/TDinsightV3.json) ,将命令行选项中的可配置参数转为 [Grafana Provisioning](https://grafana.com/docs/grafana/latest/administration/provisioning/) 配置文件,以进行自动化部署及更新等操作。利用该脚本提供的告警设置选项,你还可以获得内置的阿里云短信告警通知支持。
96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133

假设您在同一台主机上使用 TDengine 和 Grafana 的默认服务。运行 `./TDinsight.sh` 并打开 Grafana 浏览器窗口就可以看到 TDinsight 仪表盘了。

下面是 TDinsight.sh 的用法说明:

```text
Usage:
   ./TDinsight.sh
   ./TDinsight.sh -h|--help
   ./TDinsight.sh -n <ds-name> -a <api-url> -u <user> -p <password>

Install and configure TDinsight dashboard in Grafana on Ubuntu 18.04/20.04 system.

-h, -help,          --help                  Display help

-V, -verbose,       --verbose               Run script in verbose mode. Will print out each step of execution.

-v, --plugin-version <version>              TDengine datasource plugin version, [default: latest]

-P, --grafana-provisioning-dir <dir>        Grafana provisioning directory, [default: /etc/grafana/provisioning/]
-G, --grafana-plugins-dir <dir>             Grafana plugins directory, [default: /var/lib/grafana/plugins]
-O, --grafana-org-id <number>               Grafana organization id. [default: 1]

-n, --tdengine-ds-name <string>             TDengine datasource name, no space. [default: TDengine]
-a, --tdengine-api <url>                    TDengine REST API endpoint. [default: http://127.0.0.1:6041]
-u, --tdengine-user <string>                TDengine user name. [default: root]
-p, --tdengine-password <string>            TDengine password. [default: taosdata]

-i, --tdinsight-uid <string>                Replace with a non-space ASCII code as the dashboard id. [default: tdinsight]
-t, --tdinsight-title <string>              Dashboard title. [default: TDinsight]
-e, --tdinsight-editable                    If the provisioning dashboard could be editable. [default: false]

-E, --external-notifier <string>            Apply external notifier uid to TDinsight dashboard.

```

大多数命令行选项都可以通过环境变量获得同样的效果。

arielyangpan's avatar
arielyangpan 已提交
134 135 136 137 138 139 140 141 142
| 短选项 | 长选项                     | 环境变量                     | 说明                                                    |
| ------ | -------------------------- | ---------------------------- | ------------------------------------------------------- |
| -v     | --plugin-version           | TDENGINE_PLUGIN_VERSION      | TDengine 数据源插件版本,默认使用最新版。               |
| -P     | --grafana-provisioning-dir | GF_PROVISIONING_DIR          | Grafana 配置目录,默认为`/etc/grafana/provisioning/`    |
| -G     | --grafana-plugins-dir      | GF_PLUGINS_DIR               | Grafana 插件目录,默认为`/var/lib/grafana/plugins`。    |
| -O     | --grafana-org-id           | GF_ORG_ID                    | Grafana 组织 ID,默认为 1。                             |
| -n     | --tdengine-ds-name         | TDENGINE_DS_NAME             | TDengine 数据源名称,默认为 TDengine。                  |
| -a     | --tdengine-api             | TDENGINE_API                 | TDengine REST API 端点。默认为`http://127.0.0.1:6041`。 |
| -u     | --tdengine-user            | TDENGINE_USER                | TDengine 用户名。 [默认值:root]                        |
143
| -p     | --tdengine-password        | TDENGINE_PASSWORD            | TDengine 密码。 [默认:taosdata]                        |
arielyangpan's avatar
arielyangpan 已提交
144 145
| -i     | --tdinsight-uid            | TDINSIGHT_DASHBOARD_UID      | TDinsight 仪表盘`uid`。 [默认值:tdinsight]             |
| -t     | --tdinsight-title          | TDINSIGHT_DASHBOARD_TITLE    | TDinsight 仪表盘标题。 [默认:TDinsight]                |
146
| -e     | --tdinsight-editable       | TDINSIGHT_DASHBOARD_EDITABLE | 如果配置仪表盘可以编辑。 [默认值:false]                |
arielyangpan's avatar
arielyangpan 已提交
147
| -E     | --external-notifier        | EXTERNAL_NOTIFIER            | 将外部通知程序 uid 应用于 TDinsight 仪表盘。            |
148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176

假设您在主机 `tdengine` 上启动 TDengine 数据库,HTTP API 端口为 `6041`,用户为 `root1`,密码为 `pass5ord`。执行脚本:

```bash
sudo ./TDinsight.sh -a http://tdengine:6041 -u root1 -p pass5ord
```

我们提供了一个“-E”选项,用于从命令行配置 TDinsight 使用现有的通知通道(Notification Channel)。假设你的 Grafana 用户和密码是 `admin:admin`,使用以下命令获取已有的通知通道的`uid`:

```bash
curl --no-progress-meter -u admin:admin http://localhost:3000/api/alert-notifications | jq
```

使用上面获取的 `uid` 值作为 `-E` 输入。

```bash
sudo ./TDinsight.sh -a http://tdengine:6041 -u root1 -p pass5ord -E existing-notifier
```

如果要监控多个 TDengine 集群,则需要设置多个 TDinsight 仪表盘。设置非默认 TDinsight 需要进行一些更改: `-n` `-i` `-t` 选项需要更改为非默认名称,如果使用 内置短信告警功能,`-N` 和 `-L` 也应该改变。

```bash
sudo ./TDengine.sh -n TDengine-Env1 -a http://another:6041 -u root -p taosdata -i tdinsight-env1 -t 'TDinsight Env1'
```

请注意,配置数据源、通知 Channel 和仪表盘在前端是不可更改的。您应该再次通过此脚本更新配置或手动更改 `/etc/grafana/provisioning` 目录(这是 Grafana 的默认目录,根据需要使用`-P`选项更改)中的配置文件。

特别地,当您使用 Grafana Cloud 或其他组织时,`-O` 可用于设置组织 ID。 `-G` 可指定 Grafana 插件安装目录。 `-e` 参数将仪表盘设置为可编辑。

H
huolibo 已提交
177
</TabItem>
178
<TabItem value="manual" label="手动设置 TDinsight">
179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202

### 安装 TDengine 数据源插件

从 GitHub 安装 TDengine 最新版数据源插件。

```bash
get_latest_release() {
  curl --silent "https://api.github.com/repos/taosdata/grafanaplugin/releases/latest" |
    grep '"tag_name":' |
    sed -E 's/.*"v([^"]+)".*/\1/'
}
TDENGINE_PLUGIN_VERSION=$(get_latest_release)
sudo grafana-cli \
  --pluginUrl https://github.com/taosdata/grafanaplugin/releases/download/v$TDENGINE_PLUGIN_VERSION/tdengine-datasource-$TDENGINE_PLUGIN_VERSION.zip \
  plugins install tdengine-datasource
```

:::note
3.1.6 和更早版本插件需要在配置文件 `/etc/grafana/grafana.ini` 中添加如下设置,以启用未签名插件。

```ini
[plugins]
allow_loading_unsigned_plugins = tdengine-datasource
```
arielyangpan's avatar
arielyangpan 已提交
203

204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221
:::

### 启动 Grafana 服务

```bash
sudo systemctl start grafana-server
sudo systemctl enable grafana-server
```

### 登录到 Grafana

在 Web 浏览器中打开默认的 Grafana 网址:`http://localhost:3000`。
默认用户名/密码都是 `admin`。Grafana 会要求在首次登录后更改密码。

### 添加 TDengine 数据源

指向 **Configurations** -> **Data Sources** 菜单,然后点击 **Add data source** 按钮。

D
dingbo 已提交
222
![TDengine Database TDinsight 添加数据源按钮](./assets/howto-add-datasource-button.webp)
223 224 225

搜索并选择**TDengine**。

D
dingbo 已提交
226
![TDengine Database TDinsight 添加数据源](./assets/howto-add-datasource-tdengine.webp)
227 228 229

配置 TDengine 数据源。

D
dingbo 已提交
230
![TDengine Database TDinsight 数据源配置](./assets/howto-add-datasource.webp)
231 232 233

保存并测试,正常情况下会报告 'TDengine Data source is working'。

D
dingbo 已提交
234
![TDengine Database TDinsight 数据源测试](./assets/howto-add-datasource-test.webp)
235

H
huolibo 已提交
236 237 238
</TabItem>
</Tabs>

239 240
### 导入仪表盘

H
huolibo 已提交
241
在配置 TDengine 数据源界面,点击 **Dashboards** tab。
242

D
dingbo 已提交
243
![TDengine Database TDinsight 导入仪表盘和配置](./assets/import_dashboard.webp)
244

H
huolibo 已提交
245 246 247 248 249
选择 `TDengine for 3.x`,并点击 `import`。

导入完成后,在搜索界面已经出现了 **TDinsight for 3.x** dashboard。

![TDengine Database TDinsight 查看导入结果](./assets/import_dashboard_view.webp)
250

H
huolibo 已提交
251
进入 TDinsight for 3.x dashboard 后,选择 taosKeeper 中设置的记录监控指标的数据库。
252

H
huolibo 已提交
253
![TDengine Database TDinsight 选择数据库](./assets/select_dashboard_db.webp)
254

H
huolibo 已提交
255
然后可以看到监控结果。
256 257 258

## TDinsight 仪表盘详细信息

H
huolibo 已提交
259
TDinsight 仪表盘旨在提供 TDengine 相关资源的使用情况和状态,比如 dnodes、 mnodes、 vnodes 和数据库等。
260 261 262 263 264

指标详情如下:

### 集群状态

D
dingbo 已提交
265
![TDengine Database TDinsight mnodes overview](./assets/TDinsight-1-cluster-status.webp)
266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283

这部分包括集群当前信息和状态,告警信息也在此处(从左到右,从上到下)。

- **First EP**:当前 TDengine 集群中的`firstEp`设置。
- **Version**:TDengine 服务器版本(master mnode)。
- **Master Uptime**: 当前 Master MNode 被选举为 Master 后经过的时间。
- **Expire Time** - 企业版过期时间。
- **Used Measuring Points** - 企业版已使用的测点数。
- **Databases** - 数据库个数。
- **Connections** - 当前连接个数。
- **DNodes/MNodes/VGroups/VNodes**:每种资源的总数和存活数。
- **DNodes/MNodes/VGroups/VNodes Alive Percent**:每种资源的存活数/总数的比例,启用告警规则,并在资源存活率(1 分钟内平均健康资源比例)不足 100%时触发。
- **Measuring Points Used**:启用告警规则的测点数用量(社区版无数据,默认情况下是健康的)。
- **Grants Expire Time**:启用告警规则的企业版过期时间(社区版无数据,默认情况是健康的)。
- **Error Rate**:启用警报的集群总合错误率(每秒平均错误数)。

### DNodes 状态

D
dingbo 已提交
284
![TDengine Database TDinsight mnodes overview](./assets/TDinsight-2-dnodes.webp)
285 286 287 288 289 290 291

- **DNodes Status**:`show dnodes` 的简单表格视图。
- **DNodes Lifetime**:从创建 dnode 开始经过的时间。
- **DNodes Number**:DNodes 数量变化。

### MNode 概述

D
dingbo 已提交
292
![TDengine Database TDinsight mnodes overview](./assets/TDinsight-3-mnodes.webp)
293 294 295 296 297 298

1. **MNodes Status**:`show mnodes` 的简单表格视图。
2. **MNodes Number**:类似于`DNodes Number`,MNodes 数量变化。

### 请求

D
dingbo 已提交
299
![TDengine Database TDinsight requests](./assets/TDinsight-4-requests.webp)
300 301 302 303 304 305

1. **Requests Rate(Inserts per Second)**:平均每秒插入次数。
2. **Requests (Selects)**:查询请求数及变化率(count of second)。

### 数据库

D
dingbo 已提交
306
![TDengine Database TDinsight database](./assets/TDinsight-5-database.webp)
307 308 309 310 311

数据库使用情况,对变量 `$database` 的每个值即每个数据库进行重复多行展示。

1. **STables**:超级表数量。
2. **Total Tables**:所有表数量。
H
huolibo 已提交
312 313
3. **Tables**:所有普通表数量随时间变化图。
4. **Tables Number Foreach VGroups**:每个 VGroups 包含的表数量。
314 315 316

### DNode 资源使用情况

D
dingbo 已提交
317
![TDengine Database TDinsight dnode-usage](./assets/TDinsight-6-dnode-usage.webp)
318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337

数据节点资源使用情况展示,对变量 `$fqdn` 即每个数据节点进行重复多行展示。包括:

1. **Uptime**:从创建 dnode 开始经过的时间。
2. **Has MNodes?**:当前 dnode 是否为 mnode。
3. **CPU Cores**:CPU 核数。
4. **VNodes Number**:当前 dnode 的 VNodes 数量。
5. **VNodes Masters**:处于 master 角色的 vnode 数量。
6. **Current CPU Usage of taosd**:taosd 进程的 CPU 使用率。
7. **Current Memory Usage of taosd**:taosd 进程的内存使用情况。
8. **Disk Used**:taosd 数据目录的总磁盘使用百分比。
9. **CPU Usage**:进程和系统 CPU 使用率。
10. **RAM Usage**:RAM 使用指标时间序列视图。
11. **Disk Used**:多级存储下每个级别使用的磁盘(默认为 level0 级)。
12. **Disk Increasing Rate per Minute**:每分钟磁盘用量增加或减少的百分比。
13. **Disk IO**:磁盘 IO 速率。
14. **Net IO**:网络 IO,除本机网络之外的总合网络 IO 速率。

### 登录历史

D
dingbo 已提交
338
![TDengine Database TDinsight 登录历史](./assets/TDinsight-7-login-history.webp)
339 340 341 342 343

目前只报告每分钟登录次数。

### 监控 taosAdapter

D
dingbo 已提交
344
![TDengine Database TDinsight monitor taosadapter](./assets/TDinsight-8-taosadapter.webp)
345 346 347

支持监控 taosAdapter 请求统计和状态详情。包括:

348 349 350 351 352 353
1. **Http Request Total**: 请求总数。
2. **Http Request Fail**: 请求总数。
3. **CPU Used**: taosAdapter CPU 使用情况。
4. **Memory Used**: taosAdapter 内存使用情况。
5. **Http Request Inflight**: 即时处理请求数。
6. **Http Status Code**: taosAdapter http 状态码。
354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395 396 397 398 399 400 401 402 403 404 405 406 407 408 409 410

## 升级

通过 `TDinsight.sh` 脚本安装的 TDinsight,可以通过重新运行该脚本就可以升级到最新的 Grafana 插件和 TDinsight Dashboard。

手动安装的情况下,可按照上述步骤自行安装新的 Grafana 插件和 Dashboard。

## 卸载

通过 `TDinsight.sh` 脚本安装的 TDinsight,可以使用命令行 `TDinsight.sh -R` 清理相关资源。

手动安装时,要完全卸载 TDinsight,需要清理以下内容:

1. Grafana 中的 TDinsight Dashboard。
2. Grafana 中的 Data Source 数据源。
3. 从插件安装目录删除 `tdengine-datasource` 插件。

## 整合的 Docker 示例

```bash
git clone --depth 1 https://github.com/taosdata/grafanaplugin.git
cd grafanaplugin
```

根据需要在 `docker-compose.yml` 文件中修改:

```yaml
version: '3.7'

services:
  grafana:
    image: grafana/grafana:7.5.10
    volumes:
      - ./dist:/var/lib/grafana/plugins/tdengine-datasource
      - ./grafana/grafana.ini:/etc/grafana/grafana.ini
      - ./grafana/provisioning/:/etc/grafana/provisioning/
      - grafana-data:/var/lib/grafana
    environment:
      TDENGINE_API: ${TDENGINE_API}
      TDENGINE_USER: ${TDENGINE_USER}
      TDENGINE_PASS: ${TDENGINE_PASS}
    ports:
      - 3000:3000
volumes:
  grafana-data:
```

替换`docker-compose.yml`中的环境变量或保存环境变量到`.env`文件,然后用`docker-compose up`启动 Grafana。`docker-compose` 工具的具体用法参见 [Docker Compose Reference](https://docs.docker.com/compose/)

```bash
docker-compose up -d
```

TDinsight 已经通过 Provisioning 部署完毕,请到 http://localhost:3000/d/tdinsight/ 查看仪表盘。

[grafana]: https://grafana.com
[tdengine]: https://www.taosdata.com