# LogProxy 客户端使用教程 [oblogproxy](https://github.com/oceanbase/oblogproxy) (OceanBase Log Proxy,以下称 LogProxy)是一个获取 OceanBase 增量 clog (commit log)的代理服务。本教程将向你展示如何使用 LogProxy 客户端连接 LogProxy ,并通过该连接获取日志数据。 ## 准备 使用之前需要做的准备: 1. 安装 JDK 1.8 或更新的版本。 2. 启动 LogProxy 服务。 3. 如果 LogProxy 服务开启了 SSL 验证,需要准备好相关的证书文件。 4. 安装 Maven 或 Gradle,否则的话需要手动下载依赖的所有 jar 文件。 ## 依赖配置 所有已发布的版本都可以在 [Maven 中央仓库](https://mvnrepository.com/artifact/com.oceanbase/oblogclient-logproxy)找到,你也可以选择从[归档目录](https://repo1.maven.org/maven2/com/oceanbase/oblogclient-logproxy/)手动下载。 如下所示是使用 Maven 时的示例: ```xml com.oceanbase oblogclient-logproxy x.y.z ``` 如果你想要使用最新的快照版本,可以通过配置 Maven 快照仓库来指定: ```xml com.oceanbase oblogclient-logproxy x.y.z-SNAPSHOT sonatype-snapshots Sonatype Snapshot Repository https://s01.oss.sonatype.org/content/repositories/snapshots/ true ``` ## 使用 ### 基本使用 连接 LogProxy 服务时,需要配置一些 `ObReaderConfig` 类的参数:
参数名 是否必需 默认值 类型 设置函数 参数说明
cluster_url 空字符串 String setClusterUrl 用于获取 OceanBase 集群节点信息的 url,当且仅当使用企业版的 OceanBase 时需要设置。使用 sys 用户执行 show parameters like 'obconfig_url' 时,返回的 value 字段即为该值。
rootserver_list 空字符串 String setRsList OceanBase 集群的节点列表,当且仅当使用社区版的 OceanBase 时需要设置。使用 sys 用户执行 show parameters like 'rootservice_list' 时,返回的 value 字段即为该值。
cluster_user 空字符串 String setUsername 连接 OceanBase 的用户名,格式一般为 用户名@租户名
cluster_password 空字符串 String setPassword 连接 OceanBase 的密码。
tb_white_list *.*.* String setTableWhiteList 监听的数据变动白名单,使用 fnmatch 按照格式 租户.库.表 进行匹配,多个值使用 | 分隔。需要注意的是,当前使用的用户需要至少对监听的范围有 SELECT 权限。
tb_black_list String setTableBlackList 监听的数据变动黑名单,使用 fnmatch 按照格式 租户.库.表 进行匹配,多个值使用 | 分隔。
first_start_timestamp 0 Long setStartTimestamp 获取数据的起点时间戳,单位是秒。为 0 时将从当前时刻开始获取。
timezone +08:00 String setTimezone 连接使用的时区,该取值将会影响时间类型的字段读取。
working_mode storage String setWorkingMode libobcdc 的工作模式,可选值为 "storage" 和 "memory"。
除了这些之外,还有其他参数可以通过 `ObReaderConfig` 类的构造函数进行配置,更多信息可以在[官方文档网站](https://www.oceanbase.com/docs/) 搜索 obcdc 获取。 下面是一个使用社区版 OceanBase 时配置 `ObReaderConfig` 的例子: ```java ObReaderConfig config = new ObReaderConfig(); config.setRsList("127.0.0.1:2882:2881"); config.setUsername("user@tenant"); config.setPassword("password"); config.setStartTimestamp(0L); config.setTableWhiteList("tenant.*.*"); ``` 如果使用企业版 OceanBase,可以参考如下配置: ```java ObReaderConfig config = new ObReaderConfig(); config.setClusterUrl("http://127.0.0.1:8080/services?Action=ObRootServiceInfo&User_ID=alibaba&UID=ocpmaster&ObRegion=tenant"); config.setUsername("user@tenant"); config.setPassword("password"); config.setStartTimestamp(0L); config.setTableWhiteList("tenant.*.*"); ``` `ObReaderConfig` 配置完成后,就可以创建 LogProxy 客户端实例并开始监听数据变动了。 ```java LogProxyClient client = new LogProxyClient("127.0.0.1", 2983, config); // 绑定一个处理日志数据的 RecordListener client.addListener(new RecordListener() { @Override public void notify(LogMessage message){ // 在此添加数据处理逻辑 } @Override public void onException(LogProxyClientException e) { logger.error(e.getMessage()); } }); client.start(); client.join(); ``` 调用函数 `LogProxyClient.start()` 会启动一个新的线程,该线程将使用 Netty 建立一个到 LogProxy 的连接,并通过该连接接收日志数据。 LogProxy 客户端还可以通过 `ClientConf` 配置一些客户端行为相关的参数,如下所示是一个使用自定义 `ClientConf` 的例子: ```java ClientConf clientConf = ClientConf.builder() .clientId("myClientId") .transferQueueSize(1024) .connectTimeoutMs(1000) .readWaitTimeMs(1000) .retryIntervalS(1) .maxReconnectTimes(10) .idleTimeoutS(10) .nettyDiscardAfterReads(1) .ignoreUnknownRecordType(true) .build(); LogProxyClient client = new LogProxyClient("127.0.0.1", 2983, config, clientConf); ``` 客户端会将接收到的日志数据转为 `LogMessage`,更多信息可以参考 [LogMessage 介绍](../formats/logmessage-cn.md)。 完整的使用示例可以参考 [LogProxyClientTest.java](../../oblogclient-logproxy/src/test/java/com/oceanbase/clogproxy/client/LogProxyClientTest.java)。 ### SSL 验证 如果 LogProxy 开启了 SSL 验证,在启动 LogProxy 客户端时将需要配置 [SslContext](https://netty.io/4.1/api/io/netty/handler/ssl/SslContext.html): ```java SslContext sslContext = SslContextBuilder.forClient() .sslProvider(SslContext.defaultClientProvider()) .trustManager(this.getClass().getClassLoader().getResourceAsStream("ca.crt")) .keyManager( this.getClass().getClassLoader().getResourceAsStream("client.crt"), this.getClass().getClassLoader().getResourceAsStream("client.key")) .build(); ClientConf clientConf = ClientConf.builder().sslContext(sslContext).build(); LogProxyClient client = new LogProxyClient("127.0.0.1", 2983, config, clientConf); ``` ### 版本兼容性 ##### 数据压缩 LogProxy 社区版从 1.0.1 开始默认会对发送到客户端的数据进行压缩,正确解压缩需要使用客户端 1.0.4 或之后的版本。 ##### 使用 Client ID LogProxy 使用 `ClientConf` 中的 `clientId` 来区分不同的连接,若想在并发环境下使用本客户端,或者想复用 clientId,需要使用客户端 1.0.4 或之后的版本。 ## 问题排查 当 LogProxy 与客户端之间的连接建立成功后,LogProxy 将会开始向客户端发送日志数据,这里的日志数据主要有心跳和数据变动两类。也就是说,及时数据库在监听范围内没有变动,LogProxy 客户端也应当能收到心跳类型的数据。 如果 LogProxy 客户端启动后,没有报错信息出现,也没有收到任何数据,这时候为了确定问题出现的原因,需要查看 LogProxy 对应的 LogReader 子进程的状态,相关的信息在 LogProxy 部署目录的 `run/{clientId}/`。