Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
Tonvia
TDengine
提交
5fdb5567
T
TDengine
项目概览
Tonvia
/
TDengine
与 Fork 源项目一致
Fork自
taosdata / TDengine
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
T
TDengine
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
5fdb5567
编写于
3月 02, 2021
作者:
H
Haojun Liao
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
[td-3016] <fix>: fix sum error for unsigned data type.
上级
34412d8d
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
21 addition
and
14 deletion
+21
-14
src/query/src/qAggMain.c
src/query/src/qAggMain.c
+21
-14
未找到文件。
src/query/src/qAggMain.c
浏览文件 @
5fdb5567
...
...
@@ -92,8 +92,9 @@ typedef struct SSpreadInfo {
typedef
struct
SSumInfo
{
union
{
int64_t
isum
;
double
dsum
;
int64_t
isum
;
uint64_t
usum
;
double
dsum
;
};
int8_t
hasResult
;
}
SSumInfo
;
...
...
@@ -595,6 +596,18 @@ static void do_sum_f(SQLFunctionCtx *pCtx, int32_t index) {
*
res
+=
GET_INT32_VAL
(
pData
);
}
else
if
(
pCtx
->
inputType
==
TSDB_DATA_TYPE_BIGINT
)
{
*
res
+=
GET_INT64_VAL
(
pData
);
}
else
if
(
pCtx
->
inputType
==
TSDB_DATA_TYPE_UTINYINT
)
{
uint64_t
*
r
=
(
uint64_t
*
)
pCtx
->
pOutput
;
*
r
+=
GET_UINT8_VAL
(
pData
);
}
else
if
(
pCtx
->
inputType
==
TSDB_DATA_TYPE_USMALLINT
)
{
uint64_t
*
r
=
(
uint64_t
*
)
pCtx
->
pOutput
;
*
r
+=
GET_UINT16_VAL
(
pData
);
}
else
if
(
pCtx
->
inputType
==
TSDB_DATA_TYPE_UINT
)
{
uint64_t
*
r
=
(
uint64_t
*
)
pCtx
->
pOutput
;
*
r
+=
GET_UINT32_VAL
(
pData
);
}
else
if
(
pCtx
->
inputType
==
TSDB_DATA_TYPE_UBIGINT
)
{
uint64_t
*
r
=
(
uint64_t
*
)
pCtx
->
pOutput
;
*
r
+=
GET_UINT64_VAL
(
pData
);
}
else
if
(
pCtx
->
inputType
==
TSDB_DATA_TYPE_DOUBLE
)
{
double
*
retVal
=
(
double
*
)
pCtx
->
pOutput
;
*
retVal
+=
GET_DOUBLE_VAL
(
pData
);
...
...
@@ -644,18 +657,12 @@ static void sum_func_merge(SQLFunctionCtx *pCtx) {
notNullElems
++
;
switch
(
type
)
{
case
TSDB_DATA_TYPE_TINYINT
:
case
TSDB_DATA_TYPE_SMALLINT
:
case
TSDB_DATA_TYPE_INT
:
case
TSDB_DATA_TYPE_BIGINT
:
{
*
(
int64_t
*
)
pCtx
->
pOutput
+=
pInput
->
isum
;
break
;
};
case
TSDB_DATA_TYPE_FLOAT
:
case
TSDB_DATA_TYPE_DOUBLE
:
{
*
(
double
*
)
pCtx
->
pOutput
+=
pInput
->
dsum
;
}
if
(
IS_SIGNED_NUMERIC_TYPE
(
type
))
{
*
(
int64_t
*
)
pCtx
->
pOutput
+=
pInput
->
isum
;
}
else
if
(
IS_UNSIGNED_NUMERIC_TYPE
(
type
))
{
*
(
uint64_t
*
)
pCtx
->
pOutput
+=
pInput
->
usum
;
}
else
{
*
(
double
*
)
pCtx
->
pOutput
+=
pInput
->
dsum
;
}
}
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录