Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
taosdata
TDengine
提交
b6c3ef5b
T
TDengine
项目概览
taosdata
/
TDengine
1 年多 前同步成功
通知
1185
Star
22016
Fork
4786
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
1
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
T
TDengine
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
1
Issue
1
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
b6c3ef5b
编写于
3月 02, 2021
作者:
H
haojun Liao
提交者:
GitHub
3月 02, 2021
浏览文件
操作
浏览文件
下载
差异文件
Merge pull request #5310 from taosdata/feature/query
[td-3016] <fix>: fix sum error for unsigned data type.
上级
159ed39c
5fdb5567
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
21 addition
and
14 deletion
+21
-14
src/query/src/qAggMain.c
src/query/src/qAggMain.c
+21
-14
未找到文件。
src/query/src/qAggMain.c
浏览文件 @
b6c3ef5b
...
...
@@ -92,8 +92,9 @@ typedef struct SSpreadInfo {
typedef
struct
SSumInfo
{
union
{
int64_t
isum
;
double
dsum
;
int64_t
isum
;
uint64_t
usum
;
double
dsum
;
};
int8_t
hasResult
;
}
SSumInfo
;
...
...
@@ -595,6 +596,18 @@ static void do_sum_f(SQLFunctionCtx *pCtx, int32_t index) {
*
res
+=
GET_INT32_VAL
(
pData
);
}
else
if
(
pCtx
->
inputType
==
TSDB_DATA_TYPE_BIGINT
)
{
*
res
+=
GET_INT64_VAL
(
pData
);
}
else
if
(
pCtx
->
inputType
==
TSDB_DATA_TYPE_UTINYINT
)
{
uint64_t
*
r
=
(
uint64_t
*
)
pCtx
->
pOutput
;
*
r
+=
GET_UINT8_VAL
(
pData
);
}
else
if
(
pCtx
->
inputType
==
TSDB_DATA_TYPE_USMALLINT
)
{
uint64_t
*
r
=
(
uint64_t
*
)
pCtx
->
pOutput
;
*
r
+=
GET_UINT16_VAL
(
pData
);
}
else
if
(
pCtx
->
inputType
==
TSDB_DATA_TYPE_UINT
)
{
uint64_t
*
r
=
(
uint64_t
*
)
pCtx
->
pOutput
;
*
r
+=
GET_UINT32_VAL
(
pData
);
}
else
if
(
pCtx
->
inputType
==
TSDB_DATA_TYPE_UBIGINT
)
{
uint64_t
*
r
=
(
uint64_t
*
)
pCtx
->
pOutput
;
*
r
+=
GET_UINT64_VAL
(
pData
);
}
else
if
(
pCtx
->
inputType
==
TSDB_DATA_TYPE_DOUBLE
)
{
double
*
retVal
=
(
double
*
)
pCtx
->
pOutput
;
*
retVal
+=
GET_DOUBLE_VAL
(
pData
);
...
...
@@ -644,18 +657,12 @@ static void sum_func_merge(SQLFunctionCtx *pCtx) {
notNullElems
++
;
switch
(
type
)
{
case
TSDB_DATA_TYPE_TINYINT
:
case
TSDB_DATA_TYPE_SMALLINT
:
case
TSDB_DATA_TYPE_INT
:
case
TSDB_DATA_TYPE_BIGINT
:
{
*
(
int64_t
*
)
pCtx
->
pOutput
+=
pInput
->
isum
;
break
;
};
case
TSDB_DATA_TYPE_FLOAT
:
case
TSDB_DATA_TYPE_DOUBLE
:
{
*
(
double
*
)
pCtx
->
pOutput
+=
pInput
->
dsum
;
}
if
(
IS_SIGNED_NUMERIC_TYPE
(
type
))
{
*
(
int64_t
*
)
pCtx
->
pOutput
+=
pInput
->
isum
;
}
else
if
(
IS_UNSIGNED_NUMERIC_TYPE
(
type
))
{
*
(
uint64_t
*
)
pCtx
->
pOutput
+=
pInput
->
usum
;
}
else
{
*
(
double
*
)
pCtx
->
pOutput
+=
pInput
->
dsum
;
}
}
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录