大规模监测型时间序列历史数据的查询和分析关键技术研究

基本信息
批准号:61672163
项目类别:面上项目
资助金额:63.00
负责人:王鹏
学科分类:
依托单位:复旦大学
批准年份:2016
结题年份:2020
起止时间:2017-01-01 - 2020-12-31
项目状态: 已结题
项目参与者:施伯乐,李秋虹,赵郁亮,王金华,冯科峰,汪雅雯,杨峰,郑诚
关键词:
大数据分析平台时间序列事件识别数据模型查询处理
结项摘要

The rapid development of new technologies, such as sensor networks, Industry 4.0, cloud data centers and the mobile Internet, has boosted the growing popularity of monitoring applications, accumulating massive monitoring time series data. The crux of utilizing these data is the construction of corresponding distributed data management platform, based on which we can query, analyze and manage them efficiently. Meanwhile in monitoring applications, the target data holds the feature of being complicated, heterogeneous, large-scale and low-quality, which presents a big challenge to the management, query process and analysis. Based on real applications such as bridge health monitoring system, the project aims at the researches in the following four aspects, the uniformed representation data model, data management method, query process and analysis. The main technique contributions are the uniformed representation model of query criteria, the subsequence similarity query based on digest information, the complex query processing and optimization on time series data and the modeling and event recognition technologies of high-dimension time series data. The project is of important application value and academic value to the processing of monitoring data and the query analysis of big data.

传感器网络和物联网、工业4.0、云数据中心、移动互联网等新技术的快速发展推动了监测型应用的快速发展,并迅速积累了海量的监测型时间序列历史数据。构建相应的分布式数据管理平台,并在此基础之上进行高效的查询和分析处理,是亟需解决的问题。而监测型应用中,被监测对象结构复杂多样、并且其数据具有海量、异构、低质等特性,这些特点为数据的管理、查询和分析提出了巨大的挑战。本项目基于桥梁健康监测等实际应用需求,从统一的数据表示模型、数据组织方式、查询处理和分析处理四个方面展开研究。项目主要创新点包括:数据的统一表示模型、基于多粒度数据的查询处理、时间序列数据上的复杂查询处理、高维时间序列数据的建模和事件识别技术。项目的研究成果对于监测型数据处理和大数据查询分析领域具有理论和应用价值。

项目摘要

传感器网络和物联网、工业4.0、云数据中心、移动互联网等新技术的快速发展推动了监测型应用的快速发展,并迅速积累了海量的监测型时间序列历史数据。数据具有海量、异构、低质等特性,这些特点为数据的管理、查询和分析提出了巨大的挑战。项目组在时间序列数据管理、查询处理和分析等多个方面获得了多项成果。在数据管理方面,提出了多维序列压缩方法,并参与了Apache项目时间序列数据库的研发;在查询处理方面,提出了基于序列相似性的查询处理方法KV-match、应用于HBase的多窗口查询处理方法,以及基于值的查询处理方法DSI。在时间序列分析方面,提出了时间序列分类算法、聚类算法、关联分析算法、状态切分算法。成果应用于高铁、卫星、桥梁等多个领域。..项目发表论文12篇,其中包括CCF A类论文2篇,B类论文4篇。项目重要成果包括:.1.时间序列相似性查询算法KV-match。其通过对传统的支持标准化后欧式距离(或DTW距离)进行改造,使得可以通过构建索引的方式来支持对标准化子序列的相似性查询处理。并且,KV-match实现了构建单一索引来支持RSM-ED、RSM-DTW、cNSM-ED、NSM-DTW这四种查询。KV-match发表于ICDE 2019,并被实现到Apache项目IoTDB中,使得IoTDB称为唯一支持序列相似性查询的时间序列数据库。.2.时间序列分类算法ELIS。时间序列分类是时间序列分析领域的热点问题,近年来基于shapelet的分类方法被研究者广泛关注,其核心问题是如何高效获得高质量的shapelet。项目组提出了一种两阶段方法,第一阶段在大搜索空间中快速得到高质量的候选shapelet,第二阶段通过机器学习方法对候选shapelet进行微调,进一步提高其精度。实验证明,ELIS方法的准确性优于目前同类算法。该项工作被发表于ICDE 2018。后续项目组对其进行扩展,进一步提高其准确性,成果被期刊WWW Journal录用。..项目也取得了较好的社会影响力。由于申请人在时间序列数据查询处理方面的工作,申请人被邀请参加了2019年在德国举办的题为“Series Data Management”的达堡论坛(Dagstuhl Seminar)。项目成果应用于高铁的轨道异常检测、卫星地面测试中的故障发现、桥梁健康监测等领域。

项目成果
{{index+1}}

{{i.achievement_title}}

{{i.achievement_title}}

DOI:{{i.doi}}
发表时间:{{i.publish_year}}

暂无此项成果

数据更新时间:2023-05-31

其他相关文献

1

论大数据环境对情报学发展的影响

论大数据环境对情报学发展的影响

DOI:
发表时间:2017
2

环境类邻避设施对北京市住宅价格影响研究--以大型垃圾处理设施为例

环境类邻避设施对北京市住宅价格影响研究--以大型垃圾处理设施为例

DOI:10.11821/dlyj020190689
发表时间:2020
3

居住环境多维剥夺的地理识别及类型划分——以郑州主城区为例

居住环境多维剥夺的地理识别及类型划分——以郑州主城区为例

DOI:10.11821/dlyj201810008
发表时间:2018
4

基于细粒度词表示的命名实体识别研究

基于细粒度词表示的命名实体识别研究

DOI:10.3969/j.issn.1003-0077.2018.11.009
发表时间:2018
5

F_q上一类周期为2p~2的四元广义分圆序列的线性复杂度

F_q上一类周期为2p~2的四元广义分圆序列的线性复杂度

DOI:10.11999/JEIT210095
发表时间:2021

王鹏的其他基金

批准号:51105273
批准年份:2011
资助金额:26.00
项目类别:青年科学基金项目
批准号:81302810
批准年份:2013
资助金额:23.00
项目类别:青年科学基金项目
批准号:61204106
批准年份:2012
资助金额:27.00
项目类别:青年科学基金项目
批准号:61502264
批准年份:2015
资助金额:20.00
项目类别:青年科学基金项目
批准号:51375389
批准年份:2013
资助金额:80.00
项目类别:面上项目
批准号:20872068
批准年份:2008
资助金额:35.00
项目类别:面上项目
批准号:50773078
批准年份:2007
资助金额:35.00
项目类别:面上项目
批准号:60702001
批准年份:2007
资助金额:23.00
项目类别:青年科学基金项目
批准号:91748131
批准年份:2017
资助金额:63.00
项目类别:重大研究计划
批准号:21905233
批准年份:2019
资助金额:25.00
项目类别:青年科学基金项目
批准号:11262019
批准年份:2012
资助金额:55.00
项目类别:地区科学基金项目
批准号:41276125
批准年份:2012
资助金额:78.00
项目类别:面上项目
批准号:81871750
批准年份:2018
资助金额:57.00
项目类别:面上项目
批准号:11101184
批准年份:2011
资助金额:22.00
项目类别:青年科学基金项目
批准号:11874199
批准年份:2018
资助金额:63.00
项目类别:面上项目
批准号:81802135
批准年份:2018
资助金额:21.00
项目类别:青年科学基金项目
批准号:91013013
批准年份:2010
资助金额:65.00
项目类别:重大研究计划
批准号:51308269
批准年份:2013
资助金额:25.00
项目类别:青年科学基金项目
批准号:61100098
批准年份:2011
资助金额:23.00
项目类别:青年科学基金项目
批准号:51806029
批准年份:2018
资助金额:25.00
项目类别:青年科学基金项目
批准号:61905257
批准年份:2019
资助金额:24.00
项目类别:青年科学基金项目
批准号:11802177
批准年份:2018
资助金额:25.00
项目类别:青年科学基金项目
批准号:51304207
批准年份:2013
资助金额:25.00
项目类别:青年科学基金项目
批准号:50902133
批准年份:2009
资助金额:20.00
项目类别:青年科学基金项目
批准号:31400003
批准年份:2014
资助金额:25.00
项目类别:青年科学基金项目
批准号:81201995
批准年份:2012
资助金额:23.00
项目类别:青年科学基金项目
批准号:40606032
批准年份:2006
资助金额:28.00
项目类别:青年科学基金项目
批准号:31571769
批准年份:2015
资助金额:65.00
项目类别:面上项目
批准号:81572376
批准年份:2015
资助金额:65.00
项目类别:面上项目
批准号:50678045
批准年份:2006
资助金额:30.00
项目类别:面上项目
批准号:30470399
批准年份:2004
资助金额:20.00
项目类别:面上项目
批准号:11904194
批准年份:2019
资助金额:27.00
项目类别:青年科学基金项目
批准号:51779066
批准年份:2017
资助金额:60.00
项目类别:面上项目
批准号:U1533105
批准年份:2015
资助金额:23.00
项目类别:联合基金项目
批准号:61801211
批准年份:2018
资助金额:25.00
项目类别:青年科学基金项目
批准号:51478365
批准年份:2014
资助金额:84.00
项目类别:面上项目
批准号:51875466
批准年份:2018
资助金额:60.00
项目类别:面上项目
批准号:U1610121
批准年份:2016
资助金额:65.00
项目类别:联合基金项目
批准号:31271413
批准年份:2012
资助金额:80.00
项目类别:面上项目
批准号:51778499
批准年份:2017
资助金额:58.00
项目类别:面上项目
批准号:81501137
批准年份:2015
资助金额:17.50
项目类别:青年科学基金项目
批准号:51809052
批准年份:2018
资助金额:21.00
项目类别:青年科学基金项目
批准号:61905266
批准年份:2019
资助金额:23.00
项目类别:青年科学基金项目
批准号:60702075
批准年份:2007
资助金额:12.00
项目类别:青年科学基金项目
批准号:41171076
批准年份:2011
资助金额:45.00
项目类别:面上项目
批准号:41576079
批准年份:2015
资助金额:69.00
项目类别:面上项目
批准号:81501529
批准年份:2015
资助金额:18.00
项目类别:青年科学基金项目
批准号:50778053
批准年份:2007
资助金额:32.00
项目类别:面上项目
批准号:11902185
批准年份:2019
资助金额:27.00
项目类别:青年科学基金项目
批准号:20703067
批准年份:2007
资助金额:20.00
项目类别:青年科学基金项目
批准号:21572106
批准年份:2015
资助金额:65.00
项目类别:面上项目
批准号:51106088
批准年份:2011
资助金额:25.00
项目类别:青年科学基金项目
批准号:11805101
批准年份:2018
资助金额:26.00
项目类别:青年科学基金项目
批准号:81900024
批准年份:2019
资助金额:20.00
项目类别:青年科学基金项目
批准号:31601080
批准年份:2016
资助金额:22.00
项目类别:青年科学基金项目
批准号:51607067
批准年份:2016
资助金额:20.00
项目类别:青年科学基金项目
批准号:21277171
批准年份:2012
资助金额:80.00
项目类别:面上项目
批准号:21901250
批准年份:2019
资助金额:25.00
项目类别:青年科学基金项目
批准号:31501715
批准年份:2015
资助金额:20.00
项目类别:青年科学基金项目
批准号:71673112
批准年份:2016
资助金额:48.00
项目类别:面上项目
批准号:81370068
批准年份:2013
资助金额:80.00
项目类别:面上项目
批准号:51908249
批准年份:2019
资助金额:25.00
项目类别:青年科学基金项目
批准号:51407121
批准年份:2014
资助金额:24.00
项目类别:青年科学基金项目
批准号:81401850
批准年份:2014
资助金额:23.00
项目类别:青年科学基金项目
批准号:31702178
批准年份:2017
资助金额:23.00
项目类别:青年科学基金项目
批准号:51208383
批准年份:2012
资助金额:25.00
项目类别:青年科学基金项目
批准号:71202141
批准年份:2012
资助金额:20.50
项目类别:青年科学基金项目
批准号:51806018
批准年份:2018
资助金额:27.00
项目类别:青年科学基金项目
批准号:20572063
批准年份:2005
资助金额:26.00
项目类别:面上项目
批准号:11504207
批准年份:2015
资助金额:24.00
项目类别:青年科学基金项目
批准号:21677175
批准年份:2016
资助金额:66.00
项目类别:面上项目
批准号:11802292
批准年份:2018
资助金额:22.00
项目类别:青年科学基金项目
批准号:20707038
批准年份:2007
资助金额:20.00
项目类别:青年科学基金项目
批准号:31300494
批准年份:2013
资助金额:24.00
项目类别:青年科学基金项目
批准号:60903219
批准年份:2009
资助金额:17.00
项目类别:青年科学基金项目
批准号:41604099
批准年份:2016
资助金额:18.00
项目类别:青年科学基金项目
批准号:31200509
批准年份:2012
资助金额:23.00
项目类别:青年科学基金项目
批准号:31000337
批准年份:2010
资助金额:20.00
项目类别:青年科学基金项目
批准号:11571255
批准年份:2015
资助金额:45.00
项目类别:面上项目
批准号:51105122
批准年份:2011
资助金额:26.00
项目类别:青年科学基金项目
批准号:51808322
批准年份:2018
资助金额:25.00
项目类别:青年科学基金项目
批准号:41801381
批准年份:2018
资助金额:24.60
项目类别:青年科学基金项目
批准号:50973105
批准年份:2009
资助金额:40.00
项目类别:面上项目
批准号:51107064
批准年份:2011
资助金额:25.00
项目类别:青年科学基金项目
批准号:31101308
批准年份:2011
资助金额:27.00
项目类别:青年科学基金项目
批准号:50278023
批准年份:2002
资助金额:24.00
项目类别:面上项目
批准号:11875305
批准年份:2018
资助金额:66.00
项目类别:面上项目
批准号:51709127
批准年份:2017
资助金额:23.00
项目类别:青年科学基金项目
批准号:41776134
批准年份:2017
资助金额:72.00
项目类别:面上项目
批准号:11474147
批准年份:2014
资助金额:90.00
项目类别:面上项目
批准号:81871989
批准年份:2018
资助金额:55.00
项目类别:面上项目
批准号:11201340
批准年份:2012
资助金额:22.00
项目类别:青年科学基金项目
批准号:81673622
批准年份:2016
资助金额:58.00
项目类别:面上项目
批准号:31660043
批准年份:2016
资助金额:38.00
项目类别:地区科学基金项目
批准号:81900235
批准年份:2019
资助金额:21.00
项目类别:青年科学基金项目
批准号:61403414
批准年份:2014
资助金额:25.00
项目类别:青年科学基金项目
批准号:31301737
批准年份:2013
资助金额:23.00
项目类别:青年科学基金项目
批准号:61703387
批准年份:2017
资助金额:27.00
项目类别:青年科学基金项目
批准号:31700453
批准年份:2017
资助金额:24.00
项目类别:青年科学基金项目
批准号:61379097
批准年份:2013
资助金额:77.00
项目类别:面上项目
批准号:10926112
批准年份:2009
资助金额:3.00
项目类别:数学天元基金项目
批准号:41106069
批准年份:2011
资助金额:24.00
项目类别:青年科学基金项目
批准号:81871134
批准年份:2018
资助金额:57.00
项目类别:面上项目
批准号:41661017
批准年份:2016
资助金额:38.00
项目类别:地区科学基金项目
批准号:51603019
批准年份:2016
资助金额:20.00
项目类别:青年科学基金项目
批准号:71101119
批准年份:2011
资助金额:20.00
项目类别:青年科学基金项目
批准号:61303060
批准年份:2013
资助金额:23.00
项目类别:青年科学基金项目
批准号:21101099
批准年份:2011
资助金额:23.00
项目类别:青年科学基金项目
批准号:31800107
批准年份:2018
资助金额:26.00
项目类别:青年科学基金项目
批准号:51802176
批准年份:2018
资助金额:26.00
项目类别:青年科学基金项目
批准号:11772141
批准年份:2017
资助金额:62.00
项目类别:面上项目
批准号:21372130
批准年份:2013
资助金额:85.00
项目类别:面上项目
批准号:61702547
批准年份:2017
资助金额:23.00
项目类别:青年科学基金项目
批准号:81500433
批准年份:2015
资助金额:18.00
项目类别:青年科学基金项目
批准号:61272477
批准年份:2012
资助金额:80.00
项目类别:面上项目
批准号:31860191
批准年份:2018
资助金额:41.00
项目类别:地区科学基金项目
批准号:21673289
批准年份:2016
资助金额:65.00
项目类别:面上项目
批准号:21273282
批准年份:2012
资助金额:82.00
项目类别:面上项目
批准号:11005016
批准年份:2010
资助金额:18.00
项目类别:青年科学基金项目
批准号:11604116
批准年份:2016
资助金额:24.00
项目类别:青年科学基金项目
批准号:61905020
批准年份:2019
资助金额:20.00
项目类别:青年科学基金项目
批准号:41201033
批准年份:2012
资助金额:26.00
项目类别:青年科学基金项目
批准号:61773396
批准年份:2017
资助金额:64.00
项目类别:面上项目
批准号:31300260
批准年份:2013
资助金额:23.00
项目类别:青年科学基金项目
批准号:81001061
批准年份:2010
资助金额:21.00
项目类别:青年科学基金项目
批准号:31671380
批准年份:2016
资助金额:60.00
项目类别:面上项目
批准号:51775003
批准年份:2017
资助金额:60.00
项目类别:面上项目
批准号:11571028
批准年份:2015
资助金额:45.00
项目类别:面上项目
批准号:61103009
批准年份:2011
资助金额:24.00
项目类别:青年科学基金项目
批准号:61876152
批准年份:2018
资助金额:62.00
项目类别:面上项目
批准号:30701046
批准年份:2007
资助金额:16.00
项目类别:青年科学基金项目
批准号:91233206
批准年份:2012
资助金额:300.00
项目类别:重大研究计划
批准号:51673165
批准年份:2016
资助金额:65.00
项目类别:面上项目
批准号:59803007
批准年份:1998
资助金额:11.00
项目类别:青年科学基金项目
批准号:51704323
批准年份:2017
资助金额:25.00
项目类别:青年科学基金项目
批准号:71303255
批准年份:2013
资助金额:22.00
项目类别:青年科学基金项目
批准号:30901122
批准年份:2009
资助金额:21.00
项目类别:青年科学基金项目
批准号:10926158
批准年份:2009
资助金额:4.00
项目类别:数学天元基金项目
批准号:11475236
批准年份:2014
资助金额:92.00
项目类别:面上项目
批准号:21877063
批准年份:2018
资助金额:61.40
项目类别:面上项目
批准号:81600428
批准年份:2016
资助金额:19.00
项目类别:青年科学基金项目
批准号:21503024
批准年份:2015
资助金额:22.00
项目类别:青年科学基金项目
批准号:81160354
批准年份:2011
资助金额:50.00
项目类别:地区科学基金项目
批准号:31500484
批准年份:2015
资助金额:20.00
项目类别:青年科学基金项目

相似国自然基金

1

大规模最短路径查询关键技术研究

批准号:61702227
批准年份:2017
负责人:张得天
学科分类:F0202
资助金额:25.00
项目类别:青年科学基金项目
2

大规模图数据正则路径查询关键技术研究

批准号:60873062
批准年份:2008
负责人:高军
学科分类:F0202
资助金额:32.00
项目类别:面上项目
3

大规模空间关键字数据流中查询和订阅技术研究

批准号:61802345
批准年份:2018
负责人:王潇杨
学科分类:F0202
资助金额:25.00
项目类别:青年科学基金项目
4

大规模模糊RDF数据存储与查询关键技术研究

批准号:61772269
批准年份:2017
负责人:马宗民
学科分类:F0202
资助金额:62.00
项目类别:面上项目