网易首页 > 网易号 > 正文 申请入驻

数据分析的“进阶”

0
分享至

在长大桥梁的运营与养护中,发挥桥梁结构健康监测系统的作用相当重要。为了使系统能够满足实时分析、实时预测的要求,必须不断提升系统的技术水平,采用当前最新的技术来增强系统的功能与效率。时间序列数据库是近期大数据分析中使用最多的非关系型数据库,为时间序列数据分析与预测的基础,将其应用到结构健康监测系统之中则是十分必要的。

国内的公路桥梁结构监测系统开发始于十几年前,当时计算机软件行业只有ORACLE、SQL server等关系型数据库,时间序列数据库尚未问世,更无文本及图形类型的数据库,而后面这几类对于监测系统而言,恰恰是不可或缺的。

技术人员通过摸索和实践,研究开发了公路桥梁监测数据平台关键结构——时间序列数据库(TSDB),提升系统技术与作用,取得成果。

健康监测的数据疑难

对桥梁结构安全的分析与预测是监测系统最重要的功能,具体体现在系统进行实时数据采集、实时分析以及实时预测。系统每年运行365天,每天24小时不间断采集各种传感器的数据,而这些监测的数据是时间序列类型,并不属于关系型数据。

由于目前国内健康监测系统中普遍采用二进制文件方式存储时间序列数据,所以存在下列问题。

文件替代存硬伤

因当年成熟的非关系型数据库系统尚未问世,国内系统开发商普遍使用二进制时序数据文件代替时间序列数据库,以文本文件代替文本数据库,甚至还偶有使用关系型数据库来代替时序数据库的方式,虽然解决了系统的需求问题,但暴露出几个缺点:

1.由于数据文件及软件由各开发商自行编制,系统不成熟且不够完善,数据文件功能较差;

2. 数据文件按时间间隔定期存储(比如每个传感器每小时一个文件),无法实时进行分析与预测,只能离线加以处理;

3. 由于进行文件传输,数据文件和文本文件在网络中传送存在速度慢、效力低,甚至停滞现象。这些问题长期得不到解决,使系统的作用变得很差。

未设分析与预测功能

目前国内的大部分监测系统未开设分析与预测功能。一方面,如今的数据分析主要由人工完成,尚未实现在第一时间对突发事件进行评估与分析。另一方面,数据分析主要基于数据本身,还无法与桥梁物理模型进行智能融合。要实现这些功能,就需要应用时间序列理论与算法,编制软件在系统中运行。

缺乏统一标准

由于各家开发商的软件均为自行开发,所建立的也是单桥系统。而各桥结构各异,需求不同,所以软件也是五花八门,存在很大差异。而桥梁集群化管理的理念已在业内达成共识,未来将逐步实现全省一张网,乃至全国一张网的运行模式,所以建立统一的数据平台至关重要。

建立数据平台的统一标准就是要使数据结构保持一致,即需要对时间序列数据库进行统一定义,让其结构均保持一致。

把握大数据分析的起点

时间序列数据库主要用于处理带时间标签(按照时间的顺序变化,即时间序列化)的数据。数据采集、存储与传输是监测系统最基础的工作,也是保障数据质量的关键。它具有数据量大、速度快、分布广的特点,每个数据都能做到实时采集、实时存储及实时传送。此外,每座大桥一般都拥有成千上百个传感器,平台则能涵盖几十座、甚至上百座以上大桥。

时序数据库结构

健康监测系统的时间序列数据库结构主要包括两个重要部分:时间戳(timestamp)以及采样值(sample value),这两个部分数值的大小、长短以及类型可依据实际需求设定。数据库结构与存储请参见图1、图2及图3。

图1 时间序列数据库数据结构示意图

图2 时间序列数据库传感器表结构示意图

图3 时间序列数据库传感器存储结构示意图

系统所采用开源的、高性能InfluxDB时序数据库软件(见图4),具有数据的高性能读写、高效存储与实时分析、生态丰富、功能强大等特性。

图4 InfluxDB数据库软件示意图

存储数据以传感器的实际采样频率为单位,具体传感器采集数据设置如图5所示(仅为部分举例)。

图5 使用时序数据库进行传感器采集数据设置示意图

数据的转化

将时序文件数据转化为数据库数据,以上是使用新的时序数据库设置的健康监测数据库结构,研究人员还需要将现有的健康监测系统时序数据文件转换成新的时序数据库。目前,国内大部分健康监测系统都通过设立时序文件的方法代替时序数据库,所采集的数据利用二进制文件进行存储,中间计算与处理信息、报警信息则使用文本文件存储。而对于少量使用关系型数据库存储时序数据的,本文就不再予以说明。

现有的二进制数据文件结构展示如图6所示。

图6 健康监测系统中二进制数据文件结构

目前,使用二进制数据文件存储结构时,首先在采集所用计算机磁盘上建立子目录,如:各传感器子目录等,然后在传感器子目录下设立“年子目录”,再在其下建“月子目录”,并依此类推开设“日子目录”“时子目录”。

以一个小时作为一个文件,如:零点零分零秒开始至零点五十九分五十九秒结束。

由图6可见,现有的数据文件结构已经非常接近时序数据库的结构,根据上述时序数据库配置,即可编制出转化软件,将原有健康监测系统采集的、多年的历史数据直接转换到时序数据库,并存储在其中。

时间序列数据库是建立长大桥梁健康监测大数据分析平台的基础。研究并开发出从单个桥梁健康监测系统到数据平台的时间序列数据库,以适应健康监测海量数据以及人工智能与大数据分析的需要。

智能化的未来

随着新技术不断升级与发展,时间序列数据库功能日渐强大,通过技术人员的研究与开发,使用时间序列数据库将大幅提高长大桥梁结构健康监测系统与数据平台的功效,让系统能够真正实现实时采集、实时存储、实时传输、实时分析等功能,测试应用已取得了喜人的成效。同时,由于时间序列数据本身具有的分析与预测功能,研究团队还做了大量时序数据预测尝试,建立了预测算法与模型,编制了软件,经过一段时间运行后,经过不断的改进模型与训练,使结构监测系统的人工智能化程度不断提高,也为管养工作进一步智能化起到更大推动作用。

最近Google发布了用于时间序列预测的可解释深度学习方法,其发表在“International Journal of Forecasting”上的“用于可解释多水平时间序列预测的时间融合变换器(TFT)”——一种基于注意力的深度学习模型,可用于多水平预测的 TFT,旨在将模型与通用多水平的预测任务有效匹配,以实现卓越的准确性和可解释性。目前,有关团队正在研究如何将其应用到系统中。

本文刊载 / 《大桥养护与运营》杂志

2022年 第2期 总第18期

作者 / 张立奎

作者单位 / 安徽省交通控股集团有限公司

编辑 / 陈晖

美编 / 赵雯

责编 / 陈晖

审校 / 李天颖 裴小吟 廖玲

联系人:李天颖

联系邮箱:xmt@bridgecn.org

联系电话:13552183635

联系人:黎伯阳

联系邮箱:xmt@bridgecn.org

联系电话:010-64282959-503 18601025686

联系人:穆玉

联系邮箱:xmt@bridgecn.org

联系电话:18910480043

稿件投递

联系人:裴小吟

联系邮箱:xmt@bridgecn.org

喜欢请转发吧!

原创稿件,转载请标明出处

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
俄空军遭遇滑铁卢,单日8架战机被毁伤,乌克兰粮食出口创新高

俄空军遭遇滑铁卢,单日8架战机被毁伤,乌克兰粮食出口创新高

史政先锋
2024-06-15 21:05:23
打的就是精锐!中国女排逆转土耳其女排,送巴西女排登顶世界第一

打的就是精锐!中国女排逆转土耳其女排,送巴西女排登顶世界第一

直播吧
2024-06-15 22:57:41
俄杜马主席:一些乌议员已开始讨论普京停火提议

俄杜马主席:一些乌议员已开始讨论普京停火提议

参考消息
2024-06-15 19:12:10
为何中国的制度成本远高于其他国家?

为何中国的制度成本远高于其他国家?

三农老历
2024-06-15 17:52:56
中国女排3-2土耳其女排!谁是赢球的最大功臣,赛后数据一目了然

中国女排3-2土耳其女排!谁是赢球的最大功臣,赛后数据一目了然

邹维体育
2024-06-15 23:10:51
大陆不再沉默,给黄仁勋上了一课,选在美收紧对华AI芯片出口之际

大陆不再沉默,给黄仁勋上了一课,选在美收紧对华AI芯片出口之际

陈菲副教授
2024-06-15 18:20:03
媒体人:欧洲杯现场广告都是真实的,没有采用虚拟广告技术

媒体人:欧洲杯现场广告都是真实的,没有采用虚拟广告技术

直播吧
2024-06-15 18:41:04
恶心!演都不演了! 直接照搬7年前剧情!他毁了NBA

恶心!演都不演了! 直接照搬7年前剧情!他毁了NBA

阿浪的篮球故事
2024-06-15 20:43:42
阿尔巴尼亚开场23秒闪击,欧洲杯历史最快进球诞生

阿尔巴尼亚开场23秒闪击,欧洲杯历史最快进球诞生

懂球帝
2024-06-16 03:13:12
深圳大鹏古城部分城墙发生倒塌,目击者:系雷电击中所致

深圳大鹏古城部分城墙发生倒塌,目击者:系雷电击中所致

西虹市闲话
2024-06-15 21:34:52
魔笛创纪录一战太失望!9战大赛第3人,被过成木桩仅获6.3分

魔笛创纪录一战太失望!9战大赛第3人,被过成木桩仅获6.3分

奥拜尔
2024-06-16 01:40:16
破案了!欧洲杯场边中文广告,只有国内观众看到?山羊君给出真相

破案了!欧洲杯场边中文广告,只有国内观众看到?山羊君给出真相

体育大学僧
2024-06-15 19:05:21
海淀这一板块最新规划出炉,新增4宗住宅用地,此前多年未推宅地

海淀这一板块最新规划出炉,新增4宗住宅用地,此前多年未推宅地

798守夜人
2024-06-14 19:55:25
最新确认:杭州明晚起反转!全省预警多到快挂不下了!

最新确认:杭州明晚起反转!全省预警多到快挂不下了!

明珠电视
2024-06-15 16:55:04
3-2大逆转!中国女排史诗一战,掀翻世界第1昂首出线,张常宁爆发

3-2大逆转!中国女排史诗一战,掀翻世界第1昂首出线,张常宁爆发

体坛纪录片
2024-06-15 22:41:36
欧洲杯,没人看了?

欧洲杯,没人看了?

中国新闻周刊
2024-06-14 22:15:43
欧洲杯战报 | 杜亚首秀就建功 瑞士3:1战胜匈牙利

欧洲杯战报 | 杜亚首秀就建功 瑞士3:1战胜匈牙利

上游新闻
2024-06-15 22:57:14
一针69.7万,医保谈判到3万!可澳洲184块,为何却说中国价最低?

一针69.7万,医保谈判到3万!可澳洲184块,为何却说中国价最低?

风起云间
2024-06-14 21:44:22
全跑光了,一家7口套现20亿,把公司卖给了17万股民

全跑光了,一家7口套现20亿,把公司卖给了17万股民

灰鸽观察室
2024-06-15 20:09:36
100个代表团与会,1000多万美元的开销

100个代表团与会,1000多万美元的开销

寰宇大观察
2024-06-15 15:45:20
2024-06-16 03:58:44
桥梁杂志
桥梁杂志
促进科技发展,传承桥梁文化
2842文章数 451关注度
往期回顾 全部

科技要闻

TikTok开始找退路了?

头条要闻

欧洲杯-亚马尔创纪录卡瓦哈尔首球 西班牙3-0克罗地亚

头条要闻

欧洲杯-亚马尔创纪录卡瓦哈尔首球 西班牙3-0克罗地亚

体育要闻

莱夫利,让困难为我让路

娱乐要闻

江宏杰秀儿女刺青,不怕刺激福原爱?

财经要闻

新情况!高层对人民币的态度180°转弯

汽车要闻

东风奕派eπ008售21.66万元 冰箱彩电都配齐

态度原创

艺术
本地
数码
游戏
军事航空

艺术要闻

穿越时空的艺术:《马可·波罗》AI沉浸影片探索人类文明

本地新闻

粽情一夏|海河龙舟赛,竟然成了外国人的大party!

数码要闻

低至 5747 元,爱普生 CH-TW6280T 真 4K 投影仪京东大促

魂师对决:SP唐昊返场抽取价值分析!真身幻金真是一个都少不了!

军事要闻

普京提停火和谈条件 美防长迅速回应

无障碍浏览 进入关怀版