网易首页 > 网易号 > 正文 申请入驻

周琛、李满春 等:破解有限算力约束下的地理大数据计算性能提升难题

0
分享至

近年来,地理大数据在数据维度、区域尺度、时空粒度及场景深度等方面持续深化发展,利用动态密集、连续大量产生的地理大数据开展复杂时空场景分析已成为地理信息领域的重要研究内容。复杂时空场景分析呈现出高精度、多尺度、广区域的发展态势,其蕴含的地理大数据实时采集、时空场景高并发计算请求、“云”“端”数据传输延迟等地理计算发展新特性,常引发信息丢失、算力不足、响应迟滞等问题,使得当前以云计算为主体的地理计算架构逐渐陷入中心化计算模式性能提升的困境,难以满足急速更迭的海量数据计算、复杂场景响应、实时请求处理等现实需求。面对复杂时空场景,地理大数据的实时计算响应效能的不足已成为制约其深入发展的首要因素。在此背景下,发展新型高性能地理计算体系、突破地理大数据实时计算响应效能瓶颈刻不容缓。

关于大规模、多尺度地理空间分析并行技术与方法的科学研究日益增多,越来越多的学者通过引入并行技术来突破传统单机平台对计算能力的约束,寻求对复杂地理空间分析过程的快速、准确求解,在矢量数据空间分析、栅格数据空间分析的并行技术研究方面均有不同程度的发展。研究合理、高效的负载均衡并行技术对大数据时代下的海量地理空间分析有着重要的推动意义。

目前存在的问题与不足,主要表现在以下几个方面:

①现有的并行方法对地理空间分析负载均衡并行策略的考虑较为粗略、单一,未能深入研究地理空间分析的数据特征、算法特征及计算粒度特征,因而取得的并行加速效果有限。

②在利用CPU、GPU对地理空间分析算法进行并行加速时,对适应 CPU/GPU 混合异构的负载均衡并行方法考虑较少。因此,提出一种能适用于海量地理空间数据的有效处理方法十分重要。

③CPU和GPU具有不同的计算模型和硬件架构特征,且CPU/GPU混合异构环境包含的节点计算能力差别可能较大。因此,设计一种合理的数据分配方法,根据并行计算节点包含的不同计算能力进行数据分配,才能有效保证混合异构环境中的负载均衡。

本书针对具有代表性的典型地理空间分析应用,从细粒度、多层次并行的角度分析算法特征及并行潜力,研究具有较强适应性和较高扩展性的负载均衡并行技术,从而实现高效的并行地理空间分析。具体而言,本书将根据空间数据的结构特征、地理空间分析类型的算法特征及并行计算环境的架构特征分别设计相适应的负载均衡并行方法。首先,通过研究空间数据特征,并根据算法原理进行数据复杂度分析,从而将空间数据分解成与不同计算阶段相适应的数据粒度,以实现数据层次的并行化。其次,深入研究地理空间分析算法原理,并将其分步骤进行分解;从而对各步骤分别设计包含不同计算粒度的并行策略,以实现算法层次的并行化。最后,通过研究不同并行计算硬件环境的架构特征,分别设计适用于多核 CPU 集群及众核 GPU 集群的并行策略,以实现计算环境层次的并行化。

具体包含以下研究内容:

(1)研究基于计算复杂度的矢量多边形空间分析负载均衡并行方法。研究矢量数据空间分析中的典型应用——矢量多边形空间分析包含的数据密集型和计算密集型空间分析的算法特征及其并行潜力,并结合矢量多边形的数据结构特征,针对不同并行计算过程分别设计多边形复杂度计算模型,以指导并行计算中的矢量多边形数据均衡分配。此外,设计复杂多边形粒度分解方法,根据不同多边形空间分析算法类型,将计算复杂的多边形对象进一步分解,从而进一步缓解数据倾斜引起的负载不均。
(2)研究顾及有效计算量的多粒度栅格空间分析负载均衡并行方法。研究局部型和全局型栅格数据空间分析算法特征,分别设计顾及有效计算量的栅格数据划分方法及动态任务并行调度策略。针对局部型空间分析类型,设计包含弯曲接缝线的不规则栅格数据划分方法及多粒度动态并行调度策略。针对全局型空间分析类型,首先设计考虑有效计算量的两阶段数据划分方法,使得节点内部的并行处理和节点之间的并行调度包含相适应的不同数据粒度,从而实现数据划分阶段的负载均衡;在并行执行过程中,设计抓取式的并行任务调度策略,进一步缓解并行计算中的负载失衡;在结果融合阶段,设计高效的结果融合策略以保证并行计算结果对象的完整。

(3)研究面向 CPU/GPU 混合架构的自适应负载均衡并行计算模型。通过深入讨并总结地理空间分析负载均衡并行技术的设计与实现涉及的不同层面,利用其代表性要素构建一种自适应的负载均衡并行计算模型,主要包含数据、算子、并行化方法、粒度和并行计算环境五个要素。为了使模型能够良好地适应于CPU/GPU 混合异构的并行计算环境, 分别研究多核 CPU 和众核 GPU 计算环境下的并行方法,以有效利用计算资源、处理地理大数据。分别设计串行算法快速并行化方法和自适应负载均衡方法,以实现对多数具有相同数据特征和计算特征的地理空间分析串行算法的快速并行化,并实现对 CPU/GPU 混合异构计算环境中不同算法类型和不同数据类型的良好适应性。采用面向对象和插件式开发的设计思想,进一步研发面向 CPU/GPU 混合架构的自适应负载均衡并行计算平台,实现模型从抽象的逻辑描述到具体应用的转化。

△ 研究技术路线图

本文摘编自《地理大数据并行计算负载均衡技术》一书,有删减,图片来源于该书,标题为编者所加。

《地理大数据并行计算负载均衡技术》

ISBN 978-7-03-077773-7

周 琛 李满春 陈振杰 余治欣 著

责任编辑:许 蕾

本书是在面向国家大数据与高质量发展等国家战略实施基础上,根据作者多年主持研究国家 863 计划项目、国家自然科学基金等重要科研项目的探索与实践总结而成。书中阐述了地理大数据并行计算的国内外研究进展, 着重介绍了基于计算复杂度的矢量多边形空间分析负载均衡并行方法、顾 及 有 效 计 算 量 的 多 粒 度 栅 格 空 间 分 析 负 载 均 衡 并 行 方 法 和 面 向CPU/GPU 混合架构的自适应负载均衡并行计算模型, 实现了混合算力协同负载均衡并行计算平台,破解了有限算力约束下的地理大数据计算性能提升难题。

本书可作为高等院校地理信息科学专业及相关专业本科生或研究生的参考用书,也可供科研机构和企事业单位从事地理大数据研究、开发、应用和管理工作的人员参考。

(本文编辑:洪弘)

地球为你而转!

欢迎关注:赛杰奥(sci_geo)

科学出版社地球科学订阅号

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
又是大胜!1-8月SUV销量:Model Y断层领先,钛7季军,途观L破10万

又是大胜!1-8月SUV销量:Model Y断层领先,钛7季军,途观L破10万

刘哥谈体育
2026-09-28 04:29:00
离谱!林诗栋赢球,现场挑衅支持林昀儒全网愤怒,众多大V鸣不平

离谱!林诗栋赢球,现场挑衅支持林昀儒全网愤怒,众多大V鸣不平

生活新鲜市
2026-09-30 01:29:17
霍尔木兹突传惊天巨响!10亿卫星杀手被轰下,美军拦截弹全见底

霍尔木兹突传惊天巨响!10亿卫星杀手被轰下,美军拦截弹全见底

观察者小海风
2026-09-26 09:41:50
中国专家早预言!美国必打伊朗,原因不止石油,下一目标也已锁定

中国专家早预言!美国必打伊朗,原因不止石油,下一目标也已锁定

蜉蝣说
2026-09-29 11:21:28
第33届金鹰奖,于和伟、宋佳再封帝后,梅婷拿奖感谢了杨紫,朱亚文获奖宋佳哭了

第33届金鹰奖,于和伟、宋佳再封帝后,梅婷拿奖感谢了杨紫,朱亚文获奖宋佳哭了

娱君坠星河
2026-09-29 22:41:53
杨紫没想到,金鹰奖获奖名单刚公布,宋佳就因一个举动口碑暴涨

杨紫没想到,金鹰奖获奖名单刚公布,宋佳就因一个举动口碑暴涨

新一说史
2026-09-30 01:24:02
中国将迎来前所未有的死亡高峰,专家得出答案:是这些因素导致的

中国将迎来前所未有的死亡高峰,专家得出答案:是这些因素导致的

混沌录
2026-05-28 22:53:01
全球惊愕!哈佛专家研究已证实:中国不是在崛起,而是在逐步回归

全球惊愕!哈佛专家研究已证实:中国不是在崛起,而是在逐步回归

史之韵
2026-09-23 10:30:24
许家印第二!又一“大佬”跑路被抓,诈骗989亿,超5万人血本无归

许家印第二!又一“大佬”跑路被抓,诈骗989亿,超5万人血本无归

牛牛叨史
2025-02-10 18:02:09
台选举生变,78岁洪秀柱再出山,创党元老已倒戈,沈伯洋出面救场

台选举生变,78岁洪秀柱再出山,创党元老已倒戈,沈伯洋出面救场

好贤观史记
2026-09-30 01:21:33
斩获生涯第54冠,安洗莹超越王莲香独居羽毛球女单历史第一

斩获生涯第54冠,安洗莹超越王莲香独居羽毛球女单历史第一

懂球帝
2026-09-29 16:06:06
碾压阿尔瓦雷斯!阿森纳酝酿史诗级引援!世界最佳完爆 1.5 亿神锋

碾压阿尔瓦雷斯!阿森纳酝酿史诗级引援!世界最佳完爆 1.5 亿神锋

澜归序
2026-09-29 08:53:51
2016年江苏深夜命案揭秘:30岁的小女孩有多好色?和情人玩角色扮演,结果把命搭进去了

2016年江苏深夜命案揭秘:30岁的小女孩有多好色?和情人玩角色扮演,结果把命搭进去了

法网恢恢
2026-09-27 21:36:26
已认命!青岛海牛降级成定局,后4轮随便踢,球员超市已开张

已认命!青岛海牛降级成定局,后4轮随便踢,球员超市已开张

过期少女致幻录
2026-09-29 12:33:33
柬埔寨反贪局披露中国籍电诈头目张建强资金链:涉2.5亿美元,通过25岁本地兑换商洗钱,并向乡长、移民警察转款行贿

柬埔寨反贪局披露中国籍电诈头目张建强资金链:涉2.5亿美元,通过25岁本地兑换商洗钱,并向乡长、移民警察转款行贿

大风新闻
2026-09-29 15:08:03
财政盈余1.1万亿!阿根廷这“烂车”,真让米莱从沟里开出来了?

财政盈余1.1万亿!阿根廷这“烂车”,真让米莱从沟里开出来了?

超喜欢我
2026-09-29 22:28:09
老人卖房替儿还贷百万元,儿子儿媳拿钱后与他断绝来往,老人起诉要钱,儿媳称微信说过“感谢爸爸鼎力相助”,足以说明钱是赠与;法院说法

老人卖房替儿还贷百万元,儿子儿媳拿钱后与他断绝来往,老人起诉要钱,儿媳称微信说过“感谢爸爸鼎力相助”,足以说明钱是赠与;法院说法

扬子晚报
2026-09-29 07:09:33
事业没了、婚也离了,被封5年后赵薇再曝近况,瘦到脱相不敢认

事业没了、婚也离了,被封5年后赵薇再曝近况,瘦到脱相不敢认

阿讯说天下
2026-08-30 06:10:34
刘欢豪宅一览表:装修值千万,客厅能容百人,有私家酒吧,从不请保姆

刘欢豪宅一览表:装修值千万,客厅能容百人,有私家酒吧,从不请保姆

火鱼观点
2026-09-27 19:25:53
32岁女生自述得艾滋病过程,原因是见了一次网友,如今十分后悔

32岁女生自述得艾滋病过程,原因是见了一次网友,如今十分后悔

千秋文化
2026-03-29 20:59:49
2026-09-30 05:40:49
赛杰奥 incentive-icons
赛杰奥
科学出版社地球科学公众号
2042文章数 1713关注度
往期回顾 全部

科技要闻

82亿美元收购!李飞飞将与苏姿丰并肩做AI

头条要闻

空姐双膝下跪“还被要求踹一脚” 现场画面流出

头条要闻

空姐双膝下跪“还被要求踹一脚” 现场画面流出

体育要闻

石雨豪:亚运金牌与背后的十年

娱乐要闻

赌王四房婚礼,何超琼带三房成员现身

财经要闻

央行调整完善若干货币政策工具

汽车要闻

搭华为乾崑ADS 5/设计风格换新 2027款纵横G700售30.49万起

态度原创

游戏
房产
时尚
旅游
本地

《GTA6》力求同时提升世界规模细节与互动密度

房产要闻

三亚楼市下半场,被一次交付和一座艺术馆讲透了

老板,我的脑子好像忘在家里了

旅游要闻

速来大报恩寺的“塔之长廊”,赴一场跨越千年的古塔之约

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

无障碍浏览 进入关怀版