高性能计算节点中的同步操作加速引擎设计

留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

高性能计算节点中的同步操作加速引擎设计

陈飞, 曹政, 王凯, 胡农达, 安学军

文章导航 > 电子科技大学学报 > 2012 > 41(1): 92-97

陈飞, 曹政, 王凯, 胡农达, 安学军. 高性能计算节点中的同步操作加速引擎设计[J]. 电子科技大学学报, 2012, 41(1): 92-97. doi: 10.3969/j.issn.1001-0548.2012.01.018

引用本文:

陈飞, 曹政, 王凯, 胡农达, 安学军. 高性能计算节点中的同步操作加速引擎设计[J]. 电子科技大学学报, 2012, 41(1): 92-97. doi: 10.3969/j.issn.1001-0548.2012.01.018

CHEN Fei, CAO Zheng, WANG Kai, HU Nong-da, AN Xue-jun. Design of Synchronization Accelerator in HPC Computing Node[J]. Journal of University of Electronic Science and Technology of China, 2012, 41(1): 92-97. doi: 10.3969/j.issn.1001-0548.2012.01.018

Citation:

CHEN Fei, CAO Zheng, WANG Kai, HU Nong-da, AN Xue-jun. Design of Synchronization Accelerator in HPC Computing Node[J]. Journal of University of Electronic Science and Technology of China, 2012, 41(1): 92-97. doi: 10.3969/j.issn.1001-0548.2012.01.018

高性能计算节点中的同步操作加速引擎设计

doi: 10.3969/j.issn.1001-0548.2012.01.018

1.
中国科学院计算技术研究所北京海淀区 100190

基金项目:

国家863计划(2009AA01A129);国家自然科学基金(61100014)

作者简介:
陈飞(1981-),男,博士,主要从事计算机体系结构和高性能互连网络方面的研究.

中图分类号: TP303

Design of Synchronization Accelerator in HPC Computing Node

1.
Institute of Computing Technology,Chinese Academy of Science Haidian Beijing 100190

摘要: 随着GPU等加速部件在超级计算领域的广泛应用,超级计算机单个节点的硬件并行度比单核时代高几倍甚至几十倍。在该环境下,并行应用于单个芯片、计算节点内和计算节点间的通信密度较单核时代急剧增加,通信瓶颈问题愈发突出。为应对高并行度带来的通信瓶颈问题,提出一种同步引擎的硬件设计,该同步引擎可有效地支持和加速计算节点内多任务间频繁小数据量传输(细粒度同步)以及计算节点内和节点间的Barrier、All-reduce集合操作,进而加速并行应用的性能。测试结果表明,在16进程规模下的集合操作测试中,同步引擎相比传统的软件实现有约4倍的加速,在三角矩阵分解(LU分解)测试程序中可以获得约20%的性能提升。
- 集合操作 /
- 通信系统 /
- 计算节点 /
- 细粒度同步 /
- 高性能计算机 /
- 混合编程 /
- 消息传递
Abstract: With the widely use of acceleration devices, hardware parallelism of single hybrid programming computer (HPC) node has increased many. As a result, both on-chip communication and inter-node communication become more and more frequently. Apparently, communication is becoming the bottleneck of system performance. This paper proposes a design of hardware module called synchronization accelerator to accelerate synchronization communication patterns. These patterns include fine-grain synchronization, barrier, and all-reduce. At the scale of 16 processes, synchronization accelerator can achieve about 4 times speedup than software-based collective operations. Also, the performance of benchmark LU can achieve 20% improvement with the use of synchronization accelerator.
- collective operation /
- communication system /
- computing node /
- fine-grain synchronization /
- high performance computer /
- hybrid programming /
- message passing

[1]	张瑜, 刘庆中, 石元泉, 曹均阔. 受基因理论启发的计算机病毒进化模型 . 电子科技大学学报, 2018, 47(6): 888-894. doi: 10.3969/j.issn.1001-0548.2018.06.014
[2]	王丹琛, 张仕斌, 徐扬, 许宁. 基于业务用户行为的计算机动态取证评估模型研究 . 电子科技大学学报, 2015, 44(6): 921-927. doi: 10.3969/j.issn.1001-0548.2015.06.022
[3]	于俊洋, 胡志刚, 周舟, 杨柳. 计算机系统能耗估量模型研究 . 电子科技大学学报, 2015, 44(3): 422-427. doi: 10.3969/j.issn.1001-0548.2015.03.018
[4]	李静茹, 喻莉, 赵佳. 加权社交网络节点中心性计算模型 . 电子科技大学学报, 2014, 43(3): 322-328. doi: 10.3969/j.issn.1001-0548.2014.03.001
[5]	尼玛扎西, 李志蜀, 拥措, 群诺, 普顿. 实现计算机藏文快速输入的关键问题研究 . 电子科技大学学报, 2009, 38(1): 102-107.
[6]	李献礼, 陈业纲. FP-array在计算机犯罪挖掘中的应用 . 电子科技大学学报, 2009, 38(4): 592-595. doi: 10.3969/j.issn.1001-0548.2009.04.027
[7]	顾小卫, 蒙林, 李家胤, 孙宜琴, 于新华. 微空心阴极放电的计算机模拟 . 电子科技大学学报, 2009, 38(2): 236-239. doi: 10.3969/j.issn.1001-0548.2009.02.19
[8]	张瑜, 李涛, 吴丽华, 彭小宁, 覃仁超. 计算机病毒演化模型及分析 . 电子科技大学学报, 2009, 38(3): 419-422. doi: 10.3969/j.issn.1001-0548.2009.03.024
[9]	黄志奇, 陈东义, 王厚军. 适于可穿戴计算机点击操作的图标尺寸研究 . 电子科技大学学报, 2009, 38(6): 979-982. doi: 10.3969/j.issn.1001-0548.2009.06.018
[10]	何定润, 刘晓云, 陈东义. 基于可穿戴计算机电源管理的蚁群算法 . 电子科技大学学报, 2007, 36(2): 271-274.
[11]	余波, 吉雷, 王永强, 曹志峰. 水轮发电机组计算机监控实时仿真系统的实现 . 电子科技大学学报, 2006, 35(4): 518-520,537.
[12]	赵晓云, 杨华军, 邱昆. 三维信息存储读出信号振幅的计算机仿真 . 电子科技大学学报, 2005, 34(5): 692-695.
[13]	廖平, 杨中海, 廖莉. 毫米波行波管电子光学系统计算机模拟 . 电子科技大学学报, 2005, 34(6): 794-797.
[14]	倪继烈. 一种微波波导电缆拉制机用计算机控制系统 . 电子科技大学学报, 2000, 29(5): 522-524.
[15]	徐洁, 关蓉娟. 《计算机组成原理》多媒体CAI软件的设计与制作 . 电子科技大学学报, 1998, 27(2): 177-180.
[16]	李迅波, 陈光. 机床主轴回转误差计算机辅助测试 . 电子科技大学学报, 1998, 27(2): 151-155.
[17]	刘心松. 基于程控纵横交换开关直通的计算机系统 . 电子科技大学学报, 1998, 27(1): 83-89.
[18]	熊金涛, 周玉光. 空间光通信控制计算机接口设计 . 电子科技大学学报, 1998, 27(5): 522-525.
[19]	张蓉, 兰家隆. 符号网络分析算法及计算机实现 . 电子科技大学学报, 1997, 26(2): 126-131.
[20]	刘乃琦, 左志宏. 计算机病毒对抗技术CVCM . 电子科技大学学报, 1997, 26(3): 283-288.

WeChat

点击查看大图

计量

文章访问数: 4265
HTML全文浏览量: 121
PDF下载量: 57
被引次数: 0

高性能计算节点中的同步操作加速引擎设计

doi: 10.3969/j.issn.1001-0548.2012.01.018

1. 中国科学院计算技术研究所北京海淀区 100190

基金项目:

国家863计划(2009AA01A129);国家自然科学基金(61100014)

作者简介:
陈飞(1981-),男,博士,主要从事计算机体系结构和高性能互连网络方面的研究.

收稿日期: 2011-07-15
修回日期: 2011-11-15
刊出日期: 2012-02-15

中图分类号: TP303

关键词:

摘要: 随着GPU等加速部件在超级计算领域的广泛应用,超级计算机单个节点的硬件并行度比单核时代高几倍甚至几十倍。在该环境下,并行应用于单个芯片、计算节点内和计算节点间的通信密度较单核时代急剧增加,通信瓶颈问题愈发突出。为应对高并行度带来的通信瓶颈问题,提出一种同步引擎的硬件设计,该同步引擎可有效地支持和加速计算节点内多任务间频繁小数据量传输(细粒度同步)以及计算节点内和节点间的Barrier、All-reduce集合操作,进而加速并行应用的性能。测试结果表明,在16进程规模下的集合操作测试中,同步引擎相比传统的软件实现有约4倍的加速,在三角矩阵分解(LU分解)测试程序中可以获得约20%的性能提升。

English Abstract

陈飞, 曹政, 王凯, 胡农达, 安学军. 高性能计算节点中的同步操作加速引擎设计[J]. 电子科技大学学报, 2012, 41(1): 92-97. doi: 10.3969/j.issn.1001-0548.2012.01.018

引用本文:

陈飞, 曹政, 王凯, 胡农达, 安学军. 高性能计算节点中的同步操作加速引擎设计[J]. 电子科技大学学报, 2012, 41(1): 92-97. doi: 10.3969/j.issn.1001-0548.2012.01.018

CHEN Fei, CAO Zheng, WANG Kai, HU Nong-da, AN Xue-jun. Design of Synchronization Accelerator in HPC Computing Node[J]. Journal of University of Electronic Science and Technology of China, 2012, 41(1): 92-97. doi: 10.3969/j.issn.1001-0548.2012.01.018

Citation:

CHEN Fei, CAO Zheng, WANG Kai, HU Nong-da, AN Xue-jun. Design of Synchronization Accelerator in HPC Computing Node[J]. Journal of University of Electronic Science and Technology of China, 2012, 41(1): 92-97. doi: 10.3969/j.issn.1001-0548.2012.01.018

全文HTML

/

下载: 全尺寸图片幻灯片

分享

用微信扫码二维码

分享至好友和朋友圈

返回

期刊在线

编辑办公

友情链接

电子科技大学

版权所有 © 《电子科技大学学报》编辑部

地址: 成都市建设北路二段四号电子科技大学主楼中350室电话: 028-83202308,83207559 Email: xuebao@uestc.edu.cn

本系统由北京仁和汇智信息技术有限公司开发