-
题名高能物理大数据挑战与海量事例特征索引技术研究
被引量：8
- 1
-
-
作者
程耀东
张潇
王培建
查礼
侯迪
齐勇
马灿
-
机构
中国科学院高能物理研究所
西安交通大学计算机科学与技术系
中国科学院计算技术研究所
中国科学院信息工程研究所
-
出处
《计算机研究与发展》
EI
CSCD
北大核心
2017年第2期258-266,共9页
-
基金
国家重点研发计划项目(2016YFB1000604)~~
-
文摘
新一代高能物理实验装置的建成与运行,产生了PB乃至EB量级的数据,这对数据采集、存储、传输与共享、分析与处理等数据管理技术提出了巨大挑战.事例是高能物理实验的基本数据单元,一次大型实验即可产生万亿级的事例.传统高能物理数据处理以ROOT文件为基本存储和处理单位,每个ROOT文件可以包含数千至数亿个事例.这种基于文件的处理方式虽然降低了高能物理数据管理系统的开发难度,但物理分析仅对极少量的稀有事例感兴趣,这导致了数据传输量大、I?O瓶颈以及数据处理效率低等问题.提出一种面向事例的高能物理数据管理方法,重点研究海量事例特征高效索引技术.在这种方法中,将物理学家感兴趣的事例的特征量抽取出来建立专门的索引,存储在NoSQL数据库中.为便于物理分析处理,事例的原始数据仍然存放在ROOT文件中.最后,通过系统验证和分析表明,基于事例特征索引进行事例筛选是可行的,优化后的HBase系统可以满足事例索引的需求.
-
关键词
高能物理
数据管理
事例索引
HBASE
查询优化
-
Keywords
high energy physics
data management
event index
HBase
query optimization
-
分类号
TP311.133
[自动化与计算机技术—计算机软件与理论]
-
