期刊文献+
共找到10篇文章
< 1 >
每页显示 20 50 100
基于Flume的XML数据自动收集系统 被引量:2
1
作者 张晓龙 《科学技术与工程》 北大核心 2013年第30期9061-9065,共5页
针对分布式系统中的数据收集,提出了一种基于Flume的XML数据自动收集系统。根据实际需求,系统设计了一种新型的多层星状拓扑结构,以满足数据收集实时性的要求。该系统能够自动检测指定存储位置的XML数据更新,解析XML文本后存储到HBase... 针对分布式系统中的数据收集,提出了一种基于Flume的XML数据自动收集系统。根据实际需求,系统设计了一种新型的多层星状拓扑结构,以满足数据收集实时性的要求。该系统能够自动检测指定存储位置的XML数据更新,解析XML文本后存储到HBase数据库中。在测试中,该系统中各机器的平均处理速度能够达到550 Kb/s,系统总处理平均速度能够达到1 650 Kb/s。 展开更多
关键词 flume XML 数据收集 HBASE
在线阅读 下载PDF
基于Apache Flume的MR数据采集实现方案 被引量:5
2
作者 周波 《电信科学》 2018年第S1期216-221,共6页
为用户提供高质量的网络覆盖是运营商不变的追求,随着4G业务的发展,作为网络质量分析重要依据的MR数据的数据体量也呈现出井喷式的增长势头。传统的以FTP技术为基础的MR数据采集方案面对越来越高的数据量显得力不从心。针对MR数据采集... 为用户提供高质量的网络覆盖是运营商不变的追求,随着4G业务的发展,作为网络质量分析重要依据的MR数据的数据体量也呈现出井喷式的增长势头。传统的以FTP技术为基础的MR数据采集方案面对越来越高的数据量显得力不从心。针对MR数据采集的业务场景,提出了基于Flume技术的数据采集实现方案,并针对海量数据的运行环境现行方案进行了对比。 展开更多
关键词 flume 数据采集 MR
在线阅读 下载PDF
一种基于Flume的海量数据分流方案 被引量:3
3
作者 周波 《电信科学》 北大核心 2016年第S1期220-225,共6页
随着各类业务系统接入数据量的爆炸式增长,传统的基于负载均衡器的数据分流方案已无法满足海量数据业务场景的要求。介绍了一种适用于大数据场景下的负载均衡方案,并讨论了和传统方式相比所具备的主要优势。
关键词 负载均衡 flume 大数据
在线阅读 下载PDF
分支河流体系沉积学工作框架与流程 被引量:5
4
作者 张昌民 张祥辉 +4 位作者 王庆 冯文杰 李少华 易雪斐 Adrian JHARTLEY 《岩性油气藏》 CAS CSCD 北大核心 2024年第1期1-13,共13页
基于现有的研究成果和存在的问题,探讨了分支河流体系(DFS)研究中的关键科学问题、主要研究内容、研究方法和工作流程。研究结果表明:①DFS研究中最关键的3个科学问题是明确河网结构和河型演变规律、构建沉积标志和沉积模式、分析其形... 基于现有的研究成果和存在的问题,探讨了分支河流体系(DFS)研究中的关键科学问题、主要研究内容、研究方法和工作流程。研究结果表明:①DFS研究中最关键的3个科学问题是明确河网结构和河型演变规律、构建沉积标志和沉积模式、分析其形成和分布的控制因素。②DFS研究的主要内容包括建设形态沉积学数据库、现代沉积机理研究、分类研究、建立沉积模式、储层建模与储层预测等5个方面。③DFS研究中的关键技术包括基于遥感图像的形态数据采集、形成机理的水槽和模拟实验、河网重构、顶点位置预测与河道分汊点自动生成方法、储层建模知识库平台等。④DFS研究的基本工作流程是先建立形态沉积学数据库,搭建数据库软件平台,在此基础上选择具有代表性的DFS进行现代沉积解剖,然后综合现代沉积调查、露头解剖和模拟实验成果,形成分类体系,总结各类DFS的识别标志和沉积模式,分层次建立储层预测模型,形成沉积结构储层预测模型的建模软件平台,从而预测沉积体系中有利储层的分布。 展开更多
关键词 分支河流体系 河网重构 储层建模 水槽沉积模拟 数据采集 DFS形态沉积学数据库
在线阅读 下载PDF
推移质输沙率公式的统一形式 被引量:18
5
作者 黄才安 奚斌 《水利水运科学研究》 CSCD 2000年第2期72-78,共7页
对以往的各种推移质输沙率公式中的水流强度指标进行了综合、归纳 ,提出了统一的水流强度指标形式 ,并由此推导出推移质输沙率公式的统一形式 .利用 75 7组实测水槽资料对该统一形式中的系数进行了率定 ,并与其它几个推移质输沙率公式... 对以往的各种推移质输沙率公式中的水流强度指标进行了综合、归纳 ,提出了统一的水流强度指标形式 ,并由此推导出推移质输沙率公式的统一形式 .利用 75 7组实测水槽资料对该统一形式中的系数进行了率定 ,并与其它几个推移质输沙率公式比较表明 。 展开更多
关键词 推移质 输沙率 水流强度指标 统一形式 水槽资料
在线阅读 下载PDF
基于WPF的水槽控制及数据采集系统设计与实现 被引量:5
6
作者 周琦 江春波 陈正兵 《实验技术与管理》 CAS 北大核心 2018年第3期78-83,共6页
以WPF为平台开发了一套水槽流量控制及数据采集与处理系统,通过RS485总线连接数据采集器和变频控制器,以Modbus RTU为通信协议,实现PC上位机图形界面软件与数据采集器的通信。采集系统可同步采集水位和流量数据,并得到频率-流量关系式... 以WPF为平台开发了一套水槽流量控制及数据采集与处理系统,通过RS485总线连接数据采集器和变频控制器,以Modbus RTU为通信协议,实现PC上位机图形界面软件与数据采集器的通信。采集系统可同步采集水位和流量数据,并得到频率-流量关系式及对应的水深-流量关系。针对采集数据出现的异常值使用基于中值过滤后标准差的修改拉依达算法进行检测和剔除,算法计算结果很理想。 展开更多
关键词 水槽控制 数据采集 WPF RS485 MODBUS
在线阅读 下载PDF
粉沙的水流挟沙力试验研究
7
作者 何洋 杨胜发 +1 位作者 张帅帅 王筱 《重庆交通大学学报(自然科学版)》 CAS 北大核心 2013年第4期663-667,共5页
针对三峡水库常年回水区特有的粉沙淤积情况,采用6 m长的变坡水槽对三峡水库常年回水区粉沙的水流挟沙力进行研究。研究结果表明:水槽试验数据与现有水流挟沙力公式对比,比较有代表性的张瑞瑾和沙玉清两个公式计算的挟沙力偏大,与Эа... 针对三峡水库常年回水区特有的粉沙淤积情况,采用6 m长的变坡水槽对三峡水库常年回水区粉沙的水流挟沙力进行研究。研究结果表明:水槽试验数据与现有水流挟沙力公式对比,比较有代表性的张瑞瑾和沙玉清两个公式计算的挟沙力偏大,与ЭаМаРин公式计算值较为接近;参照ЭаМаРин公式的结构形式,利用基本量纲分析,得到粉沙的水流挟沙力结构形式;通过水槽试验数据,利用多元线性回归的方法,拟合出适合这种粉沙的水流挟沙力公式。 展开更多
关键词 粉沙 挟沙力 水槽试验 数据分析
在线阅读 下载PDF
坡面径流对斜坡散粒体稳定性影响的试验分析 被引量:4
8
作者 朱崇林 雷孝章 +1 位作者 叶飞 符文熹 《工程科学与技术》 EI CAS CSCD 北大核心 2020年第3期133-140,共8页
坡面径流是松散介质斜坡上颗粒发生搬运滚动的水动力条件。为研究坡面径流对斜坡散粒体颗粒稳定性的影响,开展室内水槽冲刷试验。试验设置3种粒径和4种坡度,通过高速摄像仪捕获斜坡散粒体受水流冲刷起动过程,获得不同条件下颗粒冲刷起... 坡面径流是松散介质斜坡上颗粒发生搬运滚动的水动力条件。为研究坡面径流对斜坡散粒体颗粒稳定性的影响,开展室内水槽冲刷试验。试验设置3种粒径和4种坡度,通过高速摄像仪捕获斜坡散粒体受水流冲刷起动过程,获得不同条件下颗粒冲刷起动的临界径流水深hcr。试验结果表明:在同一粒径条件下,起动水深hcr随着斜坡坡度的增大而减小;在坡度为20°、22°时,起动水深hcr随着粒径的增大,出现先增大后减小的情况,而在坡度为24°、26°时,起动水深hcr随着粒径的增大而增大,分析原因可能是当粒径增大引起坡体渗透性的改变是影响颗粒稳定性的主控因素时,颗粒更容易受水流的渗透作用而发生运移。为合理解释试验现象,建立斜坡径流-渗流耦合模型来分析坡面径流条件下颗粒的稳定性变化情况,通过将水流的流速特征与颗粒的受力起动特性结合起来,给出临界水深hcr的理论表达式,其主要受颗粒粒径、颗粒比重、孔隙率、坡体渗透率和斜坡坡度等因素共同控制。通过将试验结果与计算结果进一步对比发现,在同一粒径区间内,临界水深hcr的实测值与理论值均随坡度的增大而减小,而理论值与实测值之间的相对误差随坡度的增大而增大,但其均控制在35%以内,并对产生该误差的原因进行了分析。为修正实测值与计算值之间的误差,应用MATLAB的神经网络模块对数据进行拟合,建立含两个神经网络结构的临界水深hcr修正公式,精度较高。 展开更多
关键词 斜坡散粒体 水槽试验 临界水深 径流-渗流模型 数据拟合
在线阅读 下载PDF
Spark Streaming框架下的气象自动站数据实时处理系统 被引量:17
9
作者 赵文芳 刘旭林 《计算机应用》 CSCD 北大核心 2018年第1期38-43,55,共7页
针对现有气象自动站业务平台面临处理数据不及时、交互式响应慢、统计时效差等问题,提出了使用Spark Streaming技术和HBase解决该问题的方法,将实时计算框架和分布式数据库系统结合起来实现大规模流式数据处理。使用Flume收集自动站数据... 针对现有气象自动站业务平台面临处理数据不及时、交互式响应慢、统计时效差等问题,提出了使用Spark Streaming技术和HBase解决该问题的方法,将实时计算框架和分布式数据库系统结合起来实现大规模流式数据处理。使用Flume收集自动站数据,Spark Streaming对数据进行流式处理并存储到HBase数据库中,并设计Spark框架下的自动站数据流式入库处理算法和要素极值的实时统计算法,在Cloudera平台下实现了一个高速可靠的实时采集、处理、统计的应用系统。通过对比分析和性能监测,验证了该系统具有低延迟和高吞吐量的优势,运行状况良好,负载均衡。实验结果表明,Spark Streaming用于气象自动站的实时业务处理,数据并行写入HBase、基于HBase的查询和各类要素统计均能达到毫秒级响应,完全能满足自动站数据的应用需求,有效地支撑天气预报业务。 展开更多
关键词 气象自动站 SPARK STREAMING 流计算 气象数据处理 flume
在线阅读 下载PDF
基于三维点云的水下地形实时监控教学实验设计 被引量:1
10
作者 蒋先刚 康娣银 +3 位作者 赵爽 梁危 张舒翔 李平 《实验技术与管理》 CAS 北大核心 2022年第12期189-193,198,共6页
该文通过Kinect 2.0相机获取水下物体影像信息,再将物体表面位置转化为三维点云数据,并对数据进行降噪和折射校正,然后对水下地形进行三维重建。文章结合实验室水槽溃坝实验,对坝体溃决过程中的水上和水下坝形进行了扫描,数据处理结果表... 该文通过Kinect 2.0相机获取水下物体影像信息,再将物体表面位置转化为三维点云数据,并对数据进行降噪和折射校正,然后对水下地形进行三维重建。文章结合实验室水槽溃坝实验,对坝体溃决过程中的水上和水下坝形进行了扫描,数据处理结果表明:Kinect 2.0相机具备穿透水流的能力;基于Kinect 2.0相机获取的三维扫描点云数据及相关数据处理,可以实时监测溃坝过程中的水下地形;Kinect 2.0相机可以满足实验室的测量需求,且操作简便,是“水力学”课程实验中水下地形获取的一种新方法。 展开更多
关键词 水下地形获取 三维扫描 点云数据 折射校正 水槽实验
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部