期刊文献+
共找到5篇文章
< 1 >
每页显示 20 50 100
一种分布式的舆情分析系统架构 被引量:4
1
作者 黄宇鹏 袁畅 +3 位作者 郝志峰 蔡瑞初 肖晓军 卢宇 《电信科学》 北大核心 2013年第7期66-71,共6页
随着互联网数据的快速增长,针对如何对互联网数据进行有效的收集和分析,提出一种基于分布式平台的系统架构。该架构包括爬虫模块、Web模块以及分布式平台三大模块,其中爬虫模块负责数据的收集,Web模块负责简单任务的处理以及分析结果的... 随着互联网数据的快速增长,针对如何对互联网数据进行有效的收集和分析,提出一种基于分布式平台的系统架构。该架构包括爬虫模块、Web模块以及分布式平台三大模块,其中爬虫模块负责数据的收集,Web模块负责简单任务的处理以及分析结果的可视化展示,分布式平台提供数据的存储以及复杂任务的计算功能,3个模块的结合为网络上海量数据的爬取、存储与分析提供了一个很好的解决方案。最后,针对社交网站新浪微博的应用案例验证了该分布式舆情分析系统架构的可用性。 展开更多
关键词 分布式系统架构 舆情分析 爬虫 可视化
在线阅读 下载PDF
基于分布式技术的动车组车载大数据存储与检索技术研究 被引量:6
2
作者 扈海军 《铁道机车车辆》 北大核心 2024年第1期100-107,共8页
随着动车组的数据传输能力升级改造以及复兴号智能型动车组的上线运营,动车组监测项点数据快速扩充,如何高效、准确地对动车组的海量车载非实时数据进行存储、检索与查询,成为提升动车组车载数据管理和应用水平面临的一个挑战。文中提... 随着动车组的数据传输能力升级改造以及复兴号智能型动车组的上线运营,动车组监测项点数据快速扩充,如何高效、准确地对动车组的海量车载非实时数据进行存储、检索与查询,成为提升动车组车载数据管理和应用水平面临的一个挑战。文中提出一种基于分布式技术的海量非实时数据地面系统架构,将各动车运用所的数据服务站点作为子节点,全路数据服务中心作为主节点,对具备时空属性的海量数据快速检索算法进行了研究,构建了一种支持分布式数据存储、检索及数据分析的架构,开发了原型系统,验证了解决方案的可行性和有效性。 展开更多
关键词 动车组车载信息无线传输系统(WTDS) 动车组车载海量数据 数据检索 分布式系统架构
在线阅读 下载PDF
基于分布式集群架构的遥感数据传输机制 被引量:9
3
作者 刘美佳 张箐 《计算机工程》 CAS CSCD 北大核心 2021年第10期180-185,共6页
对地观测遥感卫星数据传输系统采用Linux虚拟服务器集群架构传输遥感卫星数据,而该集群中承载传输任务的新旧服务器在实现断点续传的过程中由于控制信息不同步会造成数据片重复。设计一种基于分布式系统架构的遥感卫星数据处理机制DPM,... 对地观测遥感卫星数据传输系统采用Linux虚拟服务器集群架构传输遥感卫星数据,而该集群中承载传输任务的新旧服务器在实现断点续传的过程中由于控制信息不同步会造成数据片重复。设计一种基于分布式系统架构的遥感卫星数据处理机制DPM,采用Kafka消息队列快速存储数据包,利用代码模块使Spark Streaming精准提交消息偏移量,并通过数据传输速率与进度统计实时记录DPM运行状态信息。测试结果表明,DPM机制可精准记录与提交消息偏移量并实现数据续传功能,从而确保遥感卫星数据的准确稳定传输。 展开更多
关键词 数据传输系统 遥感卫星数据 分布式系统架构 数据处理机制 Kafka消息队列
在线阅读 下载PDF
基于云平台的分布式高性能网络爬虫的研究与设计 被引量:5
4
作者 石恩名 肖晓军 卢宇 《电信科学》 北大核心 2017年第8期180-186,共7页
随着大数据时代的到来,数据成为最宝贵的资源,而网络爬虫技术作为外部数据采集的重要手段,已然成为数据分析的标配。介绍了一种高性能、灵活和便捷的基于云平台的爬虫架构设计和实现。从爬虫的整体架构、分布式设计以及各模块的设计等... 随着大数据时代的到来,数据成为最宝贵的资源,而网络爬虫技术作为外部数据采集的重要手段,已然成为数据分析的标配。介绍了一种高性能、灵活和便捷的基于云平台的爬虫架构设计和实现。从爬虫的整体架构、分布式设计以及各模块的设计等角度进行了详细的阐述。爬虫各模块用Docker封装,Kubernetes做集群的资源调度和管理,在性能优化上采用了MD5去重树算法、DNS优化和异步I/O等多种策略组合的形式。实验表明,对比未优化的方案,爬虫在性能上具有较明显的优势。 展开更多
关键词 分布式系统架构 网络爬虫 DOCKER 高性能
在线阅读 下载PDF
Google Earth在交通信息服务系统中的应用研究 被引量:15
5
作者 陈锐祥 何兆成 +1 位作者 黄敏 潘秋碧 《中山大学学报(自然科学版)》 CAS CSCD 北大核心 2007年第S2期195-198,共4页
通过将海量的高分辨率卫星遥感图与航拍图映射到三维的地球模型中,Google Earth(GE)为ITS的各种应用提供了全新的地理信息平台。描述并分析了GE的主要功能及其编程接口,建立了基于GE的实时动态交通信息服务系统的分布式系统架构,并开发... 通过将海量的高分辨率卫星遥感图与航拍图映射到三维的地球模型中,Google Earth(GE)为ITS的各种应用提供了全新的地理信息平台。描述并分析了GE的主要功能及其编程接口,建立了基于GE的实时动态交通信息服务系统的分布式系统架构,并开发了相应的原型系统。运行结果表明,原型系统达到了设计目标,与传统基于GIS的交通信息服务系统相比,具有更加生动的交通与地理信息表达方式、用户与开发者友好等优点。 展开更多
关键词 交通信息系统 GOOGLE Earth软件 分布式系统架构
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部