期刊导航
期刊开放获取
上海教育软件发展有限公..
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
5
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式:
文摘
详细
列表
相关度排序
被引量排序
时效性排序
一种分布式的舆情分析系统架构
被引量:
4
1
作者
黄宇鹏
袁畅
+3 位作者
郝志峰
蔡瑞初
肖晓军
卢宇
《电信科学》
北大核心
2013年第7期66-71,共6页
随着互联网数据的快速增长,针对如何对互联网数据进行有效的收集和分析,提出一种基于分布式平台的系统架构。该架构包括爬虫模块、Web模块以及分布式平台三大模块,其中爬虫模块负责数据的收集,Web模块负责简单任务的处理以及分析结果的...
随着互联网数据的快速增长,针对如何对互联网数据进行有效的收集和分析,提出一种基于分布式平台的系统架构。该架构包括爬虫模块、Web模块以及分布式平台三大模块,其中爬虫模块负责数据的收集,Web模块负责简单任务的处理以及分析结果的可视化展示,分布式平台提供数据的存储以及复杂任务的计算功能,3个模块的结合为网络上海量数据的爬取、存储与分析提供了一个很好的解决方案。最后,针对社交网站新浪微博的应用案例验证了该分布式舆情分析系统架构的可用性。
展开更多
关键词
分布式系统架构
舆情分析
爬虫
可视化
在线阅读
下载PDF
职称材料
基于分布式技术的动车组车载大数据存储与检索技术研究
被引量:
6
2
作者
扈海军
《铁道机车车辆》
北大核心
2024年第1期100-107,共8页
随着动车组的数据传输能力升级改造以及复兴号智能型动车组的上线运营,动车组监测项点数据快速扩充,如何高效、准确地对动车组的海量车载非实时数据进行存储、检索与查询,成为提升动车组车载数据管理和应用水平面临的一个挑战。文中提...
随着动车组的数据传输能力升级改造以及复兴号智能型动车组的上线运营,动车组监测项点数据快速扩充,如何高效、准确地对动车组的海量车载非实时数据进行存储、检索与查询,成为提升动车组车载数据管理和应用水平面临的一个挑战。文中提出一种基于分布式技术的海量非实时数据地面系统架构,将各动车运用所的数据服务站点作为子节点,全路数据服务中心作为主节点,对具备时空属性的海量数据快速检索算法进行了研究,构建了一种支持分布式数据存储、检索及数据分析的架构,开发了原型系统,验证了解决方案的可行性和有效性。
展开更多
关键词
动车组车载信息无线传输
系统
(WTDS)
动车组车载海量数据
数据检索
分布式系统架构
在线阅读
下载PDF
职称材料
基于分布式集群架构的遥感数据传输机制
被引量:
9
3
作者
刘美佳
张箐
《计算机工程》
CAS
CSCD
北大核心
2021年第10期180-185,共6页
对地观测遥感卫星数据传输系统采用Linux虚拟服务器集群架构传输遥感卫星数据,而该集群中承载传输任务的新旧服务器在实现断点续传的过程中由于控制信息不同步会造成数据片重复。设计一种基于分布式系统架构的遥感卫星数据处理机制DPM,...
对地观测遥感卫星数据传输系统采用Linux虚拟服务器集群架构传输遥感卫星数据,而该集群中承载传输任务的新旧服务器在实现断点续传的过程中由于控制信息不同步会造成数据片重复。设计一种基于分布式系统架构的遥感卫星数据处理机制DPM,采用Kafka消息队列快速存储数据包,利用代码模块使Spark Streaming精准提交消息偏移量,并通过数据传输速率与进度统计实时记录DPM运行状态信息。测试结果表明,DPM机制可精准记录与提交消息偏移量并实现数据续传功能,从而确保遥感卫星数据的准确稳定传输。
展开更多
关键词
数据传输
系统
遥感卫星数据
分布式系统架构
数据处理机制
Kafka消息队列
在线阅读
下载PDF
职称材料
基于云平台的分布式高性能网络爬虫的研究与设计
被引量:
5
4
作者
石恩名
肖晓军
卢宇
《电信科学》
北大核心
2017年第8期180-186,共7页
随着大数据时代的到来,数据成为最宝贵的资源,而网络爬虫技术作为外部数据采集的重要手段,已然成为数据分析的标配。介绍了一种高性能、灵活和便捷的基于云平台的爬虫架构设计和实现。从爬虫的整体架构、分布式设计以及各模块的设计等...
随着大数据时代的到来,数据成为最宝贵的资源,而网络爬虫技术作为外部数据采集的重要手段,已然成为数据分析的标配。介绍了一种高性能、灵活和便捷的基于云平台的爬虫架构设计和实现。从爬虫的整体架构、分布式设计以及各模块的设计等角度进行了详细的阐述。爬虫各模块用Docker封装,Kubernetes做集群的资源调度和管理,在性能优化上采用了MD5去重树算法、DNS优化和异步I/O等多种策略组合的形式。实验表明,对比未优化的方案,爬虫在性能上具有较明显的优势。
展开更多
关键词
分布式系统架构
网络爬虫
DOCKER
高性能
在线阅读
下载PDF
职称材料
Google Earth在交通信息服务系统中的应用研究
被引量:
15
5
作者
陈锐祥
何兆成
+1 位作者
黄敏
潘秋碧
《中山大学学报(自然科学版)》
CAS
CSCD
北大核心
2007年第S2期195-198,共4页
通过将海量的高分辨率卫星遥感图与航拍图映射到三维的地球模型中,Google Earth(GE)为ITS的各种应用提供了全新的地理信息平台。描述并分析了GE的主要功能及其编程接口,建立了基于GE的实时动态交通信息服务系统的分布式系统架构,并开发...
通过将海量的高分辨率卫星遥感图与航拍图映射到三维的地球模型中,Google Earth(GE)为ITS的各种应用提供了全新的地理信息平台。描述并分析了GE的主要功能及其编程接口,建立了基于GE的实时动态交通信息服务系统的分布式系统架构,并开发了相应的原型系统。运行结果表明,原型系统达到了设计目标,与传统基于GIS的交通信息服务系统相比,具有更加生动的交通与地理信息表达方式、用户与开发者友好等优点。
展开更多
关键词
交通信息
系统
GOOGLE
Earth软件
分布式系统架构
在线阅读
下载PDF
职称材料
题名
一种分布式的舆情分析系统架构
被引量:
4
1
作者
黄宇鹏
袁畅
郝志峰
蔡瑞初
肖晓军
卢宇
机构
广东工业大学计算机学院
广州优亿信息科技有限公司
出处
《电信科学》
北大核心
2013年第7期66-71,共6页
文摘
随着互联网数据的快速增长,针对如何对互联网数据进行有效的收集和分析,提出一种基于分布式平台的系统架构。该架构包括爬虫模块、Web模块以及分布式平台三大模块,其中爬虫模块负责数据的收集,Web模块负责简单任务的处理以及分析结果的可视化展示,分布式平台提供数据的存储以及复杂任务的计算功能,3个模块的结合为网络上海量数据的爬取、存储与分析提供了一个很好的解决方案。最后,针对社交网站新浪微博的应用案例验证了该分布式舆情分析系统架构的可用性。
关键词
分布式系统架构
舆情分析
爬虫
可视化
Keywords
distributed system architecture
public opinion analysis
crawler
visualization
分类号
TP316.4 [自动化与计算机技术—计算机软件与理论]
在线阅读
下载PDF
职称材料
题名
基于分布式技术的动车组车载大数据存储与检索技术研究
被引量:
6
2
作者
扈海军
机构
中国铁道科学研究院集团有限公司机车车辆研究所
北京纵横机电科技有限公司
出处
《铁道机车车辆》
北大核心
2024年第1期100-107,共8页
基金
中国国家铁路集团有限公司科技研究开发计划课题(K2019J018)。
文摘
随着动车组的数据传输能力升级改造以及复兴号智能型动车组的上线运营,动车组监测项点数据快速扩充,如何高效、准确地对动车组的海量车载非实时数据进行存储、检索与查询,成为提升动车组车载数据管理和应用水平面临的一个挑战。文中提出一种基于分布式技术的海量非实时数据地面系统架构,将各动车运用所的数据服务站点作为子节点,全路数据服务中心作为主节点,对具备时空属性的海量数据快速检索算法进行了研究,构建了一种支持分布式数据存储、检索及数据分析的架构,开发了原型系统,验证了解决方案的可行性和有效性。
关键词
动车组车载信息无线传输
系统
(WTDS)
动车组车载海量数据
数据检索
分布式系统架构
Keywords
wireless transit device system(WTDS)
EMU onboard massive data
data retrieval
distributed system architecture
分类号
U266 [机械工程—车辆工程]
在线阅读
下载PDF
职称材料
题名
基于分布式集群架构的遥感数据传输机制
被引量:
9
3
作者
刘美佳
张箐
机构
中国科学院空天信息创新研究院
中国科学院大学电子电气与通信工程学院
出处
《计算机工程》
CAS
CSCD
北大核心
2021年第10期180-185,共6页
基金
国家民用空间基础设施“十二五”陆地观测卫星地面系统建设项目(HK-KJSEW-CS-XCD-01)。
文摘
对地观测遥感卫星数据传输系统采用Linux虚拟服务器集群架构传输遥感卫星数据,而该集群中承载传输任务的新旧服务器在实现断点续传的过程中由于控制信息不同步会造成数据片重复。设计一种基于分布式系统架构的遥感卫星数据处理机制DPM,采用Kafka消息队列快速存储数据包,利用代码模块使Spark Streaming精准提交消息偏移量,并通过数据传输速率与进度统计实时记录DPM运行状态信息。测试结果表明,DPM机制可精准记录与提交消息偏移量并实现数据续传功能,从而确保遥感卫星数据的准确稳定传输。
关键词
数据传输
系统
遥感卫星数据
分布式系统架构
数据处理机制
Kafka消息队列
Keywords
data transmission system
remote sensing satellite data
distributed system architecture
data processing mechanism
Kafka message queue
分类号
TN919 [电子电信—通信与信息系统]
在线阅读
下载PDF
职称材料
题名
基于云平台的分布式高性能网络爬虫的研究与设计
被引量:
5
4
作者
石恩名
肖晓军
卢宇
机构
广州优亿信息科技有限公司
出处
《电信科学》
北大核心
2017年第8期180-186,共7页
文摘
随着大数据时代的到来,数据成为最宝贵的资源,而网络爬虫技术作为外部数据采集的重要手段,已然成为数据分析的标配。介绍了一种高性能、灵活和便捷的基于云平台的爬虫架构设计和实现。从爬虫的整体架构、分布式设计以及各模块的设计等角度进行了详细的阐述。爬虫各模块用Docker封装,Kubernetes做集群的资源调度和管理,在性能优化上采用了MD5去重树算法、DNS优化和异步I/O等多种策略组合的形式。实验表明,对比未优化的方案,爬虫在性能上具有较明显的优势。
关键词
分布式系统架构
网络爬虫
DOCKER
高性能
Keywords
distributed system architecture
web crawler
Docker
high-performance
分类号
TP393 [自动化与计算机技术—计算机应用技术]
在线阅读
下载PDF
职称材料
题名
Google Earth在交通信息服务系统中的应用研究
被引量:
15
5
作者
陈锐祥
何兆成
黄敏
潘秋碧
机构
中山大学智能交通研究中心
出处
《中山大学学报(自然科学版)》
CAS
CSCD
北大核心
2007年第S2期195-198,共4页
基金
广东省科技计划工业攻关资助项目(2006B14901004)
"十一五"国家科技支撑计划资助项目(2006BAG01A04)
文摘
通过将海量的高分辨率卫星遥感图与航拍图映射到三维的地球模型中,Google Earth(GE)为ITS的各种应用提供了全新的地理信息平台。描述并分析了GE的主要功能及其编程接口,建立了基于GE的实时动态交通信息服务系统的分布式系统架构,并开发了相应的原型系统。运行结果表明,原型系统达到了设计目标,与传统基于GIS的交通信息服务系统相比,具有更加生动的交通与地理信息表达方式、用户与开发者友好等优点。
关键词
交通信息
系统
GOOGLE
Earth软件
分布式系统架构
Keywords
traffic information system
Google Earth software
distributed system
分类号
U495 [交通运输工程—交通运输规划与管理]
在线阅读
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
一种分布式的舆情分析系统架构
黄宇鹏
袁畅
郝志峰
蔡瑞初
肖晓军
卢宇
《电信科学》
北大核心
2013
4
在线阅读
下载PDF
职称材料
2
基于分布式技术的动车组车载大数据存储与检索技术研究
扈海军
《铁道机车车辆》
北大核心
2024
6
在线阅读
下载PDF
职称材料
3
基于分布式集群架构的遥感数据传输机制
刘美佳
张箐
《计算机工程》
CAS
CSCD
北大核心
2021
9
在线阅读
下载PDF
职称材料
4
基于云平台的分布式高性能网络爬虫的研究与设计
石恩名
肖晓军
卢宇
《电信科学》
北大核心
2017
5
在线阅读
下载PDF
职称材料
5
Google Earth在交通信息服务系统中的应用研究
陈锐祥
何兆成
黄敏
潘秋碧
《中山大学学报(自然科学版)》
CAS
CSCD
北大核心
2007
15
在线阅读
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部