期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
双结构网络中URL去重机制研究 被引量:1
1
作者 袁志伟 杨鹏 刘旋 《太原理工大学学报》 CAS 北大核心 2016年第1期68-74,共7页
针对双结构网络的特点及其URL去重面临的挑战,根据Bloom Filter的工作原理,提出一种基于可扩展的动态可分裂Bloom Filter的URL去重机制,并在原型系统中进行实现和部署。实验结果表明,该机制能够有效适用于大规模、高性能和分布式的双结... 针对双结构网络的特点及其URL去重面临的挑战,根据Bloom Filter的工作原理,提出一种基于可扩展的动态可分裂Bloom Filter的URL去重机制,并在原型系统中进行实现和部署。实验结果表明,该机制能够有效适用于大规模、高性能和分布式的双结构网络爬虫应用。 展开更多
关键词 统一内容标签去重 动态可分裂 布隆过滤器 双结构网络 网络爬虫
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部