zongtui / zongtui-webcrawlerLinks
基于hadoop思维的分布式网络爬虫。
☆86Updated 9 years ago
Alternatives and similar repositories for zongtui-webcrawler
Users that are interested in zongtui-webcrawler are comparing it to the libraries listed below
Sorting:
- rank是一个seo工具，用于分析网站的搜索引擎收录排名。☆67Updated 8 years ago
- nutcher是中文的nutch文档，包含nutch的配置和源码解析，持续更新中。☆130Updated 6 years ago
- 自动抽取网页正文 的算法，用JAVA实现☆109Updated 8 years ago
- 舆情搜索服务框架，其中lucene和solr版本为4.8。☆61Updated 9 years ago
- Apache Nutch Plugins for AJAX page fetch, parse, index☆88Updated 7 years ago
- 网络爬虫☆52Updated 11 years ago
- lucene实现web项目近实时搜索【solr和NRTManager、SearcherManager】☆65Updated 9 years ago
- A distributed real-time stock picking system base on flume,kafka,jstorm,esper,and mysql☆160Updated 8 years ago
- HtmlExtractor是一个Java实现的基于模板的网页结构化信息精准抽取组件。☆155Updated 6 years ago
- 知乎爬虫，基于webmagic框架 .A java web spider base on webmagic.☆69Updated 9 years ago
- 数据虫巢官网(mite8.com)站点源码，包括站点基础数据爬取代码，以及重构的NLP分词工具等。☆47Updated 8 years ago
- jsearch：高性能的全文检索工具包☆93Updated 8 years ago
- 个人收集的觉得不错的技术站点或技术博客☆221Updated 7 years ago
- 基于Apache Nutch和Htmlunit的扩展实现AJAX页面爬虫抓取解析插件☆125Updated 10 years ago
- A lite distributed Java spider framework :-)☆145Updated 8 years ago
- 模仿Java标准库的一些API实现的算法库，包括了数据结构，字符串处理（StringBuilder），图（有向图）。原来是用Python实现的，但是Python实现的并没有经过完整的测试，不能够保证完全的正确性。 使用Java实现的集合库都经过完整的测试，实际上，我在实现的…☆49Updated 10 years ago
- Apache hadoop management system☆312Updated 9 years ago
- a simple distributed spider in Java. Java编写的一个简单分布式爬虫☆159Updated 12 years ago
- Java MVC framework, agile, fast, rich domain model, made especially for server side of mobile application (一个敏捷，快速，富领域模型的Java MVC 框架，专为 移…☆547Updated last year
- 数据虫巢(微信号blogchong)公众号技术文章合集。虫巢出品，不说优品，最起码也得算个良品呐~~☆25Updated 8 years ago
- Symphony 的企业版，实现企业内网论坛。☆121Updated 7 years ago
- 萌主精选（母婴用品零售）的定制CRM（微信：萌主精选）☆85Updated 8 years ago
- 集群高可用架构整理☆50Updated 9 years ago
- 基于Map/Reduce爬虫,可抽取各大新闻网站的新闻正文并进行分类和聚类☆74Updated 11 years ago
- 还在羡慕BAT，京东等公司的大流量的架构吗？让你的java系统引用解耦，互相独立,commonrpc 就可以办到。commonrpc 是一个以netty为基础，spring 自定义shcema为基础标签的rpc框架,不侵入任何业务代码，一个高性能分布式rpc框架，支持tcp…☆101Updated 10 years ago
- The Crawler Proxy IP Pool Component☆64Updated 2 years ago
- A headless,standalone webkit server which make grabing dynamic web page easier.☆223Updated 6 years ago
- Uncode-DAL 是 Java 通用数据访问组件，基于mybatis、spring jdbc、hibernate等ORM框架开发，同时支持基于多数据源的读写分离、主备切换、故障转移，自动恢复、负载均衡、缓存等。可以大大提高开发速度。☆134Updated 9 years ago
- A Jetty launcher☆36Updated 4 years ago
- GuozhongCrawler的是一个无须配置、便于二次开发的爬虫开源框架，它提供简单灵活的API，只需少量代码即可实现一个爬虫。其设计灵感来源于多个爬虫国内外爬虫框架的总结。采用完全模块化的设计，功能覆盖整个爬虫的生命周期(链接提取、页面下载、内容抽取、持久化)，支持多线…☆96Updated 10 years ago