canghaiyisu666 / spider
爬虫项目源码整理,使用redis进行url缓存,hbase进行详细信息的存储。使用zookeeper进行爬虫线程的状态监控。
☆18Updated 9 years ago
Alternatives and similar repositories for spider:
Users that are interested in spider are comparing it to the libraries listed below
- dubbo服务间的分布式事物☆11Updated 9 years ago
- 业务风控系统☆11Updated 8 years ago
- 基于Nutch+ElasticSearch+MySQL+SSM的简易搜索引擎☆19Updated 8 years ago
- 基于云计算Iaas平台的企业级云计算,一站式解决方案,http://www.springcloud.cn☆29Updated 9 years ago
- 日志分析器,仿造elk中logstash的简单Java实现,实现监控目录日志,自动解析存入elasticsearch。☆22Updated 8 years ago
- 分布式大数据SQL查询可视化界面!☆68Updated 9 years ago
- 简单实用的同步工具,实现mysql数据库中数据定期同步到elasticsearch,只需简单的配置,便能达到非凡的效果,支持elasticsearch 5.X版本☆48Updated 8 years ago
- 支付订单系统分表分库高并发实现☆13Updated 2 years ago
- 使用kafka实现log4j日志集中管理☆14Updated 4 years ago
- 大规模分布式系统的跟踪、监控、告警平台☆55Updated 10 years ago
- SpringBoot操作Elasticsearch的实战案例,elasticsearch 2.4.5/5.6.1☆35Updated 4 years ago
- 日志实时监控,检索,报警☆19Updated 8 years ago
- A simple and flexible web crawler framework for java.☆19Updated 6 years ago
- 1、支持网页爬虫 2、多线程、线程池 3、支持全文搜索 4、支持Hadoop分布式平台、HDFS/MapReduce、Zookeeper、HBase 5、支持redis分布式缓存 6、集成微信公众号开发 7、Spring4新特性 8、ActiveMQ 9、Nginx详细配置 …☆16Updated 2 years ago
- 各大电商网站数据抓取分析☆32Updated 11 years ago
- 一个基于Spring Boot的Storm开发手脚架,开箱即用!集成读写Kafka、写Redis、写MySQL示例。☆58Updated 6 years ago
- dubbo日志扩展插件☆25Updated 7 years ago
- 数据虫巢官网(mite8.com)站点源码,包括站点基础数据爬取代码,以及重构的NLP分词工具等。☆48Updated 7 years ago
- 基于Kafka和MongoDB的结构化日志异步记录和 预警框架☆10Updated 8 years ago
- 使用 Java 开发的一个任务调度框架,可以远程执行一次性或重复性的JOB,查看任务的执行状态以及任务结果(返回值、执行时间等) 本框架只负责调度,支持集群,任务执行在目标的服务器上,与业务解耦。☆69Updated 8 years ago
- 保障服务的持续高可用、高性能及负载均衡☆17Updated 7 years ago
- 基于zookeeper的分布式配置管理中心,在分布式系统中,配置文件经常多而繁杂,更新容易丢,有了这个组件,可以热更新,并且不会哪台机子上漏了哪个配置。☆35Updated 8 years ago