canghaiyisu666 / spider
爬虫项目源码整理,使用redis进行url缓存,hbase进行详细信息的存储。使用zookeeper进行爬虫线程的状态监控。
☆19Updated 9 years ago
Alternatives and similar repositories for spider:
Users that are interested in spider are comparing it to the libraries listed below
- 日志分析器,仿 造elk中logstash的简单Java实现,实现监控目录日志,自动解析存入elasticsearch。☆22Updated 9 years ago
- 使用kafka实现log4j日志集中管理☆14Updated 4 years ago
- dubbo服务间的分布式事物☆11Updated 9 years ago
- zookeeper官方提供的分布式锁,选举master,和分布式队列实现☆17Updated 11 years ago
- 大规模分布式系统的跟踪、监控、告警平台☆55Updated 10 years ago
- 基于云计算Iaas平台的企业级云计 算,一站式解决方案,http://www.springcloud.cn☆28Updated 9 years ago
- 简单实用的同步工具,实现mysql数据库中数据定期同步到elasticsearch,只需简单的配置,便能达到非凡的效果,支持elasticsearch 5.X版本☆48Updated 8 years ago
- 1、支持网页爬虫 2、多线程、线程池 3、支持全文搜索 4、支持Hadoop分布式平台、HDFS/MapReduce、Zookeeper、HBase 5、支持redis分布式缓存 6、集成微信公众号开发 7、Spring4新特性 8、ActiveMQ 9、Nginx详细配置…☆16Updated 2 years ago
- 一个集成型框架,包含Redis缓存的自动同步模块,业务规则 模块,分库分表模块,及事务、ZK统一配置的支持。☆17Updated 9 years ago
- 日志实时监控,检索,报警☆20Updated 8 years ago
- 常用开发工具包的封装☆28Updated 6 years ago
- 业务风控系统☆11Updated 8 years ago
- XLogger 是个基于Netty的日志记录系统☆9Updated 12 years ago
- 多租户架构实现企业进销存☆20Updated 8 years ago
- 分布式大数据SQL查询可视化界面!☆68Updated 9 years ago
- 基于Nutch+ElasticSearch+MySQL+SSM的简易搜索引擎☆19Updated 8 years ago
- 基于zookeeper的分布式定时任务调度系统☆28Updated 9 years ago
- SpringBoot操作Elasticsearch的实战案例,elasticsearch 2.4.5/5.6.1☆35Updated 4 years ago
- ZkConfig是为zookeeper开发的配置服务工具包,能与现有的Java系统进行良好的 集成,也可以使用与非java系统以独立进程运行。提供与spring进行集成的插件。采用注解方式对需要动态更新的内存数据对象进行标注。 ZkConfig用于解决在系统集群中配置文件的实…☆24Updated 9 years ago
- SpringBoot+Solr + webmagic JD商品爬取数据,放入solr中做搜索,学习下solr使用☆44Updated 7 years ago
- 网络爬虫☆51Updated 11 years ago
- 这是一个统一管理系统权限,设计的目标是给开发者一个完整地权限管理系统,以便你能更专注自己系统业务的开发☆36Updated 8 years ago
- 基于zookeeper的分布式配置管理中心,在分布式系统中,配置文件经常多而繁杂,更新容易丢,有了这个组件,可以热更新,并且不会哪台机子上漏了哪个配置。☆35Updated 9 years ago
- 分布式脚手架框架(总结整理)☆15Updated 9 years ago
- 基于spring boot构建的微服务,服务之间调用日志跟踪,基于spring boot的配置日志输出模式,spring-cloud-starter-feign'的扩展日志输出,请求事件的解析和服务调用轨迹追踪☆22Updated 8 years ago
- dubbo日志扩展插件☆25Updated 7 years ago
- Kafka Eagle used to describe the use of Wiki☆11Updated 4 years ago
- 用于数据迁移、缓存预热,springboot架构。支持数据区间分割、动态调整线程池配置、任务进度实时查看等特性☆45Updated 7 years ago
- 各大电商网站数据抓取分析☆33Updated 11 years ago
- 电商系统(包含手机端,前端,后端)☆17Updated 7 years ago