canghaiyisu666 / spiderLinks
爬虫项目源码整理，使用redis进行url缓存，hbase进行详细信息的存储。使用zookeeper进行爬虫线程的状态监控。
☆19Updated 10 years ago
Alternatives and similar repositories for spider
Users that are interested in spider are comparing it to the libraries listed below
Sorting:
- 大规模分布式系统的跟踪、监控、告警平台☆55Updated 11 years ago
- 日志分析器，仿造elk中logstash的简单Java实现，实现监控目录日志，自动解析存入elasticsearch。☆22Updated 9 years ago
- 使用kafka实现log4j日志集中管理☆14Updated 4 years ago
- SpringBoot操作Elasticsearch的实战案例，elasticsearch 2.4.5/5.6.1☆35Updated 5 years ago
- dubbo服务间的分布式事物☆11Updated 10 years ago
- 这是一个统一管理系统权限，设计的目标是给开发者一个完整地权限管理系统，以便你能更专注自己系统业务的开发☆36Updated 9 years ago
- 用于数据迁移、缓存预热，springboot架构。支持数据区间分割、动态调整线程池配置、任务进度实时查看等特性☆45Updated 8 years ago
- zk + netty 实现集群节点文件同步服务☆32Updated 9 years ago
- 基于云计算Iaas平台的企业级云计算,一站式解决方案,http://www.springcloud.cn☆28Updated 10 years ago
- zookeeper官方提供的分布式锁，选举master，和分布式队列实现☆17Updated 11 years ago
- 简单实用的同步工具，实现mysql数据库中数据定期同步到elasticsearch，只需简单的配置，便能达到非凡的效果， 支持elasticsearch 5.X版本☆48Updated 8 years ago
- Athena是一款简单易用，面向架构和发布流程优化，并且具有丰富使用文档的Restful服务框架。架构上，它与Spring Web MVC无缝集成，使业务项目没有任何框架代码的侵入，并且能够与CI一键发布流程完美结合。它提供了新项目生成工具，可以一键生成新业务项目的骨架，生…☆18Updated 10 years ago
- 基于spring boot构建的微服务，服务之间调用日志跟踪，基于spring boot的配置日志输出模式，spring-cloud-starter-feign'的扩展日志输出，请求事件的解析和服务调用轨迹追踪☆22Updated 8 years ago
- 业务风控系统☆12Updated 9 years ago
- 规则引擎的使用:excel决策表、drl决策文件 spring3.2+drools5.6 spring4.1+drools5.6 测试通过☆29Updated 10 years ago
- log4j日志的监控系统，采用web形式展现各模块的运行状态，支持邮件短信报警，适用于一般企业大中型业务生成系统的监控；业务模块定时30秒采用json格式输出到文件，☆47Updated 12 years ago
- 基于Kafka和MongoDB的结构化日志异步记录和预警框架☆10Updated 9 years ago
- kafa spring插件☆14Updated 10 years ago
- 一个集成型框架，包含Redis缓存的自动同步模块，业务规则模块，分库分表模块，及事务、ZK统一配置的支持。☆17Updated 9 years ago
- 分布式数据源分表分库、读写分离应用层框架☆56Updated 10 years ago
- SpringBoot+Solr + webmagic JD商品爬取数据，放入solr中做搜索，学习下solr使用☆44Updated 8 years ago
- 线程池、任务、任务组、任务池，定时任务的类库☆23Updated last month
- dubbo日志扩展插件☆25Updated 8 years ago
- 日志实时监控，检索，报警☆20Updated 9 years ago
- 1、支持网页爬虫 2、多线程、线程池 3、支持全文搜索 4、支持Hadoop分布式平台、HDFS/MapReduce、Zookeeper、HBase 5、支持redis分布式缓存 6、集成微信公众号开发 7、Spring4新特性 8、ActiveMQ 9、Nginx详细配置…☆16Updated 2 years ago
- 基于redis的分布式锁，适用于秒杀，自增ID等web分布式开发场景☆11Updated 8 years ago
- rocketmq后台管理，从阿里开源修改。 换成rest风格访问，增加拦截器登录配置☆15Updated 9 years ago
- 基于Redis的延迟队列系统☆46Updated 8 years ago
- ZkConfig是为zookeeper开发的配置服务工具包，能与现有的Java系统进行良好的集成，也可以使用与非java系统以独立进程运行。提供与spring进行集成的插件。采用注解方式对需要动态更新的内存数据对象进行标注。 ZkConfig用于解决在系统集群中配置文件的实…☆25Updated 10 years ago
- Java版本ngrok客户端,集成spring-boot随应用启动快速映射内网地址☆60Updated 8 years ago