kanxg / fengchao
蜂巢爬虫系统 是一套只需要定义XPath，就可实现爬取网站,APP的系统, 支持多种解析方式（XPath,正则表达式），多种下载方式（HttpClient库, PhantomJs, Selenium）,多种输出方式（Excel，MongoDB）。 可不做任何修改发布到Yarn,Docker,Mesos系统中实现分布式。
☆5Updated 8 years ago
Alternatives and similar repositories for fengchao:
Users that are interested in fengchao are comparing it to the libraries listed below
- The Crawler Proxy IP Pool Component☆63Updated 2 years ago
- 快速生成可测试的web接口文档的类库☆96Updated 2 years ago
- 本项目已废弃，笔记收藏整理参考：☆70Updated 4 years ago
- shiro 基于 url做的权限系统☆43Updated 10 years ago
- 知乎爬虫，基于webmagic框架 .A java web spider base on webmagic.☆69Updated 8 years ago
- heroUpdated 7 years ago
- 使用 Java 开发的一个任务调度框架，可以远程执行一次性或重复性的JOB，查看任务的执行状态以及任务结果（返回值、执行时间等） 本框架只负责调度，支持集群，任务执行在目标的服务器上，与业务解耦。☆69Updated 8 years ago
- 图片验证码 - 前后端分离，图片验证码实现方案。☆41Updated 7 years ago
- 互联网架构 SOA（Dubbo）+配置中心（ZK）+消息中间件MQ（RocketMq）+高速缓存（Redis）互联网架构☆65Updated 7 years ago
- gecco爬虫和spring结合使用☆52Updated 7 years ago
- 网络爬虫☆51Updated 11 years ago
- 简单实用的同步工具，实现mysql数据库中数据定期同步到elasticsearch，只需简单的配置，便能达到非凡的效果，支持elasticsearch 5.X版本☆48Updated 8 years ago
- spring boot 集成各种中间件☆47Updated 9 years ago
- Dubbox整合Spring Boot基于Avro、Thrift协议构建REST服务☆40Updated 8 years ago
- JOB调度框架☆86Updated 7 years ago
- spring整合guava和redis实现本地和远程缓存☆41Updated 9 years ago
- 数据虫巢官网(mite8.com)站点源码，包括站点基础数据爬取代码，以及重构的NLP分词工具等。☆47Updated 7 years ago
- webmagic 爬取我喜欢的网易云歌单+评论☆51Updated 7 years ago
- rank是一个seo工具，用于分析网站的搜索引擎收录排名。☆67Updated 7 years ago
- 集群高可用架构整理☆50Updated 8 years ago
- Apache Nutch Plugins for AJAX page fetch, parse, index☆87Updated 6 years ago
- dubbo日志扩展插件☆25Updated 7 years ago
- 豆瓣电影爬虫——a crawler which is able to crawl movie detail and short comments, save them to database mysql, also include Sentiment analysis ba…☆69Updated 6 years ago
- MyDog是一个代码生成工具，目前实现了一键生成基于SpringBoot的web工程。项目特点是所有功能均基于插件开发。理论上可以无限扩展。☆56Updated 2 years ago
- 铜板街轻量级JDBC层分库分表框架☆47Updated last year
- 使用SpringBoot,Scala開發的自動化測試平台☆38Updated 7 years ago
- API服务基础脚手架搭建，采用spring-boot\spring-session\mybatis\redis\quartz等，支持集群部署☆56Updated 6 years ago
- log4j appender for push the logs to redis.☆19Updated 6 years ago
- 全部改掉了，换回原先经典的雪花算法，41位时间戳+10位机器ID+12位序列号。只封装了rest风格的API~去除数据库等繁琐的封装。欢迎大家来做压测。☆31Updated 6 years ago
- UC是一个用于处理分布式系统中ID生成，唯一性字段值管理的通用模块.☆69Updated 11 years ago