Alternatives and similar repositories for crawler-denfender

Users that are interested in crawler-denfender are comparing it to the libraries listed below

• JFanZhao / spider
  使用java+httpclient+httpcleaner，多线程、分布式爬去电商网站商品信息，数据存储在hbase上，并使用solr对商品建立索引，使用redis队列存储一个共享的url仓库；使用zookeeper对爬虫节点生命周期进行监视等。
  ☆232Updated 5 years ago
• zyongjava / spider
  利用spring boot + webmagic 开发的java爬虫系统
  ☆60Updated 9 years ago
• out0fmemory / GuozhongCrawler
  GuozhongCrawler的是一个无须配置、便于二次开发的爬虫开源框架，它提供简单灵活的API，只需少量代码即可实现一个爬虫。其设计灵感来源于多个爬虫国内外爬虫框架的总结。采用完全模块化的设计，功能覆盖整个爬虫的生命周期(链接提取、页面下载、内容抽取、持久化)，支持多线…
  ☆99Updated 10 years ago
• butter-fly / belling-admin
  百灵权限管理系统，是一款构建在用户、角色、权限、日志、在线用户、用户下线、系统设置、日志管理之基础上等开源权限管理系统。 当前系统允许通过设置角色对应的权限，而权限通过Shiro可以控制到相应的操作菜单、操作按钮，并通过角色授权给用户在细化后权限范围内进行相关操作；同时，系…
  ☆101Updated 7 years ago
• dhengyi / multithreading-crawlers
  多线程爬虫--抓取淘宝商品详情页URL
  ☆128Updated 7 years ago
• GongDexing / elasticsearch-mysql
  简单实用的同步工具，实现mysql数据库中数据定期同步到elasticsearch，只需简单的配置，便能达到非凡的效果，支持elasticsearch 5.X版本
  ☆48Updated 9 years ago
• javagaorui5944 / ProxyIpPool
  The Crawler Proxy IP Pool Component
  ☆70Updated 3 years ago
• shenbaise / goodcrawler
  网络爬虫
  ☆51Updated 11 years ago
• hemin1003 / java-spider
  一个基于webmagic框架二次开发的java爬虫框架实战，已实现能爬取腾讯，搜狐，今日头条（单独集成功能）等资讯内容，配合elasticsearch框架用法，实现了自动爬虫，已投入线上生产使用。
  ☆343Updated 3 years ago
• garyudeng / Crawer
  各大电商网站数据抓取分析
  ☆32Updated 12 years ago
• hemin1003 / aylson-parent
  一个SpringMVC4+EasyUI的后台管理系统，已投入生产线上使用。下载导入SQL脚本，开箱即用，五分钟完成部署。
  ☆148Updated 3 years ago
• xtuhcy / gecco-spring
  gecco爬虫和spring结合使用
  ☆52Updated 8 years ago
• dhengyi / ip-proxy-pools-regularly
  实现定时爬取与IP代理池
  ☆148Updated 7 years ago
• canghaiyisu666 / spider
  爬虫项目源码整理，使用redis进行url缓存，hbase进行详细信息的存储。使用zookeeper进行爬虫线程的状态监控。
  ☆19Updated 10 years ago
• hongframework / chameleon
  web项目快速构建平台，由Java开发实现，无需编写代码，根据页面及组件等配置既能快速构建一个web项目
  ☆29Updated 7 years ago
• imalexyang / authManager
  【基于shiro的权限管理系统——分布式版】一个用spring、mybatis、redis和shiro开发的分布式权限管理系统
  ☆127Updated 2 years ago
• denghuichao / proxy-pool
  爬虫代理IP池服务，可供其他爬虫程序通过restapi获取
  ☆115Updated 3 years ago
• zhouhuabin / logMonitor
  log4j日志的监控系统，采用web形式展现各模块的运行状态，支持邮件短信报警，适用于一般企业大中型业务生成系统的监控；业务模块定时30秒采用json格式输出到文件，
  ☆47Updated 12 years ago
• zengzm163 / web-tongji
  网站流量统计分析平台(PV、UV、IP)
  ☆51Updated 10 years ago
• chengbinbbs / spider
  基于SSM的爬虫系统，Spring+Spring MVC+MyBatis+Druid+Redis+MQ
  ☆78Updated 8 years ago
• WangJunTYTL / authmanage
  这是一个统一管理系统权限，设计的目标是给开发者一个完整地权限管理系统，以便你能更专注自己系统业务的开发
  ☆36Updated 9 years ago
• GourdErwa / MyNote
  本项目已废弃，笔记收藏整理参考：
  ☆69Updated 5 years ago
• fnet123 / clover
  clover 1、开发server和client端 定时向zk集群发送心跳数据包，利用Java自带的timer程序实现该功能 2、开发整天的monitor程序，用来定时向zk中获取server和client端的心跳数据信息，如果超过指定时间没有收到最新的数据包，那么任务se…
  ☆197Updated 10 years ago
• 99246255 / SpringBoot-Solr
  SpringBoot+Solr + webmagic JD商品爬取数据，放入solr中做搜索，学习下solr使用
  ☆44Updated 8 years ago
• wgybzbrobot / sentiment-search
  舆情搜索服务框架，其中lucene和solr版本为4.8。
  ☆61Updated 10 years ago
• xpleaf / ispider
  A Distributed Crawler System Designed By Java.
  ☆216Updated 7 years ago
• luowei / lamps-sell
  一个功能类似淘宝商城的销售门户网站,包含前台商品分类展示查询,搜索,用户注册评价留言,下订单,查询订单;后台用户角色权限,商品,厂家,留言评价,新闻广告订单管理...
  ☆100Updated 3 months ago
• pumadong / cl-picture
  图片管理系统：相应图片的上传、删除等操作，作为CDN的图片源站。
  ☆49Updated 11 years ago
• aalansehaiyang / data-migration
  用于数据迁移、缓存预热，springboot架构。支持数据区间分割、动态调整线程池配置、任务进度实时查看等特性
  ☆45Updated 8 years ago
• fanqinghui / Foundation
  互联网架构 SOA（Dubbo）+配置中心（ZK）+消息中间件MQ（RocketMq）+高速缓存（Redis）互联网架构
  ☆65Updated 8 years ago