xjtushilei / ScriptSpiderLinks
A Java componentized distributed crawler framework. 一个Java版本的组件化的分布式通用爬虫
☆163Updated last year
Alternatives and similar repositories for ScriptSpider
Users that are interested in ScriptSpider are comparing it to the libraries listed below
Sorting:
- 一个简单易用的爬虫框架,内置代理管理模块,灵活设置多线程爬取☆62Updated 8 years ago
- 温故而知新，分享知识，快乐编码~☆538Updated 7 years ago
- 🐝 Web vertical crawler framework for fun☆189Updated last year
- 又一个号称高性能的 java 爬虫工具/爬虫框架☆122Updated 5 years ago
- 实现定时爬取与IP代理池☆148Updated 7 years ago
- 天气爬虫（全国城镇天气自动定时抓取更新，并开放RESTful查询接口），附带代理IP池定时更新并检测其可用性☆367Updated 7 years ago
- ☆152Updated 8 years ago
- Exception异常管理平台，支持Java、PHP、Python等多种语言☆85Updated 2 years ago
- 知乎爬虫，基于webmagic框架 .A java web spider base on webmagic.☆69Updated 9 years ago
- 基于poi 通过配置对excel进行导入导出框架☆60Updated 7 years ago
- 基于WebMagic写的一个csdn博客小爬虫☆91Updated 7 years ago
- 一个简洁漂亮的java blog 基于Spring /MVC+ Hibernate + MySQL + Bootstrap + freemarker. 实现☆185Updated 8 years ago
- webmagic 爬取我喜欢的网易云歌单+评论☆51Updated 7 years ago
- 这个是我个人网站的项目，欢迎贡献代码，力求能够应用到实际工作中java相关的大多数技术栈。有兴趣请Star一下，非常感谢。qq交流群：587577705 这个项目将不断地更新！生产环境：☆171Updated 5 years ago
- spring+springmvc+mybatis+maven+freemarker 能跑通的小例子，尽量通俗易懂☆80Updated 9 years ago
- 🎊 Design and implement of lightweight crawler framework.☆315Updated 7 years ago
- 使用Java的WebCollector爬虫框架采集网易云音乐5亿首歌☆105Updated 8 years ago
- 使用java+httpclient+httpcleaner，多线程、分布式爬去电商网站商品信息，数据存储在hbase上，并使用solr对商品建立索引，使用redis队列存储一个共享的url仓库；使用zookeeper对爬虫节点生命周期进行监视等。☆231Updated 4 years ago
- 基于 JDK8 实现的轻量级 Java Web 框架☆261Updated 8 years ago
- a simple distributed spider in Java. Java编写的一个简单分布式爬虫☆159Updated 12 years ago
- 模仿springmvc的轻量级web框架，适合学习和搭建小型web项目使用☆84Updated 7 years ago
- 多个spring 和ActiveMQ结合的项目，其中springMQ6最有参考价值，能运行，并且是maven项目，后加的springMQ7是纯java项目，只有activeMQ，能成功运行。这些项目都要开启activeMQ，在bin里面的activemq.bat☆73Updated 10 years ago
- Mybatis Generator Web Tool. 更加简单便捷的生成Mybatis框架代码☆75Updated 7 years ago
- 分布式多媒体共享平台，个人毕业设计的系统，采用分布式系统构架，保证服务的稳定性。项目wiki文档：https://github.com/wu560130911/MultimediaDesktop/wiki☆102Updated 7 years ago
- 爬虫代理IP池服务，可供其他爬虫程序通过restapi获取☆113Updated 2 years ago
- ☆52Updated 7 years ago
- oauth2 demo with angular and springboot☆98Updated 5 months ago
- 算法库(Java实现)☆35Updated 11 years ago
- 利用spring boot + webmagic 开发的java爬虫系统☆61Updated 8 years ago
- 本项目已废弃，笔记收藏整理参考：☆70Updated 4 years ago