利用spring boot + webmagic 开发的java爬虫系统
☆61Dec 29, 2016Updated 9 years ago
Alternatives and similar repositories for spider
Users that are interested in spider are comparing it to the libraries listed below
Sorting:
- 分布式网络爬虫架构☆16Sep 26, 2016Updated 9 years ago
- 蜂巢爬虫系统 是一套只需要定义XPath，就可实现爬取网站,APP的系统, 支持多种解析方式（XPath,正则表达式），多种下载方式（HttpClient库, PhantomJs, Selenium）,多种输出方式（Excel，MongoDB）。 可不做任何修改发布到Yar…☆10Sep 5, 2016Updated 9 years ago
- dubbo-brave集成☆10Mar 16, 2016Updated 10 years ago
- 密码学作业、课程设计：国产加密算法SM3的java实现☆13Jan 9, 2019Updated 7 years ago
- 技术预研demo( elasticsearch kafka cassandra netty zookeeper jmx 多线程 设计模式 httpclient drools influxdb)☆12Dec 16, 2022Updated 3 years ago
- 一个简易的搜索引擎，采用Java开发☆32Mar 7, 2014Updated 12 years ago
- 链家地产房产信息收集程序-个人使用☆23Jun 29, 2015Updated 10 years ago
- Livy REST API封装，批处理模式☆19Feb 20, 2019Updated 7 years ago
- Raptor IoT platform☆12May 24, 2018Updated 7 years ago
- 基于Spring4.18+SpringMVC 4.18+hibernate4的内容管理系统☆13Nov 13, 2015Updated 10 years ago
- 基于SSM的爬虫系统，Spring+Spring MVC+MyBatis+Druid+Redis+MQ☆78Sep 16, 2017Updated 8 years ago
- a simple distributed spider in Java. Java编写的一个简单分布式爬虫☆159Jun 18, 2013Updated 12 years ago
- 多租户架构实现企业进销存☆20Jun 2, 2016Updated 9 years ago
- 使用java+httpclient+httpcleaner，多线程、分布式爬去电商网站商品信息，数据存储在hbase上，并使用solr对商品建立索引，使用redis队列存储一个共享的url仓库；使用zookeeper对爬虫节点生命周期进行监视等。☆233Nov 6, 2020Updated 5 years ago
- qq加群机器人，根据配置的关键词来搜索群并自动发送加群验证。难点：list滚动需要跨进程模拟触屏事件。使用前提：需要获取root权限，如需要获取更多机型的支持，需要添加相应机型的模拟触屏实现类。本项目不再维护，只提供给个人开发者学习使用。☆16Jul 23, 2018Updated 7 years ago
- 利用WebMagic框架进行58同城数据的抓取☆12Oct 13, 2014Updated 11 years ago
- 京东商品推荐系统-数据爬虫☆18Apr 9, 2015Updated 10 years ago
- JFinalCMS，极速开发，动态添加字段，自定义标签，动态创建数据库表并crud数据，数据库备份、还原，动态添加站点(多站点功能)，一键生成模板代码，让您轻松打造自己的独立网站，同时也方便二次开发，让您快速搭建个性化独立网站，为您节约更多时间，去陪恋人、家人和朋友☆22Dec 16, 2023Updated 2 years ago
- 一个简单、敏捷、分布式的支持SpringBoot的Java爬虫框架;An agile, distributed crawler framework.☆1,996Nov 25, 2024Updated last year
- 基于ffmpeg+spring+quartz+dubbo+zookeeper+MyBatis服务化的视频转换分布式服务☆12Jul 21, 2016Updated 9 years ago
- spring-boot 百度uid-generator 百度的唯一ID生成器☆20Dec 16, 2022Updated 3 years ago
- 网络爬虫，动态网页爬取，多线程，并行☆19Dec 21, 2017Updated 8 years ago
- 淘宝商品评价的爬虫☆26Feb 29, 2016Updated 10 years ago
- ms 前台☆11Oct 29, 2019Updated 6 years ago
- apple-boot启动过程中发布广播，apple-monitor接收广播信息，然后通过jmx自动监控应用☆10Oct 22, 2018Updated 7 years ago
- 一个基于webmagic框架二次开发的java爬虫框架实战，已实现能爬取腾讯，搜狐，今日头条（单独集成功能）等资讯内容，配合elasticsearch框架用法，实现了自动爬虫，已投入线上生产使用。☆341Nov 16, 2022Updated 3 years ago
- The gateway service is responsible for routing requests to real services.☆18Jul 24, 2019Updated 6 years ago
- jstorm开发demo，小例子☆23Jul 18, 2015Updated 10 years ago
- 完整开源！Java快速开发平台！基于Spring、SpringMVC、Mybatis架构，MStore提供更多好用的插件与模板（文章、商城、微信、论坛、会员、评论、支付、积分、工作流、任务调度等，同时提供上百套免费模板任意选择），价值源自分享！铭飞系统不仅一套简单好用的开源…☆12Jun 4, 2018Updated 7 years ago
- 微信公众号文章爬虫☆44Sep 1, 2022Updated 3 years ago
- XiaoYu 基于 Spring Cloud Alibaba的分布式微服务快速搭建案例，具有统一授权、认证，包含用户管理、资源权限管理（Spring Security + oauth2）、网关API(Gateway)、分布式事务(seata)、分布式任务调度（xxl-job…☆22Jan 11, 2021Updated 5 years ago
- ☆31Dec 23, 2015Updated 10 years ago
- NCIIC身份证审核服务soap调用示例☆10Apr 22, 2016Updated 9 years ago
- 使用WebMagic抓取招聘信息，并且持久化到Mysql的例子。☆225Nov 22, 2016Updated 9 years ago
- OBSOLETE; see http://central.maven.org/maven2/gov/nist/math/jama/1.0.3/☆11Apr 14, 2014Updated 11 years ago
- ☆18Feb 9, 2017Updated 9 years ago
- class热部署☆11Jan 31, 2015Updated 11 years ago
- 创意宝支持协同办公，实现工作流程全链路打通，集中管理图文音视资源，可对接企业 erp，达成产品同步与 AI 制作，如商品主图抠图、智能生成，模特一键换衣，依据对产品的 AI 理解生成详情页并支持一键分发。其 AI 对电商企业辅助显著，助力商品展示优化与高效运营。在短剧和短视…☆19Feb 17, 2025Updated last year
- Jetbrains IDEA plugin for https://github.com/liuzhengyang/lets-hotfix☆12Mar 13, 2021Updated 5 years ago