peopleindreamdontsleep / SparkanSpiderLinks
java爬虫,反爬虫策略、ETL清洗数据,以及spark离线和实时分析新闻并存入ES
☆20Updated 6 years ago
Alternatives and similar repositories for SparkanSpider
Users that are interested in SparkanSpider are comparing it to the libraries listed below
Sorting:
- 数据可视化, 数据挖掘, 数据处理 ETL分析☆170Updated 3 weeks ago
- 使用spark对hive、hbase、ES的读写, 实现一次配置可对不同数据库进行导入导出,并对ES、hbase进行封装☆33Updated 8 years ago
- 大数据平台相关代码(ES/Hive/Hadoop/hdfs/hbase)☆75Updated 2 years ago
- Fitting是一个面向大数据的统一的开发框架,由大快搜索主导并完全开源,克服了大数据技术开发涉及技术面广,各组件间缺乏统一规范等问题,能有效降低大数据的学习难度,并提高大数据项目的开发效率并可与开源项目混用。 Fitting遵循Apache2.0开源协议,采用类黑箱框架模…☆179Updated 2 years ago
- 使用Storm实时处理交通大数据(数据源:kafka,集群管理:zookeeper)☆51Updated 2 years ago
- 大数据招聘信息分析平台☆44Updated 9 years ago
- kafka传数据到Flink存储到mysql之Flink使用SQL语句聚合数据流(设置时间窗口,EventTime)☆31Updated 7 years ago
- 分布式大数据SQL查询可视化界面!☆68Updated 10 years ago
- 用户画像代码,根据算法推算出用户的性别和年龄比率☆11Updated 7 years ago
- 实时风控系统,基于spark-streaming、drools、kafka、redis☆53Updated 7 years ago
- 数据分析快速开发平台:包含统一数据访问接口,数据建模,数据治理,数据展现☆23Updated 7 years ago
- 数据处理平台☆16Updated 8 years ago
- 新零售大数据平台-运维监控平台的开发☆14Updated 6 years ago
- 股票交易数据处理的整个业务流程 数据源--->数据采集--->数据归类--->数据储存--->数据分析--->数据可视化☆31Updated 8 years ago
- 基于Flink流处理的动态实时亿级全端用户画像系统可视化界面☆35Updated 2 years ago
- 蓝泰源大数据基础平台☆17Updated 7 years ago
- 大数据建模分析平台☆66Updated 6 years ago
- 数据库访问中间件,统一的标准sql查询,底层可以是不同的数据库包括mysql、ElasticSearch、kylin、presto等。☆15Updated 7 years ago
- 论坛日志分析系统清洗程序(包含IP规则库,UDF开发,MapReduce程序,日志数据)☆33Updated 7 years ago
- spark流式计算电商商品关注度+推荐系统/关联系统☆15Updated 7 years ago
- SparkSQL数据分析案例☆23Updated 8 years ago
- 金融风控系统(springboot+drools)、flink流计算、mongodb☆167Updated 3 years ago
- dw etl 工具 mysql 增量、全量抽取 to hive. 合并 hive 数据表, 等数据平台清洗工具☆10Updated 8 years ago
- 基于flink的推荐系统,实时获取kafka数据进行数据清洗,离线计算进行文件读取(文件,mongodb,hbase)运用协同过滤算法进行计算得出 推荐数据☆20Updated 3 years ago
- 基于DataX的通用数据同步微服务,一个Restful接口搞定所有通用数据同步☆53Updated 3 years ago
- 用户画像平台,涵盖标签管理,用户画像报告,用户分群,用户360视角,oneId服务☆106Updated 2 years ago
- 信托数据仓库及商业智能☆32Updated 7 years ago
- spring+spark streaming+kafka 10版本集成和异常问题处理☆17Updated 8 years ago
- springboot+vue页面 REST代码生成器,生成单表的增删改查☆30Updated 2 years ago
- 封装了一个简易的hbase-orm框架☆27Updated 7 years ago