peopleindreamdontsleep / SparkanSpiderLinks
java爬虫,反爬虫策略、ETL清洗数据,以及spark离线和实时分析新闻并存入ES
☆20Updated 6 years ago
Alternatives and similar repositories for SparkanSpider
Users that are interested in SparkanSpider are comparing it to the libraries listed below
Sorting:
- 大数据平台相关代码(ES/Hive/Hadoop/hdfs/hbase)☆75Updated 2 years ago
- 使用Storm实时处理交通大数据(数据源:kafka,集群管理:zookeeper)☆51Updated 2 years ago
- 数据可视化, 数据挖掘, 数据处理 ETL分析☆168Updated 3 years ago
- 实时风控系统,基于spark-streaming、drools、kafka、redis☆53Updated 6 years ago
- 论坛日志分析系统清洗程序(包含IP规则库,UDF开发,MapReduce程序,日志数据)☆33Updated 7 years ago
- 基于Flink流处理的动态实时亿级全端用户画像系统 可视化界面☆36Updated 2 years ago
- 使用spark对hive、hbase、ES的读写, 实现一次配置可对不同数据库进行导入导出,并对ES、hbase进行封装☆33Updated 8 years ago
- 大数据招聘信息分析平台☆44Updated 9 years ago
- spark流式计算电商商品关注度+推荐系统/关联系统☆15Updated 7 years ago
- 股票交易数据处理的整个业务流程 数据源--->数据采集--->数据归类--->数据储存--->数据分析--->数据可视化☆31Updated 8 years ago
- 用户画像平台,涵盖标签管理,用户画像报告,用户分群,用户360视角,oneId服务☆103Updated last year
- 用户画像代码,根据算法推算出用户的性别和年龄比率☆11Updated 7 years ago
- 金融风控系统(springboot+drools)、flink流计算、mongodb☆162Updated 3 years ago
- kafka传数据到Flink存储到mysql之Flink使用SQL语句聚合数据流(设置时间窗口,EventTime)☆32Updated 7 years ago
- 数据分析快速开发平台:包含统一数据访问接口,数据建模,数据治理,数据展现☆23Updated 7 years ago
- springboot+vue页面 REST代码生成器,生成单表的增删改查☆30Updated 2 years ago
- 基于flink的推荐系统,实时获取kafka数据进行数据清洗,离线计算进行文件读取(文件,mongodb,hbase)运用协同过滤算法进行计算得出推荐数据☆20Updated 3 years ago
- 大数据建模分析平台☆65Updated 6 years ago
- 项目主要着手于获取最新最热新闻资讯,通过大数据分析用户喜好精确推送咨询新闻。是对在线教育平台业务进行大数据统计分析的系统。碎片化、切换频繁、社交化和个性化现如今成为人们阅读行为的标签。项目对海量信息进行搜集,通过系统计算分类,分析用户的兴趣进行推送从而满足用户的需求。☆21Updated 4 years ago
- 信托数据仓库及商业智能☆32Updated 7 years ago
- 蜂鸟数据分析平台帮助企业快速完成多数据整合,建立统一数据口径,支持自助式数据准备(ETL), 并提供可视化分析,帮助企业构建贴合自身业务的企业洞察,并将数据决策覆盖各层员工及应用场景☆21Updated 6 years ago
- Spark混合推荐系统大数据监控平台☆12Updated 7 years ago
- 基于Hadoop和HBase的大规模海量数据去重☆30Updated 7 years ago
- 基于sqoop封装的一个通用的抽取工具,方便数据平台界面提交任务以及数据源管理☆10Updated 8 years ago
- 基于词典的负面舆情信息评分算法。☆26Updated 10 years ago
- 在公司接了一个任务,完成一个项目数据同步的模块。要求是不能操作项目的数据库。怕操作不当,数据丢失。所以想到的方案是使用log4jdbc记录数据源的SQL语句到日志文件。然后按行读取日志文件中的数据,记录读取的Point,以便下次继续读取。读取的数据进入bigqueue队列,…☆12Updated 7 years ago
- DataX 是异构数据广泛使用的离线数据同步工具/平台,实现包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、OTS、ODPS 等各种异构数据源之间高效的数据同步功能。☆23Updated 7 years ago
- 基于Spark和Kubernetes的机器学习平台☆31Updated 7 years ago
- dw etl 工具 mysql 增量、全量抽取 to hive. 合并 hive 数据表, 等数据平台清洗工具☆9Updated 8 years ago
- spring cloud集成全渠道在线客服以及后台管理系统,所有微服务之间的消息传递采用区块链技术,持续更新中~~目标是:第一阶段:采用spring cloud微服务搭建后台管理系统第二阶段:集成在线客服,采用netty实现websocket长连接第三阶段:集成h5、微信、…☆18Updated 2 years ago