zjucx / DistributedCrawlerLinks
分布式爬虫,redis缓存,mysql持久化,rpc实现分布式。可用docker部署
☆48Updated 8 years ago
Alternatives and similar repositories for DistributedCrawler
Users that are interested in DistributedCrawler are comparing it to the libraries listed below
Sorting:
- rstore是一个使用golang实现的快速、轻量级的数据库中间件,使用redis协议交互,根据路由规则,某类key可同时存放在mysql,postgresql,redis中。自带web管理工具☆26Updated 8 years ago
- 简单的、高可用、高效的基于共享内存的分布式配置中心,集中式管理各类后台配置,配置修改实时推送,且业务API相当简单(两行搞定,一个init+一个get,见readme),已轻量级支持Golang/C++/Java/Python等语言API☆40Updated 7 years ago
- 用go实现日志收集的客户端☆76Updated 5 years ago
- web部分(vuejs+beego框架+webpack组件化);爬虫部分(1680位明星的sina微博首页收据);分词部分(结巴分词);索引构建部分(快拍+败者树);索引搜索部分(倒排索引R+tree)☆72Updated 8 years ago
- 一个简单的分布式任务调度系统,有vue管理后台可以操作☆25Updated 6 years ago
- 基于Beego完成的合租短租web服务☆56Updated 6 years ago
- version_cache是一个分步式一致性缓存解决方案。☆12Updated 5 years ago
- dister(Distribution Cluster)是一款轻量级高性能的分布式集群管理软件,实现了分布式软件架构中的常用核心组件,包括:服务配置管理中心、服务注册与发现、服务健康检查、服务负载均衡。dister的灵感来源于ZooKeeper、Consul、Etcd,它们…☆42Updated 7 years ago
- 学习和研究Go的一些代码☆51Updated 7 years ago
- go-kit微服务实践,http restful api、日志功能、限流、服务监控、服务发现与注册、api网关、服务链路跟踪、服务熔断、jwt身份认证☆20Updated 6 years ago
- 可以支持1亿以上用户的IM系统☆32Updated 7 years ago
- go的一些高级技巧☆13Updated 6 years ago
- golang process monitor service 【golang实现的超简单超有用的进程监控服务】☆42Updated 7 years ago
- 常用的运维命令合集☆32Updated 7 years ago
- 以Kafka为存储介质,提供异步Http RPC的中间件☆89Updated 7 years ago
- netpoll事件驱动,goroutine协程池化,降低无效协程的资源占用,适用于高连接数(对于低频数据传输的场景,可以大幅降低协程数,提升资源利用率)☆30Updated 7 years ago
- MoonSocket——从零开始写Go网络通信框架☆39Updated 8 years ago
- 使用 gin 和 MongoDB 完成的 IoT 管理平台后端☆50Updated 6 years ago
- golang grpc gin☆32Updated 7 years ago
- golang taskino distributed scheduler☆49Updated 6 years ago
- Go工具库☆38Updated last year
- 《Go 语言高级编程》随书源码☆64Updated 6 years ago
- 简单高效的 Golang 日志库☆16Updated 6 years ago
- Go 实战百度云盘☆62Updated 6 years ago
- Distributed Job Schedule Platform With Goalng、Raft And Cron (分布式任务调度平台,核心理念:易部署、高可用、跨平台、异步并行、弹性伸缩、微服务)☆127Updated 3 years ago
- 基于go-mysql & gorail二次开发的binlog解析工具,使用MQ跨机房同步,增加了修改表结构后依然能正常工作的特性,多个mysql同时处理的功能☆64Updated 8 years ago
- go 开发经常用到的解析包☆72Updated 5 years ago
- 提供稳定,可靠的任务管理机制,直到任务被成功处理☆13Updated 4 years ago
- 配置管理平台:项目管理、配置管理、配置发布,配置接口等☆83Updated 5 years ago
- Protobuf RPC是一种基于TCP协议的二进制RPC通信协议的GO实现. JAVA实现:https://github.com/baidu/Jprotobuf-rpc-socket☆72Updated last year