yxlHuster / news-duplicated
文本去重算法，研究自推荐系统中新闻的去重，采用了雅虎的Near-duplicates and shingling算法，服务端用c实现，客户端用java实现，利用thrift框架进行通信，为了提高扩展性，去重可以在服务端实现，服务器也提供了计算的接口，方便客户端自己扩展
☆22Updated 10 years ago
Related projects ⓘ
Alternatives and complementary repositories for news-duplicated
- 基于词典的负面舆情信息评分算法。☆25Updated 9 years ago
- 搜狐实习自动回复项目：语音识别、问题过滤、答案推荐☆8Updated 10 years ago
- 推荐算法☆29Updated 9 years ago
- 读书笔记《自己动手写网络爬虫》，自己敲的代码。主要记录了网络爬虫的基本实现，网页去重的算法，网页指纹算法，文本信息挖掘☆47Updated 9 years ago
- 基于Nutch+ElasticSearch+MySQL+SSM的简易搜索引擎☆19Updated 8 years ago
- 本项目转移到https://github.com/cocolian/cocolian-nlp☆34Updated 10 years ago
- 新闻评论观点挖掘系统，粗粒度的分析出新闻网评观点的倾向和走势☆53Updated 9 years ago
- 分布式大数据SQL查询可视化界面！☆68Updated 9 years ago
- 分布式爬虫框架,基于webdrvier模拟用户请求,kafka消息传递,分布式网页存储使用hbase,task异步任务多线程解析,提供基础服务如:proxy ip服务和号码验证服务等, proxy page使用H5和we版进行接入☆13Updated 8 years ago
- 微博情感分析☆12Updated 11 years ago
- dw etl 工具 mysql 增量、全量抽取 to hive. 合并 hive 数据表, 等数据平台清洗工具☆9Updated 7 years ago
- nutz+jetty+h2 做的一个web应用☆40Updated 8 years ago
- 中文分词算法mmSeg实现,包含sougou词库☆20Updated 3 years ago
- 用户画像代码，根据算法推算出用户的性别和年龄比率☆11Updated 6 years ago
- 个性化的促销信息推荐系统☆26Updated 7 years ago
- 新浪微博模拟登陆2014-04-01版☆22Updated 10 years ago
- 迁移工具，目标是Oracle，MySQL，SqlServer到PostgreSQL的单项迁移，PostgreSQL和大数据平台Hive，Hbase，Impala等的双向迁移。☆9Updated 9 years ago
- 通过web服务器对word分词的资源进行集中统一管理☆17Updated 7 years ago
- 自定制的精准短文本搜索服务☆18Updated 3 years ago
- java开发的基于kafka、xlog的web日志实时分析storm topology。☆57Updated 9 years ago
- Refactored version for https://github.com/shirdrn/document-processor.git☆15Updated 7 years ago
- 使用Spark的MLlib、Hbase作为模型、Hive作数据清洗的核心推荐引擎,在Spark on Yarn测试通过☆29Updated 7 years ago
- A Web Page Of Public Sentiment For P2P Industry( P2P 行业的舆情分析前端展示)☆25Updated 8 years ago