youngkuan / SpidersMaven
爬虫程序：支持爬取问答类网站（Quora/SO/Yahoo Answer/知乎/百度知道等）、百科类网站（百度百科/中英文维基百科等）、博客类网站（CSDN/Twitter等）
☆27Updated 7 years ago
Alternatives and similar repositories for SpidersMaven:
Users that are interested in SpidersMaven are comparing it to the libraries listed below
- 新闻爬虫 (腾讯,网易,新浪,今日头条,搜狐,凤凰网,腾讯滚动新闻)☆55Updated 6 years ago
- 文本分类是指在给定分类体系下 , 根据文本的内容自动确定文本类别的过程。首先我们根据scrapy爬虫根据中国知网URL的规律，爬取70多万条2014年公开的发明专利，然后通过数据清洗筛选出了60多万条含标签数据。通过TF-IDF对60多万条本文进行词频提取，依照词频排序提取…☆106Updated 7 years ago
- 中国知网爬虫☆149Updated 7 years ago
- 该项目是基于Scrapy框架的Python新闻爬虫，能够 爬取网易，搜狐，凤凰和澎湃网站上的新闻，将标题，内容，评论，时间等内容整理并保存到本地☆37Updated 5 years ago
- 豆瓣Top250影评爬虫（用于情感分析语料）☆21Updated 2 years ago
- 基于selenium的轻量级新浪微博爬虫，可实现：1.后台自动爬取微博搜索结果/2.按时间段爬取搜索结果/3.爬取用户基本信息☆49Updated 5 years ago
- 依据香港中文大学设计的规则系统，先用小样本评论建立初始关键词库，再结合18种句式逐条匹配评论，能够快速准确地识别评论对象及情感极性。经多次迭代优化关键词库后，达到较高准确率 的基础上，使用Tableau进一步分析数据，识别出客户集中关注的商品属性、普遍好评差评的商品属性；通过…☆53Updated 7 years ago
- self complemented BaiduIndexSpyder based on Selenium , index image decode and num image transfer，基于关键词的历时百度搜索指数自动采集☆41Updated 6 years ago
- 爬取汽车之家的口碑数据，并破解前端js反爬虫措施分析☆62Updated 7 years ago
- 汽车行业用户观点主题及情感识别☆24Updated 4 years ago
- A web crawler for Sina, search and retrieve microblogs that contain certain keywords 一个简单的python爬虫实践，爬取包含关键词的新浪微博☆98Updated 6 years ago
- 微博自动摘要系统 Chinese Microblog Automatic Summary System☆30Updated 5 years ago
- 练习题︱基于今日头条开源数据的文本挖掘☆84Updated 6 years ago
- self complemented WeiboIndexSpyder based on Selenium ，新浪微博指数(微指数)采集，包括综合指数，移动端指数，PC端指数☆31Updated 6 years ago
- 个人实现的基于Django与semantic-ui的语言计算实验平台, 功能包括自然语言综合处理,词语计算,社会热点计算,人物计算,文学画像,职位画像等社会计算功能☆29Updated 7 years ago
- 用python判断微博用户的影响力☆52Updated 8 years ago
- 爬虫项目，领英、专利、乐捐、好大夫、阿里拍卖、看准网、实习僧、百度百科、51job、智联招聘等近80个网站☆82Updated 4 years ago
- 搜索引擎关键词排位爬虫，包括百度，搜狗，360的搜索引擎关键词排位爬虫，关键词从 百度热词中取得，排位分别从三个搜索引擎中抓取。☆19Updated 5 years ago
- 2017 DF,CCF大数据与计算智能大赛——“中印对峙事件舆情分析”赛题全网数据☆25Updated 6 years ago
- 摘要、关键字、关键词组、文本相似度、分词分句（自然语言处理工具包）☆11Updated 5 years ago
- 对汽车之家论坛里的评论数据处理和分析，利用用户潜在行为数据得出用户行为特征，采用LDA主题模型得出用户评论的主题特征，采用Word2Vec词向量模型得出用户评论的文本内容特征，采用K-Means聚类得出水军文本类别，结合用户行为特征，最终实现了 对网络水军的识别。☆24Updated 5 years ago
- Python爬取微博，采集的数据属性如下：微博内容，是否原创，转发内容，发布时间，转发数，评论数，点赞数，设备源，微博ID。对于抓取到的页面源码分析不同属性对应的标签分别提取数据。最后将采集到的数据保存为csv格式，供数据分析使用。☆33Updated 5 years ago
- 爬取知网论文☆30Updated 7 years ago
- 发现新词 无监督词库生成 医学词库生成 发现未登录词☆77Updated 4 years ago
- 文章标签抽取☆15Updated 6 years ago
- 新闻网站爬虫,目前能够爬取网易，新浪，qq，搜狐等三家网站的新闻页面，并保存到本地。☆34Updated 9 years ago
- 一些 Python 爬虫练习：bilibili用户信息爬取、下载工具、房天下新房二手房redis分布式爬虫、简书全站文章爬取、观察者网站首页新闻爬取、淘宝模拟登陆、淘宝搜索商品信息爬取及可视化展示、知乎问题回答信息爬取\抖音无水印视频下载☆128Updated last month
- Self complemented Key infomation extraction including keywords, abstract from text using algorithm like textrank ,tfidf 基于Textrank算法的文本摘要…☆53Updated 6 years ago
- Scrapy 新浪微博搜索爬虫☆17Updated 5 years ago
- 基于scrapy-redis的分布式新闻爬虫，可同时获取腾讯、网易、搜狐、凤凰网、新浪、东方财富、人民网等各大平台新闻资讯☆42Updated 6 years ago