F-debug / NewsSpider
该项目是基于Scrapy框架的Python新闻爬虫，能够爬取网易，搜狐，凤凰和澎湃网站上的新闻，将标题，内容，评论，时间等内容整理并保存到本地
☆36Updated 5 years ago
Related projects ⓘ
Alternatives and complementary repositories for NewsSpider
- 分布式采集拉钩网中杭州爬虫相关职位的数据并使用Flask进行数据的可视化与分析☆37Updated 6 years ago
- 豆瓣Top250影评爬虫（用于情感分析语料）☆21Updated last year
- 线下爬虫设计 舆情新闻系统 LDA主题分类 关键字提取 实现一个文本分类器☆14Updated 5 years ago
- 文本分类是指在给定分类体系下 , 根 据文本的内容自动确定文本类别的过程。首先我们根据scrapy爬虫根据中国知网URL的规律，爬取70多万条2014年公开的发明专利，然后通过数据清洗筛选出了60多万条含标签数据。通过TF-IDF对60多万条本文进行词频提取，依照词频排序提取…☆103Updated 6 years ago
- 爬虫+数据分析可视化。爬取的网站有：知乎，淘宝，新浪微博，微信公众号，猫途鹰，今日头条，虎嗅网，人人都是产品经理，猫眼电影☆64Updated 5 years ago
- 基于 Scrapy 的新闻智能分类微信小程序，是一个文本分类相关的应用，目的是打造出一个可以对新闻进行智能分类的微信小程序。技术栈：Python + Scrapy + MongoDB + scikit-learn + Flask + 微信小程序，涉及爬虫、文本分类、Web …☆58Updated 5 years ago
- 微博的爬虫，爬个人主页，用的scrapy 框架☆23Updated 6 months ago
- 基于Scrapy和Django的二手房爬虫及可视化☆10Updated last year
- 一些 Python 爬虫练习：bilibili用户信息爬取、下载工具、房天下新房二手房redis分布式爬虫、简书全站文章爬取、观察者网站首页新闻爬取、淘宝模拟登陆、淘宝搜索商品信息爬取及可视化展示、知乎问题回答信息爬取\抖音无水印视频下载☆119Updated 4 years ago
- 京东爬虫（大量注释，对刚入门爬虫者极度友好）☆69Updated 5 years ago
- 依据香港中文大学设计的规则系统，先用小样本评论建立初始关键词库，再结合18种句式逐条匹配评论，能够快速准确地识别评论对象及情感极性。经多次迭代优化关键词库后，达到较高准确率的基础上，使用Tableau进一步分析数据，识别出客户集中关注的商品属性、普遍好评差评的商品属性；通过…☆53Updated 7 years ago
- 爬取汽车之家的口碑数据，并破解前端js反爬虫措施分析☆62Updated 7 years ago
- Python编写的爬虫框架以及特定网站的信息抓取☆17Updated 7 years ago
- 基于selenium的轻量级新浪微博爬虫，可实现：1.后台自动爬取微博搜索结果/2.按时间段爬取搜索结果/3.爬取用户基本信息☆48Updated 4 years ago
- 本爬虫用于爬取知乎网站问题、回答的相关字段信息，问题的标题、内容、发布时间、话题、回答数量、评论数、点击数、关注数等字段，及对该问题回答的内容，作者、点赞数、评论数、回答时间等等字段信息。可用于对社会话题、热点进行数据分析。☆39Updated 5 years ago
- 淘宝爬虫命令行版，指定爬取淘宝商品和评论，利用selenium爬取商品信息，requests爬取评论信息。☆88Updated 4 years ago
- 微博爬虫，爬去微博语料，情感分析，user-agent池，充足IP，scrapy，mongodb☆16Updated 6 years ago
- Python爬取微博，采集的数据属性如下：微博内容，是否原创，转发内容，发布时间，转发数，评论数，点赞数，设备源，微博ID。对于抓取到的页面源码分析不同属性对应的标签分别提取数据。最后将采集到的数据保存为csv格式，供数据分析使用。☆32Updated 5 years ago
- 基于scrapy的中国国内各大新闻网站内容爬虫☆25Updated 2 years ago
- 豆瓣电影（短评）爬虫☆50Updated 6 years ago
- 基于scrapy-redis的分布式新闻爬虫，可同时获取腾讯、网易、搜狐、凤凰网、新浪、东方财富、人民网等各大平台新闻资讯☆41Updated 6 years ago
- 今日头条爬虫，主要爬取关键词搜索结果，包含编辑距离算法、奇异值分解、k-means聚类。☆71Updated 5 years ago
- 携程/榛果民宿实时评论挖掘软件，包含数据的实时采集/数据清洗/结构化保存/ UGC 数据主题提取/情感分析/后结构化可视化等技术的综合性演示 Demo。基于在线民宿 UGC 数据的意见挖掘项目，包含数据挖掘和 NLP 相关的处理，负责数据采集、主题抽取、情感分析等任务。主要…☆70Updated 3 years ago
- 各种爬虫：爱企查爬虫，网上114企业信息爬虫，抖音视频爬虫，wipo爬虫， 专利信息爬虫（patentscope）☆71Updated 3 years ago
- 利用文本挖掘技术进行新闻热点关注问题分析☆156Updated 5 years ago
- 搜索引擎关键词排位爬虫，包括百度，搜狗，360的搜索引擎关键词排位爬虫，关键词从百度热词中取得，排位分别从三个搜索引擎中抓取。☆19Updated 5 years ago
- 基于新浪微博的面向食品安全的舆情话题检测与追踪系统☆12Updated 2 years ago
- 毕业设计京东商品评论爬虫分析☆12Updated 5 years ago