sunshineyg2018 / spider_works
一站式爬取多个平台的数据，可自动清洗整理成需要的格式 目前支持的平台:微博 后期新增：微信，知乎，雪球，小红书 等
☆13Updated last year
Alternatives and similar repositories for spider_works:
Users that are interested in spider_works are comparing it to the libraries listed below
- 知网论文数据爬虫☆54Updated last year
- [2023.05.09]基于selenium的新浪微博关键字搜索结果全自动爬虫，支持自定义搜素关键字、搜索起始时间、爬取起始页数（以实现中断后接上次继续爬取）。爬取内容包括微博账号、发文时间、发送平台、微博内容、转发次数、评论次数、点赞次数、原博地址。☆32Updated last year
- 知乎爬虫，用于爬取问题和对应的回答☆28Updated 2 years ago
- 一些 Python 爬虫练习：bilibili用户信息爬取、下载工具、房天下新房二手房redis分布式爬虫、简书全站文章爬取、观察者网站首页新闻爬取、淘宝模拟登陆、淘宝搜索商品信息爬取及可视化展示、知乎问题回答信息爬取\抖音无水印视频下载☆136Updated 3 months ago
- 这是一个基金评论与股票市场的情感分析项目，目的是手动爬取天天基金网基民评论与东方财富网股市行情的资讯，从基民评论、重仓股票、市场行情三个方面出发，使用情感词典与LDA模型进行分析，从而做出是否值的购买基金的决策。带有标签clean的是清洗后的爬虫数据，没有带标签的是原始数据…☆27Updated 2 years ago
- 本项目利用Python的scrapy框架爬取链家网的上海市租房信息，利用pandas、numpy、matplotlib、seaborn、folium 、wordcloud 等库进行数据分析和可视化，通过one-hot编码和文本特征提取出120个训练特征，搭建3层神经网络对上…☆69Updated 4 years ago
- 本项目为中南财经政法大学统数学院“基于大语言模型的网络舆情态势感知研究——舆情评论的群体情绪与语义标签化分析”项目中期研究进展情况的部分程序文件☆16Updated 11 months ago
- 本爬虫用于爬取知乎网站问题、回答的相关字段信息，问题 的标题、内容、发布时间、话题、回答数量、评论数、点击数、关注数等字段，及对该问题回答的内容，作者、点赞数、评论数、回答时间等等字段信息。可用于对社会话题、热点进行数据分析。☆43Updated 6 years ago
- BOSS直聘爬虫和数据清洗及分析（2023.05.23时可用）☆36Updated last year
- 知乎爬虫☆34Updated last year
- 微博关键词搜索爬虫、微博爬虫、链家房产爬虫、新浪新闻爬虫、腾讯招聘爬虫、招投标爬虫☆37Updated 6 years ago
- 小红书笔记爬虫☆145Updated 3 years ago
- 基于Scrapy和Django的二手房爬虫及可视化☆10Updated 2 years ago
- 各种爬虫：爱企查爬虫，网上114企业信息爬虫，抖音视频爬虫，wipo爬虫， 专利信息爬虫（patentscope）☆73Updated 3 years ago
- 微博的爬虫，从个人主页开始 爬博文和评论，用的scrapy 框架☆29Updated 2 months ago
- 知网爬虫cnkispider，输入关键字爬取知网检索数据☆34Updated 7 years ago
- 工信部新能源汽车数据爬虫☆38Updated 6 years ago
- 利用网络爬虫技术，从国内外各大高校公开的网站和资源上，搜寻并下载各个高校专家，教授等学者信息，并为这些学者研究方向建立画像系统。用户可以按学校，专业，学科，论文，研究方向等各个维度去查看和对比各位学者的研究领域信息。 基本模块：专家数据爬取模块，论文信息爬取模块，基于专家…☆19Updated 5 years ago
- 爬取大众点评，查询企业微信，和自动清理微信被删好友☆28Updated 6 months ago
- 该项目是基于Scrapy框架的Python新闻爬虫，能够爬取网易，搜狐，凤凰和澎湃网站上的新闻，将标题，内容，评论，时间等内容整理并保存到本地☆39Updated 5 years ago
- 爬虫学习。实战：微博各种类型爬虫，唯品会商品，淘宝商品等☆83Updated last year
- 基于知乎文本数据的lda和word2vec模型☆16Updated 4 years ago
- 本程序支持关键词搜索、热榜、用户信息、回答、专栏文章、评论等信息的抓取☆27Updated 2 years ago
- 上海地区新房和二手房数据的爬虫抓取, 数据处理和可视化分析☆35Updated 2 years ago
- 支持对多行的中文文本文件进行分词，并通过 API 接口导出生成的词云图片 (.png) 和词频统计 (.csv) 。☆12Updated 3 years ago
- 数据挖掘常用算法：关联分析Apriori算法，数据分类决策树算法，数据聚类K-means算法☆25Updated 5 years ago
- recruit 招聘爬虫+数据分析 1.爬虫： 采用Scrapy 分布式爬虫技术，使用mongodb作为数据存储，爬取的网站Demo为51job，数据我目前爬了有几千条 2.数据处理： 采用pandas对爬取的数据进行清洗和处理 2.数据分析： …☆141Updated 3 years ago
- 大众点评(商家信息、评论)爬取☆64Updated last year
- python爬虫及数据分析实战案例☆44Updated 4 years ago
- 爬取小红书评论区的用户名、小红书号、评论，并保存为excel。☆36Updated 2 years ago