yuhao 爬虫 小红书(采集小红书 数据 爬虫)
1MediaCrawler是什么 2MediaCrawler功能列表 3MediaCrawler如何使用 3.1创建并激活 python 虚拟环境 3.2安装依赖库 3.3安装 playwright浏览器驱动 3.4运行爬虫程序 3.5数据保存 4开源小红书抖音微博爬虫工具MediaCrawler是什么
MediaCrawler是一个在线开源的小红书抖音微博爬虫工具，支持目前能抓取小红书、抖音、快手、B站、微博的视频、图片、评论、点赞、转发等信息。工具原理是利用playwright搭桥，保留登录成功后的上下文浏览器环境，通过执行JS表达式获取一些加密参数 通过使用此方式，免去了复现核心加密JS代码，逆向难度大大降低，使用需要一定的技术知识。
MediaCrawler功能列表
MediaCrawler如何使用创建并激活 python 虚拟环境
# 进入项目根目录cd MediaCrawler# 创建虚拟环境python -m venv venv# macos & linux 激活虚拟环境source venv/bin/activate# windows 激活虚拟环境venvScriptsactivate
安装依赖库
pip3 install -r requirements.txt
安装 playwright浏览器驱动
playwright install
运行爬虫程序
# 默认没有开启评论爬取模式，有需要请到配置文件中指定# 从配置文件中读取关键词搜索相关的帖子并爬去帖子信息与评论python main.py --platform xhs --lt qrcode --type search# 从配置文件中读取指定的帖子ID列表获取指定帖子的信息与评论信息python main.py --platform xhs --lt qrcode --type detail# 打开对应APP扫二维码登录 # 其他平台爬虫使用示例, 执行下面的命令查看python main.py --help
数据保存支持保存到关系型数据库（Mysql、PgSQL等）支持保存到csv中（data/目录下）支持保存到json中（data/目录下）开源小红书抖音微博爬虫工具
源码备份：国内网盘
