-
教你用20行代码爬取直播平台弹幕(附源码)
前言
本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。
Python爬虫、数据分析、网站开发等案例教程视频免费在线观看
基本开发环境
- Python 3.6
- Pycharm
相关模块的使用
import requests
斗鱼直播视频弹幕爬取分析
斗鱼就选择<一条小团团>的直播视频,毕竟大主播弹幕发送会多一些。
复制其中一条弹幕,复制在开发者工具当中进行搜索。就可以看到相对应的弹幕数据。
一个url地址,是包含了500条弹幕数据。
url地址有三个参数:
vid:视频ID (不改变的)
start_time:视频开始的时间
end_time:不改变的
前500条弹幕数据开始的时间是0,就是从视频最开始的时候,下一个开始的时候是可以在数据中找到的。
end_time:500条弹幕数据结束的时间,那不就是下一次弹幕数据开始的时间嘛。
最后一次的弹幕url地址:end_time:-1 ,所以给一个判断跳出循环即可。
完整实现代码
import requests url = 'https://v.douyu.com/wgapi/vod/center/getBarrageList?vid=Bjq4MeYNqLxM5Ea8&start_time=0&end_time=-1' while True: headers = { 'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36' } response = requests.get(url=url, headers=headers) html_data = response.json() next_time = html_data['data']['end_time'] lis = html_data['data']['list'] for li in lis: barrage = li['ctt'] with open('dy弹幕.txt', mode='a', encoding='utf-8') as f: f.write(barrage) f.write(' ') print(barrage) url = f'https://v.douyu.com/wgapi/vod/center/getBarrageList?vid=Bjq4MeYNqLxM5Ea8&start_time={next_time}&end_time=-1' if next_time == -1: break
总计弹幕数量:8627
词云效果
虎牙直播视频弹幕爬取分析
主播那肯定是选择<永远滴神>
分析思路和斗鱼弹幕是一样的。
url地址有4个参数:
callback:可以不添加,不添加可以直接取json数据,添加之后就是字符串
vid:视频ID (不改变的)
beginTime:视频开始的时间
_:时间戳
下次开始的时间在数据接口中同样有。
完整实现代码
import requests import time now_time = int(time.time() * 1000) url = f'https://cxt.huya.com/open/danmu/timelist.do?vid=431927895&beginTime=0&_={now_time}' while True: headers = { 'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36' } response = requests.get(url=url, headers=headers) html_data = response.json() if html_data: nextBeginTime = html_data['nextBeginTime'] lis = html_data['list'] for li in lis: barrage = li['text'] with open('hy弹幕.txt', mode='a', encoding='utf-8') as f: f.write(barrage) f.write(' ') url = f'https://cxt.huya.com/open/danmu/timelist.do?vid=431927895&beginTime={nextBeginTime}&_={now_time}' print(nextBeginTime) else: break
总计弹幕数量:1280
词云效果
最新更新
nodejs爬虫
Python正则表达式完全指南
爬取豆瓣Top250图书数据
shp 地图文件批量添加字段
爬虫小试牛刀(爬取学校通知公告)
【python基础】函数-初识函数
【python基础】函数-返回值
HTTP请求:requests模块基础使用必知必会
Python初学者友好丨详解参数传递类型
如何有效管理爬虫流量?
2个场景实例讲解GaussDB(DWS)基表统计信息估
常用的 SQL Server 关键字及其含义
动手分析SQL Server中的事务中使用的锁
openGauss内核分析:SQL by pass & 经典执行
一招教你如何高效批量导入与更新数据
天天写SQL,这些神奇的特性你知道吗?
openGauss内核分析:执行计划生成
[IM002]Navicat ODBC驱动器管理器 未发现数据
初入Sql Server 之 存储过程的简单使用
SQL Server -- 解决存储过程传入参数作为s
JavaScript判断两个数组相等的四类方法
js如何操作video标签
React实战--利用甘特图和看板,强化Paas平
【记录】正则替换的偏方
前端下载 Blob 类型整理
抽象语法树AST必知必会
关于JS定时器的整理
JS中使用Promise.all控制所有的异步请求都完
js中字符串的方法
import-local执行流程与node模块路径解析流程