当前位置:
首页 > 编程开发 > Objective-C编程 >
-
C#爬虫(Selenium和WeiAPI)
目前对网页的爬虫一个是对网页直接爬取数据和WeiAPI的方式爬取,这取决于网址用的什么时候渲染的数据,然后展示在网页中。
首先我们对某一个网址准备爬取数据时候,你需要去研究这个网址是后台给前台是数据还是网页,这个时候我推荐 Fiddler 或者Fiddler.exe 和 postman 这两个软件进行研究,具体安装方式和使用方式可百度,有很多的教程;如果你不想下载,那在浏览器中按住 F12,然后如下图
如果Response里面是一个HTML,那说明这个不是WebAPI的方式,这个时候你就得选择网页爬虫,在C#NuGet里面添加 以下几个
ChromeOptions options = new ChromeOptions(); // 不显示浏览器 options.AddArgument("--headless"); // GPU加速可能会导致Chrome出现黑屏及CPU占用率过高,所以禁用 options.AddArgument("--disable-gpu"); //禁用浏览器的保存密码选项 options.AddUserProfilePreference("credentials_enable_service", false); options.BinaryLocation = webClientUrl; IWebDriver driver = new ChromeDriver(options); //进入的网址 driver.Navigate().GoToUrl(LoingUrl);//LoingUrl 就得需要连接的地址 // 设置页面加载时间 driver.Manage().Timeouts().PageLoad = TimeSpan.FromSeconds(2000); driver.FindElement(By.Id("txtUsername")).SendKeys(userName); driver.FindElement(By.Id("txtPassword")).SendKeys(userPassword); driver.FindElement(By.Id("imgBtnSignIn")).Click(); driver.Navigate().GoToUrl(listUrl);//需要获取数据的地址 var _trselector = driver.FindElements(By.CssSelector("这里是你需要获取数据的Clss或者ID对应的名称"));// 定位到表格下的每一个tr的数据 比如<div id="test_id"><div class="test">--------------</div></div> 那就是 by.CssSelector("#test_id .test") HtmlDocument htmlDocument = new HtmlDocument();//初始化一个HTMLDocument对象 htmlDocument.LoadHtml(_trselector .GetAttribute("innerHTML"));//这里是获取元素里面的内容 然后数据里面可能会有\n\t 等字符,我们需要把他给替换 可以使用Replace
2、webAPI
如果Response是这种,这后台采用的是WebAPI的方式,这个时候我们去Headers里面看看,RequestURL就是WebAPI的方法,而FormData就是参数,把URL和参数拼接一起即可得到数据,然后获取数据即可,代码如下。
WebAPI代码
public void GetData(){ CookieContainer httpCookie = DoLogin(UserName, Password); if (httpCookie == null) return;//登录是否成功 //获取WebApi的数据 string result_CIS = GetCISList(CISURL, httpCookie); ……………………这里就是对获取的数据进行处理解析 } private CookieContainer DoLogin(string username, string password, string LoginURL) { var client = new RestClient(LoginURL); var request = new RestRequest(Method.POST); //UserName=OECSHA&Password=Oecsha123!&OfficeCode= request.AddParameter("application/x-www-form-urlencoded", $"UserName={username}&Password={password}&OfficeCode=", ParameterType.RequestBody); client.CookieContainer = new System.Net.CookieContainer(); IRestResponse response = client.Execute(request); if (!response.IsSuccessful) return null; return client.CookieContainer; } private string GetCISList(string cISURL, CookieContainer httpCookie) { var client = new RestClient(cISURL+ "参数"); var request = new RestRequest(Method.POST);//采用的方式 client.CookieContainer = httpCookie; IRestResponse response = client.Execute(request); if (!response.IsSuccessful) return null; return response.Content; }
文章出处:https://www.cnblogs.com/my1227/p/13534861.html
最新更新
nodejs爬虫
Python正则表达式完全指南
爬取豆瓣Top250图书数据
shp 地图文件批量添加字段
爬虫小试牛刀(爬取学校通知公告)
【python基础】函数-初识函数
【python基础】函数-返回值
HTTP请求:requests模块基础使用必知必会
Python初学者友好丨详解参数传递类型
如何有效管理爬虫流量?
2个场景实例讲解GaussDB(DWS)基表统计信息估
常用的 SQL Server 关键字及其含义
动手分析SQL Server中的事务中使用的锁
openGauss内核分析:SQL by pass & 经典执行
一招教你如何高效批量导入与更新数据
天天写SQL,这些神奇的特性你知道吗?
openGauss内核分析:执行计划生成
[IM002]Navicat ODBC驱动器管理器 未发现数据
初入Sql Server 之 存储过程的简单使用
SQL Server -- 解决存储过程传入参数作为s
JavaScript判断两个数组相等的四类方法
js如何操作video标签
React实战--利用甘特图和看板,强化Paas平
【记录】正则替换的偏方
前端下载 Blob 类型整理
抽象语法树AST必知必会
关于JS定时器的整理
JS中使用Promise.all控制所有的异步请求都完
js中字符串的方法
import-local执行流程与node模块路径解析流程