Puppeteer 介绍
Puppeteer
翻译是操纵木偶的人,利用这个工具,我们能做一个操纵页面的人。 Puppeteer
是一个 Nodejs
的库,支持调用 Chrome的API来操纵Web
,相比较 Selenium
或是 PhantomJs
,它最大的特点就是它的操作 Dom
可以完全在内存中进行模拟既在 V8
引擎中处理而不打开浏览器,而且关键是这个是Chrome团队在维护,会拥有更好的兼容性和前景。
Puppeteer
用处
- 利用网页生成PDF、图片
- 爬取SPA应用,并生成预渲染内容(即“SSR” 服务端渲染)
- 可以从网站抓取内容
- 自动化表单提交、UI测试、键盘输入等
- 帮你创建一个最新的自动化测试环境(chrome),可以直接在此运行测试用例6.捕获站点的时间线,以便追踪你的网站,帮助分析网站性能问题
Puppeteer 使用
安装 Puppeteer
由于封网,直接下载 Chromium
会失败,可以先阻止下载 Chromium
然后再手动下载它
# 安装命令 npm i puppeteer --save # 错误信息 ERROR: Failed to download Chromium r515411! Set "PUPPETEER_SKIP_CHROMIUM_DOWNLOAD" env variable to skip download. # 设置环境变量跳过下载 Chromium set PUPPETEER_SKIP_CHROMIUM_DOWNLOAD=1 # 或者可以这样干,只下载模块而不build npm i --save puppeteer --ignore-scripts # 成功安装模块 + puppeteer@0.13.0 added 1 package in 1.77s
手动下载 Chromium,下载完后将压缩包解压,会有个 Chromium.app,将其放在你喜欢的目录下,例如 /Users/huqiyang/Documents/project/z/chromium/Chromium.app
。正常安装包后 Chromium.app 会在 .local-chromium
中
Tip:下载 Chromium 失败解决办法
更换国内Chromium源
PUPPETEER_DOWNLOAD_HOST=https://storage.googleapis.com.cnpmjs.org npm i puppeteer
或者用 cnpm 安装
npm install -g cnpm --registry=https://registry.npm.taobao.org cnpm i puppeteer
点击查阅 Puppeteer API
初试 Puppeteer,截个图吧
知识点
- puppeteer.launch 启动浏览器实例
- browser.newPage() 创建一个新页面
- page.goto 进入指定网页
- page.screenshot 截图
const puppeteer = require('puppeteer'); (async () => { const browser = await (puppeteer.launch({ // 若是手动下载的chromium需要指定chromium地址, 默认引用地址为 /项目目录/node_modules/puppeteer/.local-chromium/ executablePath: '/Users/huqiyang/Documents/project/z/chromium/Chromium.app/Contents/MacOS/Chromium', //设置超时时间 timeout: 15000, //如果是访问https页面 此属性会忽略https错误 ignoreHTTPSErrors: true, // 打开开发者工具, 当此值为true时, headless总为false devtools: false, // 关闭headless模式, 不会打开浏览器 headless: false })); const page = await browser.newPage(); await page.goto('https://www.jianshu.com/u/40909ea33e50'); await page.screenshot({ path: 'jianshu.png', type: 'png', // quality: 100, 只对jpg有效 fullPage: true, // 指定区域截图,clip和fullPage两者只能设置一个 // clip: { // x: 0, // y: 0, // width: 1000, // height: 40 // } }); browser.close(); })();
运行结果
进阶,获取网易云音乐的歌词和评论
网易云音乐的API经过AES和RSA算法加密,需要携带加密的信息通过POST方式请求才能获取到数据。但 Puppeteer
出现后,这些都不重要了,只要它页面上显示了,通过 Puppeteer
都能获取到该元素。
知识点
- page.type 获取输入框焦点并输入文字
- page.keyboard.press 模拟键盘按下某个按键,目前mac上组合键无效为已知bug
- page.waitFor 页面等待,可以是时间、某个元素、某个函数
- page.frames() 获取当前页面所有的 iframe,然后根据 iframe 的名字精确获取某个想要的 iframe
- iframe.$('.srchsongst') 获取 iframe 中的某个元素
- iframe.evaluate() 在浏览器中执行函数,相当于在控制台中执行函数,返回一个 Promise
- Array.from 将类数组对象转化为对象
- page.click() 点击一个元素
- iframe.$eval() 相当于在 iframe 中运行 document.queryselector 获取指定元素,并将其作为第一个参数传递
- iframe.$$eval 相当于在 iframe 中运行 document.querySelectorAll 获取指定元素数组,并将其作为第一个参数传递
const fs = require('fs'); const puppeteer = require('puppeteer'); (async () => { const browser = await (puppeteer.launch({ executablePath: '/Users/huqiyang/Documents/project/z/chromium/Chromium.app/Contents/MacOS/Chromium', headless: false })); const page = await browser.newPage(); // 进入页面 await page.goto('https://music.163.com/#'); // 点击搜索框拟人输入 鬼才会想起 const musicName = '鬼才会想'; await page.type('.txt.j-flag', musicName, {delay: 0}); // 回车 await page.keyboard.press('Enter'); // 获取歌曲列表的 iframe await page.waitFor(2000); let iframe = await page.frames().find(f => f.name() === 'contentFrame'); const SONG_LS_SELECTOR = await iframe.$('.srchsongst'); // 获取歌曲 鬼才会想起 的地址 const selectedSongHref = await iframe.evaluate(e => { const songList = Array.from(e.childNodes); const idx = songList.findIndex(v => v.childNodes[1].innerText.replace(/\s/g, '') === '鬼才会想起'); return songList[idx].childNodes[1].firstChild.firstChild.firstChild.href; }, SONG_LS_SELECTOR); // 进入歌曲页面 await page.goto(selectedSongHref); // 获取歌曲页面嵌套的 iframe await page.waitFor(2000); iframe = await page.frames().find(f => f.name() === 'contentFrame'); // 点击 展开按钮 const unfoldButton = await iframe.$('#flag_ctrl'); await unfoldButton.click(); // 获取歌词 const LYRIC_SELECTOR = await iframe.$('#lyric-content'); const lyricCtn = await iframe.evaluate(e => { return e.innerText; }, LYRIC_SELECTOR); console.log(lyricCtn); // 截图 await page.screenshot({ path: '歌曲.png', fullPage: true, }); // 写入文件 let writerStream = fs.createWriteStream('歌词.txt'); writerStream.write(lyricCtn, 'UTF8'); writerStream.end(); // 获取评论数量 const commentCount = await iframe.$eval('.sub.s-fc3', e => e.innerText); console.log(commentCount); // 获取评论 const commentList = await iframe.$$eval('.itm', elements => { const ctn = elements.map(v => { return v.innerText.replace(/\s/g, ''); }); return ctn; }); console.log(commentList); })();
运行结果
高级爬虫
爬取SPA应用,并生成预渲染内容(即“SSR” 服务端渲染),通俗讲就是在页面上显示的内容我们都能获取到。下面我们就通过爬取 瓜子二手车直卖网
的车辆信息来认识它。
首先通过 axios
来试试
const axios = require('axios'); const useAxios = () => { axios.get('https://www.guazi.com/hz/buy/') .then(((result) => { console.log(result.data); })) .catch((err) => { console.log(err); }); };
结果它返回给我这个玩意,这显然不是我要的内容
通过 Puppeteer
爬取
const fs = require('fs'); const puppeteer = require('puppeteer'); (async () => { const browser = await (puppeteer.launch({ executablePath: '/Users/huqiyang/Documents/project/z/chromium/Chromium.app/Contents/MacOS/Chromium', headless: true })); const page = await browser.newPage(); // 进入页面 await page.goto('https://www.guazi.com/hz/buy/'); // 获取页面标题 let title = await page.title(); console.log(title); // 获取汽车品牌 const BRANDS_INFO_SELECTOR = '.dd-all.clearfix.js-brand.js-option-hid-info'; const brands = await page.evaluate(sel => { const ulList = Array.from($(sel).find('ul li p a')); const ctn = ulList.map(v => { return v.innerText.replace(/\s/g, ''); }); return ctn; }, BRANDS_INFO_SELECTOR); console.log('汽车品牌: ', JSON.stringify(brands)); let writerStream = fs.createWriteStream('car_brands.json'); writerStream.write(JSON.stringify(brands, undefined, 2), 'UTF8'); writerStream.end(); // await bodyHandle.dispose(); // 获取车源列表 const CAR_LIST_SELECTOR = 'ul.carlist'; const carList = await page.evaluate((sel) => { const catBoxs = Array.from($(sel).find('li a')); const ctn = catBoxs.map(v => { const title = $(v).find('h2.t').text(); const subTitle = $(v).find('div.t-i').text().split('|'); return { title: title, year: subTitle[0], milemeter: subTitle[1] }; }); return ctn; }, CAR_LIST_SELECTOR); console.log(`总共${carList.length}辆汽车数据: `, JSON.stringify(carList, undefined, 2)); // 将车辆信息写入文件 writerStream = fs.createWriteStream('car_info_list.json'); writerStream.write(JSON.stringify(carList, undefined, 2), 'UTF8'); writerStream.end(); browser.close(); })();
运行结果
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。
免责声明:本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除!
《魔兽世界》大逃杀!60人新游玩模式《强袭风暴》3月21日上线
暴雪近日发布了《魔兽世界》10.2.6 更新内容,新游玩模式《强袭风暴》即将于3月21 日在亚服上线,届时玩家将前往阿拉希高地展开一场 60 人大逃杀对战。
艾泽拉斯的冒险者已经征服了艾泽拉斯的大地及遥远的彼岸。他们在对抗世界上最致命的敌人时展现出过人的手腕,并且成功阻止终结宇宙等级的威胁。当他们在为即将于《魔兽世界》资料片《地心之战》中来袭的萨拉塔斯势力做战斗准备时,他们还需要在熟悉的阿拉希高地面对一个全新的敌人──那就是彼此。在《巨龙崛起》10.2.6 更新的《强袭风暴》中,玩家将会进入一个全新的海盗主题大逃杀式限时活动,其中包含极高的风险和史诗级的奖励。
《强袭风暴》不是普通的战场,作为一个独立于主游戏之外的活动,玩家可以用大逃杀的风格来体验《魔兽世界》,不分职业、不分装备(除了你在赛局中捡到的),光是技巧和战略的强弱之分就能决定出谁才是能坚持到最后的赢家。本次活动将会开放单人和双人模式,玩家在加入海盗主题的预赛大厅区域前,可以从强袭风暴角色画面新增好友。游玩游戏将可以累计名望轨迹,《巨龙崛起》和《魔兽世界:巫妖王之怒 经典版》的玩家都可以获得奖励。
更新日志
- 中国武警男声合唱团《辉煌之声1天路》[DTS-WAV分轨]
- 紫薇《旧曲新韵》[320K/MP3][175.29MB]
- 紫薇《旧曲新韵》[FLAC/分轨][550.18MB]
- 周深《反深代词》[先听版][320K/MP3][72.71MB]
- 李佳薇.2024-会发光的【黑籁音乐】【FLAC分轨】
- 后弦.2012-很有爱【天浩盛世】【WAV+CUE】
- 林俊吉.2012-将你惜命命【美华】【WAV+CUE】
- 晓雅《分享》DTS-WAV
- 黑鸭子2008-飞歌[首版][WAV+CUE]
- 黄乙玲1989-水泼落地难收回[日本天龙版][WAV+CUE]
- 周深《反深代词》[先听版][FLAC/分轨][310.97MB]
- 姜育恒1984《什么时候·串起又散落》台湾复刻版[WAV+CUE][1G]
- 那英《如今》引进版[WAV+CUE][1G]
- 蔡幸娟.1991-真的让我爱你吗【飞碟】【WAV+CUE】
- 群星.2024-好团圆电视剧原声带【TME】【FLAC分轨】