爬取 html 生成 pdf
首先看了这篇文章前端使用 puppeteer 爬虫生成《React.js 小书》PDF 并合并,发现最后的 pdf 没有书签,很难受,所以主要在此基础上加了加书签的功能。
爬去的示例网站为React.js 小书,仅做学习交流
针对网页生成 pdf
使用 puppeteer 爬取网页并生成 pdf
js
const puppeteer = require('puppeteer')
;(async () => {
const browser = await puppeteer.launch()
const page = await browser.newPage()
await page.goto('https://news.ycombinator.com', { waitUntil: 'networkidle2' })
await page.pdf({ path: 'hn.pdf', format: 'A4' })
await browser.close()
})()
合成 pdf
pdf-merge:合并 pdf
依赖于 pdftk
如何给 pdf 加上书签
pdftk:一个处理 pdf 的工具
- 安装后将 bin 目录添加到环境变量
利用update_info_utf8
给 pdf 增加书签:
pdftk 'd:\OpenSource\My\genpfdforrsb\React 小书(无书签).pdf' update_info_utf8 'd:\OpenSource\My\genpfdforrsb\bookmarks.txt' output 'd:\OpenSource\My\genpfdforrsb\React 小书.pdf'
书签是什么
也就是 bookmarks.txt
书签格式:
BookmarkBegin
BookmarkTitle: PDF Reference (Version 1.5)
BookmarkLevel: 1
BookmarkPageNumber: 1
BookmarkBegin
BookmarkTitle: Contents
BookmarkLevel: 2
BookmarkPageNumber: 3
确定书签页码
pdfjs-dist:获取单个 pdf 页数,用于 bookmarks.txt 中指定页码
生成书签
js
const pageArr = result.map(c => c.numPages)
let txt = ''
for (let index = 0; index < pageArr.length; index++) {
let temp = `BookmarkBegin\r\nBookmarkTitle: ${titleArr[index]}\r\nBookmarkLevel: 1\r\nBookmarkPageNumber: ${pageIndex}\r\n`
txt += temp
pageIndex += pageArr[index]
}
fs.writeFileSync('bookmarks.txt', txt)
加上书签
参考pdf-merge
源码,增加runshell.js
用于在 node 中执行pdftk
的命令
runshell.js 如下:
js
'use strict'
const child = require('child_process')
const Promise = require('bluebird')
const exec = Promise.promisify(child.exec)
module.exports = scripts =>
new Promise((resolve, reject) => {
exec(scripts)
.then(resolve)
.catch(reject)
})
执行 pdftk update_info_utf8
js
const nobkname = 'React 小书(无书签).pdf'
const hasbkname = 'React 小书.pdf'
mergepdf(nobkname).then(buffer => {
console.log('starting add bookmarks!')
runshell(
`pdftk "${__dirname}/${nobkname}" update_info_utf8 "${__dirname}/bookmarks.txt" output "${__dirname}/${hasbkname}"`
).then(() => {
console.log('completed add bookmarks!')
fs.unlinkSync(`${__dirname}/${nobkname}`)
fs.unlinkSync(`${__dirname}/bookmarks.txt`)
console.log('all completed!')
})
})
- 文件路径需要用双引号
源码:genpfdforrsb
问题
合并后的 pdf 页码不是连续的,还是单个 pdf 的页码