一个保存微信文章的小工具

最近参考一些技术文章同时结合自己的思考用Python写了个可以批量保存微信文章的小工具。实现的功能是通过微信文章的链接将文章保存为图片、HTML以及PDF,使用方法很简单,不懂技术也能用。

写这个小工具源于我的一个习惯,在看到喜欢或者有启发的微信文章时,除了在微信收藏,我还会把它们保存下来。

一般手动操作的步骤,首先是把某篇公众号文章的链接放到谷歌浏览器的地址栏来打开文章,然后使用谷歌浏览器的打印功能将文章保存为PDF,按F12调出调试窗口后再按ctrl+shift+p调出命令输入框接着输入Capture full size screenshot按回车后保存为图片。


Chrome手动截图

一篇两篇文章这样操作还没什么,一旦想要保存的文章多了我就得一遍又一遍地重复上面的操作,这无疑是非常繁琐的。为了提高效率,我把这些步骤写成脚本,用Python来自动帮我完成,于是就有了这个工具。

只需要将公众号文章的链接放入到某个特定的txt文件,然后运行工具就可以批量地将微信文章保存为图片、HTML以及PDF。比之前的手动步骤方便多了。

下面的内容主要分为两部分,第一部分「使用指南」是讲如何使用这个工具的,第二部分「开发者指南」是讲这个工具的开发思路和代码逻辑,如果对代码不感兴趣直接略过第二部分就好。工具的使用和开发都是基于Win10系统的。

使用指南

1.获取相关文件

关注公众号「双城笔录」后发送文字「Python」获取网盘链接及提取码,通过链接下载相关压缩包

2.解压文件

将压缩包解压获得saveArticle文件夹,将该文件夹放到没有中文的路径下,里面的文件如下:


文件

如果压缩包中的谷歌浏览器、Chromedriver和wkhtmltopdf与你的系统不兼容,可以到下面的网址去下载适合的版本,将下载的包放在与exe文件相同的文件夹。其中谷歌浏览器、Chromedriver的版本要一致。

3.安装谷歌浏览器和wkhtmltopdf

  • 点击ChromeStandaloneSetup64.exe,在弹出的窗口点击“是”,等待安装完成即可。


    安装谷歌浏览器
  • 点击wkhtmltox-0.12.5-1.msvc2015-win64.exe,在弹出的窗口点击“是”,进入到下一步后点击“I Agree”,然后点击install将其安装在默认文件夹C:\Program Files\wkhtmltopdf,等待安装完成即可。


    安装wkhtmltopdf

4.填入公众号文章链接

在urls4.txt填写你需要保存的公众号文章的链接,注意一行只能写一条链接,注意不要有空格及其他特殊字符(urls4.txt中默认链接有两条微信文章的链接,第一次使用时可以先试下效果)

urls4.txt

5.运行工具

按照实际需要点击exe文件,其中三个exe的功能略有差别,请酌情选择,差别如下:

  • saveAricleToPIC.exe仅对文章进行截图
  • saveArticleToPIC_HTML.exe 对文章截图并保存为HTML(因为保存为PDF耗时会比较长,所以通常我会选择这种,既可以保留文章的格式又可以节约时间)
  • saveArticleToPIC_HTML_PDF.exe 对公众号文章截图、保存为HTML以及PDF

注意要在saveArticle文件夹中运行exe文件。

6.完成标志

命令提示符框显示"本次保存所有文章的总耗时为xx秒字样"时,表示已经完成本次操作


完成标志

开发指南

1.开发环境部署

使用的编程语言版本、浏览器版本、Chromedriver版本以及wkhtmltopdf版本

  • Python 3.6.8
  • 谷歌浏览器 79.0.3945.88版
  • Chromedriver 79.0.3945.88版
  • wkhtmltopdf wkhtmltox-0.12.5-1.msvc2015-win64

安装Python的教程网上有很多这里就不赘述了,Chromedriver不需要安装,谷歌浏览器和wkhtmltopdf的安装包及安装步骤在上面「使用指南」已经提及。

2.使用到的Python模块

selenium,os,requests,time,pdfkit,re,BeautifulSoup,html5lib,pyinstaller.
其中os,time及re为Python标准库无需另外安装,selenium,requests,pdfkit,BeautifulSoup,html5lib以及pyinstaller可以用pip命令安装。
比如安装pyinstaller,在cmd窗口输入pip install pyinstaller然后点击回车等待安装完成即可。


安装pyinstaller

下面讲讲开发的思路和比较关键的代码。

3. 思路

使用Chromedriver和selenium模拟浏览器来访问微信文章并进行全屏截图。

使用BeautifulSoup,用它的find方法和tag属性修改删除来解决微信文章图片懒加载(即当查看到文章某部分时图片才加载)的问题,用find方法提取文章的作者和标题,同时将BeautifulSoup提取的HTML保存为HTML文件。

使用pdfkit调用wkhtmltopdf将保存的HTML转换为PDF文件。

4.关键代码

1)引入selenium和chromedriver,先设置好相关配置,将chrome设置为无界面模式同时屏蔽掉chromedriver运行日志。在开发过程中如果不屏蔽掉运行日志,那么将会有很多冗余的信息干扰你的视线。

from selenium import webdriver
from selenium.webdriver.chrome.options import Options
os.environ['webdriver.chrome.driver'] = chromedriver
# 设置chrome开启的模式,headless就是无界面模式,只有开启这个模式才能截取全屏
chrome_options = Options()
chrome_options.add_argument('headless')
# 屏蔽chromedriver运行日志
chrome_options.add_experimental_option('excludeSwitches', ['enable-logging'])
driver = webdriver.Chrome(chromedriver, chrome_options=chrome_options)

2)因为微信文章使用的是懒加载图片的方式,所以如果直接使用save_screenshot方法只能截取到文字内容而无法截取文章里的图片,所以要用selenium的webdirver来执行JS脚本,模拟拖动滚动条到页面的最底部。

all_window_height = []
# 当前页面的最大高度加入列表
all_window_height.append(driver.execute_script('return document.body.scrollHeight;')) 
while True:
    # 执行拖动滚动条操作
    driver.execute_script('scroll(0,100000)')
    time.sleep(3)
    check_height = driver.execute_script('return document.body.scrollHeight;')
    # 判断拖动滚动条后的最大高度与上一次的最大高度的大小,相等表明到了最底部
    if check_height == all_window_height[-1]:
        break
    else:
        # 如果不相等,将当前页面最大高度加入列
        all_window_height.append(check_height)

本段代码参考自
https://blog.csdn.net/weixin_40718824/article/details/84196233

3)用selenium的webdirver来执行JS脚本,从而获得整个网页的高度和宽度,然后使用save_screenshot对整篇文章进行截图

width = driver.execute_script('return document.documentElement.scrollWidth')
height = driver.execute_script('return document.documentElement.scrollHeight')
# 将浏览器的宽高设置成刚刚获取的宽高
driver.set_window_size(width, height)
driver.save_screenshot(pic_path)

4)和上面截图时遇到的图片懒加载一样,如果用BeautifulSoup直接将微信文章保存为HTML的话,保存的文件中是看不到图片的,只能看到一个个loading。请教前端同事后,发现只要先将微信文章HTML中的属性data-src改为src,然后再保存为HTML文件就不会有这个问题了

soup = BeautifulSoup(response.content, 'html5lib')
# 将拥有'data-src'属性的图片标签的'data-src'改为'src',解决JS懒加载的问题
for img in soup.find_all('img', {'data-src': True}):
    img['src'] = img['data-src']
    del img['data-src']

5)通过pdfkit调用wkhtmltopdf模块

pdfkit.from_file(html_path, pdf_path, options=options, configuration=config)

6)完成代码开发后,使用pyinstaller -F saveArticleToPIC_HTML_PDF.py将代码和使用到的Python模块打包成exe,这样在没有Python环境的电脑也可以使用这个工具了。


pyinstaller.png

完整工具包请关注公众号「双城笔录」回复关键字「Python」可以获取下载链接。

参考资料


题图:Photo by Python官网和微信官网

Note:
1.因为水平有限,写的这个小工具也只是能用而已,如果读者朋友们发现功能或者代码有不合理的地方,欢迎后台留言指正交流,不胜感激。
2.一些网页也可以用这个工具来保存,使用方法也是一样的,读者们可以试一试。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 200,176评论 5 469
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 84,190评论 2 377
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 147,232评论 0 332
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,953评论 1 272
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,879评论 5 360
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,177评论 1 277
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,626评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,295评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,436评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,365评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,414评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,096评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,685评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,771评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,987评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,438评论 2 346
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,032评论 2 341