calibre抓取电子书

1. 环境准备

安装calibre

点击这里去官网下载对应自己系统的版本,三个平台都支持(就喜欢这样跨平台的软件)。

验证安装是否成功

打开terminal (如果是瘟都死系统可以打开cmd 或者 power shell),输入ebook-convert 出现如下提示,说明安装成功了。

深度截图_选择区域_20191230171159.png

2. 脚本编写

原理

calibre使用Python来抓取网页数据,.recipe文件其实就是Python脚本。如果懂一些Python,那最好不过了。这个脚本关键点就两个:
继承BasicNewsRecipe类
实现parse_index(self)方法

干货来了

新建一个后缀为.recipe文件,将以下代码复制粘贴进去。编辑的时候,记得当成Python脚本,否则缩进造成的坑,你懂得。

#!/usr/bin/env python
# vim:fileencoding=utf-8
from __future__ import unicode_literals, division, absolute_import, print_function
from calibre.web.feeds.news import BasicNewsRecipe

class E_Book(BasicNewsRecipe):
    title          = 'GO web 编程'
    description = 'go语言教程'
    max_articles_per_feed = 500
    url_prefix = 'https://astaxie.gitbooks.io/build-web-application-with-golang/content/zh/'
    no_stylesheets = True
    remove_javascript = True
    keep_only_tags = [{ 'class': 'book-body' }]
    # remove_tags=[{'class':'x-wiki-info'}]

    # remove_tags_after=[{'class':'x-wiki-content x-content'}]
    
    def get_title(self, link):
        return link.get_text().replace('\n',"").replace(' ',"")
    
    def parse_index(self):
        soup = self.index_to_soup(self.url_prefix)
 
        div = soup.find('ul', { 'class': 'summary' })
 
        articles = []
        for link in div.findAll('a'):
            til = self.get_title(link)
            url = self.url_prefix + link['href']
            a = { 'title': til, 'url': url }
 
            articles.append(a)
 
        tutorial = [(self.title, articles)]
 
        return tutorial

脚本说明

哈哈,明明就是Python的语法!

  • E_book 自定义的类,必须继承BasicNewsRecipe (划重点)。名字符合命名规范即可。
  • title 父类中的成员变量。书名,值可以任意修改。
  • description父类中的成员变量。 对生成电子书的描述,值可以任意修改。
  • max_articles_per_feed父类中的成员变量。 目录索引的最大数目,就是目录中指向文章的链接数目。自己大概估算下就好,一般的500就够了(当然,你要抓取《本草纲目》就远远超过500了)。
  • url_prefix这个就要抓取电子书的地址,视情况而定。跟后面的parse_index方法中抓取的文章链接拼接成完整的URL。
  • keep_only_tags 父类中的成员变量。生成的电子书要保留的节点内容,毕竟整个网页上多余的东西太多了,我们只需要保留书本正文内容即可。可以有多个。例如:keep_only_tags = [{'class':'book-body},{'id':"abc"}]。这个根据具体情况修改,示例中是针对gitbook电子书的节点设置的。
  • remove_tagsremove_tags_after 这两个酌情使用,跟keep_only_tags相反,目的是移除无用的节点。自己可以试试修改移除每章后面的link标签后面的内容,看看效果。
  • parse_index (加粗划重点)必须实现的方法,返回一个内容为元组(书名和目录列表的链接地址)的list,注意元组中的链接要拼接成完整的地址。具体实现要看对应的a标签如何过滤。
  • get_title 这个是自定义的方法,目的是拿到a标签中的标题内容。这里有个大坑,就是内容里面有换行符是不行的,否则抓出来的目录标题都是未知

3. 运行脚本

脚本编好了之后,我们把他保存为go_web.recipe
打开terminal,输入 ebook-convert go_web.recipe GoWeb.epub
等待执行结束,我们就看到生成了GoWeb.epub这本电子书。当然我们也可以输出个pdf文件(GoWeb.pdf)或者mobi文件(GoWeb.mobi

总结

只要修改url_prefix的值,就可以抓取gitbook生成的在线电子书了。
如果你觉得对你油帮助,请支持下作者哦!

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,445评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,889评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,047评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,760评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,745评论 5 367
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,638评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,011评论 3 398
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,669评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,923评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,655评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,740评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,406评论 4 320
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,995评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,961评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,197评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,023评论 2 350
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,483评论 2 342

推荐阅读更多精彩内容