python爬虫的最佳实践(二)--环境搭建

ps:python环境怎么装我就不赘述了。。。这个资料太多了,我推荐使用python2.7 或 python3.4

IDE选择

工欲善其事,必先利其器。我本人用过挺多脚本语言的,讲道理,脚本语言很难有出色的ide,但是pycharm绝对是我用过的最赞的脚本语言ide,不要犹豫,直接用它就好了。官网链接:http://www.jetbrains.com/pycharm/download/,最好下载专业版的,方便很多
ps:干货之一,pycharm专业版激活server一枚:http://idea.qinxi1992.cn ,可以反复用哦

浏览器选择

Chrome或火狐,开发必备。所以大家果断都去下载Chrome或火狐吧。。

爬虫依赖库介绍

  • beautifulsoup
  • requests
  • lxml
  • pymongo

以上便是我们编写简单爬虫程序需要的python库,我简单介绍一下(ps:不想复制百科):

  • beautifulsoup库,主要功能就是快速处理抓下来的数据,找到你想要的东西,它就是一个工具箱,通过解析文档为用户提供需要抓取的数据。
  • requests模块,满足我们各种各样的网络需求,持 HTTP 连接保持和连接池,支持使用 cookie 保持会话,支持文件上传等
  • lxml库,lxml是Python语言里和XML以及HTML工作的功能最丰富和最容易使用的库,我们用来配合beautifulsoup使用
  • pymongo,用来和mongoDB数据库进行交互,我们爬下来的数据将被存在mongoDB中,当然如果你用mysql等数据库用习惯了也可以不用理这部分。
安装
mac环境

在安装lxml之前记得在终端敲如下命令xcode-select --install,用来安装Command Line Tools
pip install BeautifulSoup4
pip install requests
pip install lxml
pip install pymongo

如果用mac的话自带的python版本可以满足我们的需求,里面内置了pip,所以只需要在终端敲上面的命令就可以了。当然,有更简单的安装方式,在pycharm中安装,选择File->Default Settings 如图:


firstPic.png

选择右下角‘+’标志,如图:

secPic.png

然后搜索你要的库的名字进行安装即可,以上就是mac下的安装方式,不得不说,mac是最简单的。。。

linux安装

ubuntu为例
安装pip,首先在终端键入wget https://bootstrap.pypa.io/get-pip.py
然后键入sudo python get-pip.py安装pip
安装完毕之后安装lxml,键入
sudo apt-get install python-lxml
之后依次键入
pip install BeautifulSoup4
pip install requests
pip install pymongo
安装完毕
ps:centos系统需要安装依赖,先键入yum install python-devel libxml2-devel libxslt-devel,然后再使用pip安装lxml即可

windows安装

首先,安装pip,参考http://www.tuicool.com/articles/eiM3Er3
安装完毕之后使用pycharm安装(如mac),或者在命令行键入
pip install BeautifulSoup4
pip install requests
pip install pymongo
安装lxml:https://pypi.python.org/pypi/lxml/3.2.3下载对应的版本,或者去网上寻找对应的whl文件安装,不在一一赘述。

全部安装完之后,启动python解释器键入
import requests
import lxml
from bs4 import BeautifulSoup
import pymongo
没有报错则环境安装完毕

安装MongoDB

mongodb安装的话三个环境差不多流程,我以mac为例:
首先去官网下载https://www.mongodb.org/downloads最新版本的mongoDB压缩包,解压之后打开终端,进入mongoDB解压的目录,我的目录如下

thrPic.png

然后cd bin
新建一个mongo.conf文件,编辑该文件,写入:
dbpath=/Users/Darker/mongo/bin/db logpath=/Users/Darker/mongo/bin/log/mongod.log port = 27017 fork = true nohttpinterface = true
其中dbPath是数据库存储位置,logPath是log的存储位置,记得在对应位置创建文件夹,如图所示

fourthPic.png

接下来在命令行键入./mongod --config mongo.conf,得到如下信息则启动成功

fifthPic.png

接下来运行./mongo即可进入数据库,当然,推荐使用一些可视化的数据库管理工具,例如robomongo

Ps:windows的同学不需要写conf文件了,直接按照这篇博客上面配置mongo服务就可以了http://www.cnblogs.com/flyoung2008/archive/2012/07/18/2597269.html

写在最后

这篇我们讲解了环境的配置,如果大家有任何问题欢迎留言讨论或咨询,我有时间会一一回复大家,下一章我们正式开始学习爬虫

有兴趣的同学可以加群498945822一起交流学习哦~~
发现问题的同学欢迎指正,直接说就行,不用留面子,博主脸皮厚!

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,271评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,275评论 2 380
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,151评论 0 336
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,550评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,553评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,559评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,924评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,580评论 0 257
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,826评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,578评论 2 320
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,661评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,363评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,940评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,926评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,156评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,872评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,391评论 2 342

推荐阅读更多精彩内容

  • # Python 资源大全中文版 我想很多程序员应该记得 GitHub 上有一个 Awesome - XXX 系列...
    aimaile阅读 26,436评论 6 428
  • GitHub 上有一个 Awesome - XXX 系列的资源整理,资源非常丰富,涉及面非常广。awesome-p...
    若与阅读 18,612评论 4 418
  • Scrapy,Python开发的一个快速,高层次的屏幕抓取和web抓取框架,用于抓取web站点并从页面中提取结构化...
    Evtion阅读 5,830评论 12 18
  • 环境管理管理Python版本和环境的工具。p–非常简单的交互式python版本管理工具。pyenv–简单的Pyth...
    MrHamster阅读 3,783评论 1 61
  • 早已物是人非,只是自己不放过自己罢了,贪恋青春的美好,那纯洁懵懂的爱恋!
    嘟嘟aaa阅读 179评论 0 0