python爬虫刷博客访问量教程三:使用Selenium让Chrome浏览器自动化

一、前言

前面两篇文章介绍了两种简单的刷流量方法,但是在实际应用上总会碰到许许多多的问题。比如,《python爬虫刷博客访问量教程二:欺骗第三方统计服务》的方法不是很完美,很多大型网站请求数非常多,请求的数据也许会加密混淆,这样的话,逐一分析会浪费很多时间。而且前面两种方法还不是模拟真正的浏览器,这时,就有了浏览器自动化的需求。使用代码控制浏览器访问某个链接,甚至可以设置不同的代理。这样不仅能够使网站的资源请求完整,还能节省很多工作量。这样做的缺点就是,速度慢,不能后台运行。而且网站打开速度取决于代理的速度。

二、安装必要插件

测试环境:Windows 10 + python 3.6.2

1. 安装Selenium

pip install selenium

2. 安装Requests

pip install requests

3. 安装配置Chrome WebDriver

每个版本支持的chrome版本是不一样的,必须要用支持的版本才能驱动浏览器。

官方网站被墙,用这个镜像可以下载全版本的:http://npm.taobao.org/mirrors/chromedriver

下面给出的是目前最新的2.3.7版本,支持的chrome版本是v64-66。其他版本可以自行去下载。

Windows版本:chromedriver_win32

Windows 安装方法:

下载压缩包,解压到任意文件夹,将该文件夹添加到系统PATH环境变量中。

Linux 安装方法:

把解压的文件放到 /usr/bin 目录下,并且修改好权限。

三、代码测试

目标:使用代码控制浏览器访问指定的链接。并且每次访问使用不同的代理。

代理:同样使用的是大象代理的api接口提取代理IP


import random

import requests

import time

from selenium import webdriver

import sys

import os

# 随机获取浏览器标识

def get_UA():

    UA_list = [

        "Mozilla/5.0 (Linux; Android 4.1.1; Nexus 7 Build/JRO03D) AppleWebKit/535.19 (KHTML, like Gecko) Chrome/18.0.1025.166 Safari/535.19",

        "Mozilla/5.0 (Linux; U; Android 4.0.4; en-gb; GT-I9300 Build/IMM76D) AppleWebKit/534.30 (KHTML, like Gecko) Version/4.0 Mobile Safari/534.30",

        "Mozilla/5.0 (Linux; U; Android 2.2; en-gb; GT-P1000 Build/FROYO) AppleWebKit/533.1 (KHTML, like Gecko) Version/4.0 Mobile Safari/533.1",

        "Mozilla/5.0 (Windows NT 6.2; WOW64; rv:21.0) Gecko/20100101 Firefox/21.0",

        "Mozilla/5.0 (Android; Mobile; rv:14.0) Gecko/14.0 Firefox/14.0",

        "Mozilla/5.0 (Windows NT 6.2; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/27.0.1453.94 Safari/537.36"

    ]

    randnum = random.randint(0, len(UA_list)-1)

    h_list = UA_list[randnum]

    return h_list

# 获取代理IP

def get_ip():

    # 这里填写大象代理api地址,num参数必须为1,每次只请求一个IP地址

    url = 'http://tvp.daxiangdaili.com/ip/?tid=你的订单号&num=1&delay=5&category=2'

    response = requests.get(url)

    response.close()

    ip = response.text

    print(ip)

    return ip

if __name__ == '__main__':

    url = "https://pingxonline.com/"

    # 无限循环,每次都要打开一个浏览器窗口,不是标签

    while 1:

        # 调用函数获取浏览器标识, 字符串

        headers = get_UA()

        # 调用函数获取IP代理地址,这里获取是字符串,而不是像前两个教程获得的是数组

        proxy = get_ip()

        # 使用chrome自定义

        chrome_options = webdriver.ChromeOptions()

        # 设置代理

        chrome_options.add_argument('--proxy-server=http://'+proxy)

        # 设置UA

        chrome_options.add_argument('--user-agent="'+headers+'"')

        # 使用设置初始化webdriver

        driver = webdriver.Chrome(chrome_options=chrome_options)

        try:

            # 访问超时30秒

            driver.set_page_load_timeout(30)

            # 访问网页

            driver.get(url)

            # 退出当前浏览器

            driver.close()

            # 延迟1~3秒继续

            time_delay = random.randint(1, 3)

            while time_delay > 0:

                print(str(time_delay) + " seconds left!!")

                time.sleep(1)

                time_delay = time_delay - 1

                pass

        except:

            print("timeout")

            # 退出浏览器

            driver.quit()

            time.sleep(1)

            # 重启脚本, 之所以选择重启脚本是因为,长时间运行该脚本会出现一些莫名其妙的问题,不如重启解决

            python = sys.executable

            os.execl(python, python, *sys.argv)

        finally:

            pass


效果图:


这段代码稳定性还不错,超时等错误就会重启脚本继续获取新的代理IP。保证脚本能够长时间运行。



系列教程:

python爬虫刷博客访问量教程二:欺骗第三方统计服务

python爬虫刷博客访问量教程一:直接请求

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,271评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,275评论 2 380
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,151评论 0 336
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,550评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,553评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,559评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,924评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,580评论 0 257
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,826评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,578评论 2 320
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,661评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,363评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,940评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,926评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,156评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,872评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,391评论 2 342

推荐阅读更多精彩内容