QQ腾讯视频爬取和qv_rmt限速算法python版

接一位微信好友所托叫爬取腾讯视频的原地址,以此可以去掉烦人的广告。虽有一些插件可以支持,但代码撸出来带劲点吧。。。
步骤不完整,就简单说些注意点和发现的东西。
抓包首先从h5,app端抓起,web端花招会多点。。。
直接看几个接口吧。
1.https://bkvv.video.qq.com/getinfo?_qv_rmt={$u1}&_qv_rmt2={$u2}&defn=auto&platform={$plt}&otype=json&sdtfrom={$std}&_rnd={$ts}&appVer=0.0.1&dtype=3&vid={$vid}&newnettype=1
2.https://h5vv.video.qq.com/getinfo
3.https://h5vv.video.qq.com/getkey
4.https://vv.video.qq.com/getinfo
5.https://vv.video.qq.com/getkey
接口的不同和利用接口里面参数的不同可以获得一个视频的各片段各集的url,或者视频的M3u8文件,我是利用2,3接口直接获取一个完整视频的url。

2接口中getinfo的参数如下

params = {
        'charge': 0,
        'vid': vid, *url或html获取
        'defaultfmt': 'auto',
        'otype': 'json',
        'guid': '8fffd19befa1413953bb108f58e49b3b', *发觉有问题用不了就要换,抓包看
        'platform': plt,
        'defnpayver': 1,
        'appVer': '3.0.83',
        'sdtfrom':std,
        'host':'v.qq.com',
        'ehost':'https%3A%2F%2Fv.qq.com%2Fx%2Fcover%2Fnuijxf6k13t6z9b%2Fl0023olk3g4.html',
        'defn':'mp4',
        'fhdswitch': 0,
        'show1080p':1,
        'isHLS':0,
        'newplatform':'v1010',
        'defsrc':1,
        '_0': 'undefined',
        '_1': 'undefined',
        '_2': 'undefined',
        '_': int(round(time.time() * 1000)),
        'callback':jsonpCallback, *返回json的前缀
    }
    r = requests.get('https://h5vv.video.qq.com/getinfo', params=params).content

上面的参数基本固定也最好不要落下,vid要从自己获取。这个接口获取到的信息是为了获得vkey而作准备。
从2中返回的json获得

  • 视频url前缀
    url_prefix = data['vl']['vi'][0]['ul']['ui'][0]['url']
  • MP4文件名字,q0200qbrzbk.mp4这种全集的,q0200qbrzbk.p201.1.mp4这种分段的
    fn_pre = data['vl']['vi'][0]['lnk']
    filename = fn_pre + '.mp4'
    接着请求3接口
    参数:
params = {
        'charge': 0,
        'vid': vid, *视频vid
        'format':2,
        'otype': 'json',
        'guid': '8fffd19befa1413953bb108f58e49b3b',
        'platform': 10901,
        'defnpayver': 0,
        'appVer': '3.0.83',
        'vt':0,
        'sdtfrom':'v1010',
        '_rnd':rmt['t'], *时间戳重要,没有直接20k速度
        '_qv_rmt': rmt['u1'], *限速算法,重要,没有直接20k速度
        '_qv_rmt2': rmt['u2'], *同上
        'ui_host': 2,
        'filename':filename,
        'callback':jsonpCallback,
        '_':int(round(time.time() * 1000)), *13位时间戳,我测没有会卡顿
    }
    r = requests.get('https://h5vv.video.qq.com/getkey', params=params).content

核心来了,限速折腾了一天,直到爬各种数据拿到js的算法整合而成。qvrmt这两个经过算法而生成的参数腾讯出不久,所以觉得这种爬取视频方法短时间不会失效。
ok,从以下算法弄出三个参数扔到上面的接口上去请求。

  • qvrmt 请求方法 rmt = getQv(plt, vid, std, str(1)),分别为platform,vid,sdtfrom
# coding: utf-8
import time
import hashlib

Seed = "#$#@#*ad"
urlStr = "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789+/="


def hexToString(h):
    r = ''
    index = 2 if h[0:2] == '0x' else 0
    indes = []
    indes.append(index)
    while(index <len(h)-2):
        index+=2
        indes.append(index)

    for i in indes:
        b = int(h[i:i+2],16)
        r+=chr(b)
    return r

def getQv(plt, vid, std, sts, ts=int(time.time())):
    global Seed
    ts = str(ts)
    p = {
        "plt":plt,
        "vid":vid,
        "std":std,
        "sts":sts,
        "ts":ts,
    }
    md = hashlib.md5()
    md.update((str(plt) + vid + ts + Seed + sts + std).encode('utf-8'))
    result = hexToString(md.hexdigest())
    u = urlenc(tempcalc(result, Seed),sts[0],ts)
    c = urlenc(tempcalc(result, '86FG@hdf'), sts[0],ts)
    u1 = U1(u, 0)
    u2 = U1(u, 1)
    data = {
        'p':p,
        'u':u,
        'c':c,
        'u1':u1,
        'u2':u2,
        't':ts
    }
    return data

def urlenc(input,sts,ts):
    global urlStr, output
    chr1 = chr2 = chr3 = enc1 = enc2 = enc3 = enc4 = ''
    chr5 = ''
    chr6 = ''
    output = ''
    i = 0
    while(i < len(input)):
        chr1 = ord(input[i])
        i += 1
        m1 = i
        i += 1
        if(len(input)>m1):
            chr2 = ord(input[m1])
        else:
            chr5='NaN'
        m = i
        i += 1
        if(m>len(input) or m==len(input)):
            chr6='NaN'
        else:
            chr3=ord(input[m])

        if(i==15):
            output = output+'A'
            output = output+sts
            output = output+ts

        enc1 = chr1 >> 2
        enc2 = ((chr1 & 3) << 4) | (chr2 >> 4)
        enc3 = ((chr2 & 15) << 2) | (chr3 >> 6)
        enc4 = chr3 & 63
        if (chr5 == 'NaN'):
            enc3 = enc4 = 64
        elif(chr6=='NaN'):
            enc4 = 64

        output = output+urlStr[enc1]+urlStr[enc2]+urlStr[enc3]+urlStr[enc4]
    return output

def tempcalc(a,b):
    r = ''
    for i in range(len(a)):
        chr1 = (ord(a[i])^ord(b[i%4]))
        r = r+chr(chr1)
    return r

def U1(a,b):
    r = ''
    index = b
    indes = []
    indes.append(index)
    while (index < len(a) - 2):
        index += 2
        indes.append(index)
    for i in indes:
        r+= a[i]
        i+=2
    return r 

最后从返回json中获得重要的vkey拼接视频地址

  • url = '{}{}?sdtfrom=v1010&guid=8fffd19befa1413953bb108f58e49b3b&vkey={}'.format(url_prefix,filename,data['key'])
    


[url]= http://222.73.132.155/om.tc.qq.com/ACQ0qWH8FNLvmirYrJFrmcK_-3iFtXdnx2wbFY1zuvv8/p0556o7jft0.p712.1.mp4?sdtfrom=v1010&guid=ffc2f4cc36a272e31b71035fcda35910&vkey=072F6FDB970690CADB8E3EA44A8839FDD911D535BB7D17B3C7AB942B26D59AF7F92F1DE22B1288C9052FDD9D2594195D257F707E7B4063FE62E47C56C90B1C87DB44D16E3502D9F87333807E7E3DD2C62519608B6646CFE2A07519D28FAD923BC2934A7DCDFB51D8D7400910FCBE5FF73A4F6A3056F96209
获得m3u8文件貌似不会限速,大家研究吧。
后续转源码上来,flask部署爬虫放云上爽歪歪,说得不细,重点是说明限速问题处理,

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,132评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,802评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,566评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,858评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,867评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,695评论 1 282
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,064评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,705评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,915评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,677评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,796评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,432评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,041评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,992评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,223评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,185评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,535评论 2 343

推荐阅读更多精彩内容