视频时,APP显示卡顿

现象:进入视频房间,点开摄像头按钮,不显示对方视频,过了一会儿才有可能显示,显示后有时还卡顿。

定位过程:一开始以为是服务器未能把所有的RTP包传输给APP,或者传输过程中有丢包,后来对照log和抓包,发现并没有丢包,而且RTP负载的VP8的包内容也正确(通过VP8的picture id序号的严格递增来判断的)。

image

接着邓剑继续调试,看显示APP窗口收到的RTP包是否有丢失或者其它问题,过程中发现在卡顿时输出以下log:

E/ACodec  (28520): [OMX.hisi.video.decoder.vp8] setPortMode on output to DynamicANWBuffer failed w/ err -2147483648I/ACodec  (28520): [OMX.hisi.video.decoder.vp8] using color aspects (R:2(Limited), P:4(BT601_6_525), M:3(BT601_6), T:3(SMPTE170M)) and dataspace 0x103

setPortMode出现了0x8000000的错误,查android原生代码,这个错误是在ACodec里打印的:

status_t ACodec::setPortMode(int32_t portIndex, IOMX::PortMode mode) {
    status_t err = mOMXNode->setPortMode(portIndex, mode);
    if (err != OK) {
        ALOGE("[%s] setPortMode on %s to %s failed w/ err %d",
                mComponentName.c_str(),
                portIndex == kPortIndexInput ? "input" : "output",
                asString(mode),
                err);
        return err;
    }

    mPortMode[portIndex] = mode;
    return OK;
}

于是怀疑传输过来的视频格式或者本地的解码器试图解码的格式配置不匹配,查SDP协商过程发现SDP协商过程如下:

1)APP端提供的offer SDP如下,APP支持的RTP Payload Type是96,以H264为视频的编码格式;

v=0
o=- 6205246468786774154 2 IN IP4 1.1.1.1
s=-
t=0 0
m=audio 9 UDP/TLS/RTP/SAVPF 111 103 104 9 102 0 8 106 105 13 110 112 113 126
c=IN IP4 1.1.1.1
a=sendrecv
a=extmap:1 urn:ietf:params:rtp-hdrext:ssrc-audio-level
a=extmap:2 http://www.webrtc.org/experiments/rtp-hdrext/abs-send-time
a=extmap:3 http://www.ietf.org/id/draft-holmer-rmcat-transport-wide-cc-extensions-01
a=rtpmap:111 opus/48000/2
a=rtcp-fb:111 transport-cc
a=fmtp:111 minptime=10;useinbandfec=1
a=rtpmap:103 ISAC/16000
a=rtpmap:104 ISAC/32000
a=rtpmap:9 G722/8000
a=rtpmap:102 ILBC/8000
a=rtpmap:0 PCMU/8000
a=rtpmap:8 PCMA/8000
a=rtpmap:106 CN/32000
a=rtpmap:105 CN/16000
a=rtpmap:13 CN/8000
a=rtpmap:110 telephone-event/48000
a=rtpmap:112 telephone-event/32000
a=rtpmap:113 telephone-event/16000
a=rtpmap:126 telephone-event/8000
m=video 9 UDP/TLS/RTP/SAVPF 96 98 100
c=IN IP4 1.1.1.1
a=sendrecv
a=extmap:14 urn:ietf:params:rtp-hdrext:toffset
a=extmap:2 http://www.webrtc.org/experiments/rtp-hdrext/abs-send-time
a=extmap:13 urn:3gpp:video-orientation
a=extmap:3 http://www.ietf.org/id/draft-holmer-rmcat-transport-wide-cc-extensions-01
a=extmap:5 http://www.webrtc.org/experiments/rtp-hdrext/playout-delay
a=extmap:6 http://www.webrtc.org/experiments/rtp-hdrext/video-content-type
a=extmap:7 http://www.webrtc.org/experiments/rtp-hdrext/video-timing
a=extmap:8 http://tools.ietf.org/html/draft-ietf-avtext-framemarking-07
a=extmap:9 http://www.webrtc.org/experiments/rtp-hdrext/color-space
a=rtpmap:96 H264/90000
a=rtcp-fb:96 goog-remb
a=rtcp-fb:96 transport-cc
a=rtcp-fb:96 ccm fir
a=rtcp-fb:96 nack
a=rtcp-fb:96 nack pli
a=fmtp:96 level-asymmetry-allowed=1;packetization-mode=1;profile-level-id=640c34
a=rtpmap:97 rtx/90000
a=fmtp:97 apt=96
a=rtpmap:98 H264/90000
a=rtcp-fb:98 goog-remb
a=rtcp-fb:98 transport-cc
a=rtcp-fb:98 ccm fir
a=rtcp-fb:98 nack
a=rtcp-fb:98 nack pli
a=fmtp:98 level-asymmetry-allowed=1;packetization-mode=1;profile-level-id=42e034
a=rtpmap:99 rtx/90000
a=fmtp:99 apt=98
a=rtpmap:100 VP8/90000
a=rtcp-fb:100 goog-remb
a=rtcp-fb:100 transport-cc
a=rtcp-fb:100 ccm fir
a=rtcp-fb:100 nack
a=rtcp-fb:100 nack pli
a=rtpmap:101 rtx/90000
a=fmtp:101 apt=100
a=rtpmap:127 red/90000
a=rtpmap:124 rtx/90000
a=fmtp:124 apt=127
a=rtpmap:125 ulpfec/90000

2)服务器协商的answer如下,服务器仅支持VP8和VP9的编码,于是服务器选择了RTP Payload Type为100,即VP8为视频的编码格式

o=- 6205246468786774154 2 IN IP4 106.52.182.190
s=VideoRoom 151587126473916416
t=0 0
a=group:BUNDLE audio video
a=msid-semantic: WMS janus
m=audio 9 UDP/TLS/RTP/SAVPF 111
c=IN IP4 106.52.182.190
a=recvonly
a=mid:audio
a=rtcp-mux
a=ice-ufrag:NUm5
a=ice-pwd:ecGFMtni8gD+inVPrXFbKR
a=ice-options:trickle
a=fingerprint:sha-256 06:42:E6:1E:62:3D:31:84:70:C2:7E:40:79:C8:69:B3:B1:D4:16:DE:61:FC:15:99:70:B8:E7:91:DB:87:4B:7F
a=setup:active
a=rtpmap:111 opus/48000/2
a=extmap:1 urn:ietf:params:rtp-hdrext:ssrc-audio-level
a=extmap:3 http://www.ietf.org/id/draft-holmer-rmcat-transport-wide-cc-extensions-01
a=candidate:1 1 udp 2013266431 10.0.19.8 7265 typ host
a=candidate:2 1 udp 2013266430 10.244.1.0 41646 typ host
a=candidate:3 1 udp 1677722111 106.52.182.190 51673 typ srflx raddr 10.244.1.0 rport 41646
a=candidate:4 1 udp 1677722110 106.52.182.190 7265 typ srflx raddr 10.0.19.8 rport 7265
a=candidate:5 1 udp 503316991 106.52.182.190 59473 typ relay raddr 10.0.19.8 rport 7265
a=candidate:6 1 udp 503316990 106.52.182.190 54303 typ relay raddr 10.244.1.0 rport 41646
a=msid:janus janusa0
a=ssrc:2099989244 cname:janus
a=ssrc:2099989244 msid:janus janusa0
a=ssrc:2099989244 mslabel:janus
a=ssrc:2099989244 label:janusa0
a=end-of-candidates
m=video 9 UDP/TLS/RTP/SAVPF 100
c=IN IP4 106.52.182.190
a=recvonly
a=mid:video
a=rtcp-mux
a=ice-ufrag:NUm5
a=ice-pwd:ecGFMtni8gD+inVPrXFbKR
a=ice-options:trickle
a=fingerprint:sha-256 06:42:E6:1E:62:3D:31:84:70:C2:7E:40:79:C8:69:B3:B1:D4:16:DE:61:FC:15:99:70:B8:E7:91:DB:87:4B:7F
a=setup:active
a=rtpmap:100 VP8/90000
a=rtcp-fb:100 ccm fir
a=rtcp-fb:100 nack
a=rtcp-fb:100 nack pli
a=rtcp-fb:100 goog-remb
a=rtcp-fb:100 transport-cc
a=extmap:13 urn:3gpp:video-orientation
a=extmap:3 http://www.ietf.org/id/draft-holmer-rmcat-transport-wide-cc-extensions-01
a=extmap:5 http://www.webrtc.org/experiments/rtp-hdrext/playout-delay
a=extmap:8 http://tools.ietf.org/html/draft-ietf-avtext-framemarking-07
a=candidate:1 1 udp 2013266431 10.0.19.8 7265 typ host
a=candidate:2 1 udp 2013266430 10.244.1.0 41646 typ host
a=candidate:3 1 udp 1677722111 106.52.182.190 51673 typ srflx raddr 10.244.1.0 rport 41646
a=candidate:4 1 udp 1677722110 106.52.182.190 7265 typ srflx raddr 10.0.19.8 rport 7265
a=candidate:5 1 udp 503316991 106.52.182.190 59473 typ relay raddr 10.0.19.8 rport 7265
a=candidate:6 1 udp 503316990 106.52.182.190 54303 typ relay raddr 10.244.1.0 rport 41646
a=msid:janus janusv0
a=ssrc:3025202178 cname:janus
a=ssrc:3025202178 msid:janus janusv0
a=ssrc:3025202178 mslabel:janus
a=ssrc:3025202178 label:janusv0
a=end-of-candidates

3)APP pusher端上传的video的RTP PT是96(见上面的截图)

通过以上过程发现SDP协商是没有问题的,但是APP端却十分可能以H264初始化了解码器,导致VP8的视频无法解码,但是之后又能显示,到网上搜了下,android支持解码port mode的切换(没有深入研究这个切换的条件了)。

Root cause :app 端选择了H264的解码器

Solution : APP端在create room的时候应该指定音频和视频的编码格式,即以下两个参数:

audiocodec = "opus"

videocodec = "vp8"

APP提供的SDP offer里PT=96的编码应该是VP8非H264,修改create room的参数,打包继续测试,问题不再复现。

BTW :

1)我们有好几个环境,在线上和dev环境,怎么就很流畅呢?从服务器的log来看,在以上两个环境SDP offer里PT=96的是VP8,那为什么在测试环境上SDP内容却是PT=96的是H264编码,这就要APP端去继续调查下去,两个不同的环境的代码是否严格一致。

2)服务器协商的answer SDP里选择了PT=100的VP8编码,但是APP为什么还选择PT=96去push视频内容,这个问题也还需要APP端去查,倾向于flutter-webrtc插件存在BUG或者我们对其接口调用尚不熟悉,调用欠当。

@jack.deng邓剑 以上如果有不严谨的地方,pls feel free to modify it (原谅我秀英语,实际上英语不怎么滴,见笑,但是感觉英语很准确地表达了我的意思)。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,214评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,307评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,543评论 0 341
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,221评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,224评论 5 371
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,007评论 1 284
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,313评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,956评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,441评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,925评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,018评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,685评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,234评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,240评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,464评论 1 261
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,467评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,762评论 2 345

推荐阅读更多精彩内容