视频合成之值得一记的bug

不复现闪退问题

  1. 编码时间戳问题
    E/MPEG4Writer: do not support out of order frames (timestamp: 2275555 < last: 2275618 for Audio track

问题发生在多个视频拼接时,上个素材的最后一次writeSampleData和下个素材的第一次writeSampleData的时间戳被设置为相等,设置一个时间偏移(200)即解决问题。

  1. OOM问题
    不复现闪退问题盲猜大多数都是OOM问题。
    做音视频一段时间后,OOM问题增多,需要治理。但是治理起来是个系统工程,我有另外的性能优化工程“黄金眼”要做,此处暂不展开。
    QA已经提bug了,暂时如何解决呢?
    (1)在视频合成时,停止并释放播放器。视频合成过程我抽去了一个单独的activity页面。
    (2)针对log报错BitmapFactory.decodeFile处发生的OOM,对图片进行压缩。
    (3)在AndroidManifest中增加configChanges="keyboardHidden|orientation|screenSize|smallestScreenSize|screenLayout",使折叠屏切换折叠态时不要Activity不要重建
    (4)...

各种兼容不适问题

  1. 某华为nova机型视频+音乐合成出来的视频没有音乐

原因是一般情况下音视频合并时,先获取到音频轨道信息,再获取到视频轨道信息,在添加视频轨道时启动合成器。但是该机型却先添加了视频轨再添加音频轨,因为添加视频轨时已经启动了合成器,所以音频轨没有添加进去。对这种情况进行兼容,保证应有的音频轨添加之后才能开启合成器。
对MediaMuxer添加轨道代码如下:

 void onSetOutputFormat() {
        if (videoFormat != null && audioFormat != null && !hasAddTrack) {
            videoTrackIndex = muxer.addTrack(videoFormat);
            Log.v(TAG, "Added track #" + videoTrackIndex + " with " + videoFormat.getString(MediaFormat.KEY_MIME) + " to muxer");
            audioTrackIndex = muxer.addTrack(audioFormat);
            Log.v(TAG, "Added track #" + audioTrackIndex + " with " + audioFormat.getString(MediaFormat.KEY_MIME) + " to muxer");
            hasAddTrack = true;
        } else if (videoFormat != null && !hasAddTrack) {
            //如果有音频但还没有获得 audioFormat ,此次等待,不启动
            if (hasAudio) {
                return;
            }
            videoTrackIndex = muxer.addTrack(videoFormat);
            Log.v(TAG, "Added track #" + videoTrackIndex + " with " + videoFormat.getString(MediaFormat.KEY_MIME) + " to muxer");
            hasAddTrack = true;
        }else if(audioFormat!=null && !hasAddTrack){
            //只有音频audioFormat,此次等待,不启动
            return;
        }
        if (!started) {
            muxer.start();
            started = true;
        }


其中,videoFormat和audioFormat在编码器dequeueOutputBuffer返回值为MediaCodec.INFO_OUTPUT_FORMAT_CHANGED时使用encoder.getOutputFormat()取得。

  1. 图片+视频合成部分机型编码错误

图片与有音轨的视频合并时,特别是第一个素材为图片的情况,图片没有音轨,视频有音轨,使用mediaMuxer合成视频时,必须在开启前设置音轨。在这种情况下,有音频的素材还没有开始解码,那么我们用一个默认的音频格式设置音轨。然后等第二个素材开始解码编码时,写入音频轨,有些机型可以成功合成,很多机型遇到音频编码错误问题。那么当有音轨和无音轨的素材混合合成时,有没有更好的办法呢?
用一段静默音频填充不就好了吗?
正解,用静默音频填充图片编码时的音轨,静默音频来源于一段2s的mp3,将其同视频原声一样进行解码和重采样。

  1. oppo实验室机型,视频合成失败,log报错
11-26 10:19:45.535 19551 29726 D CCodec  : quality is missing, which is required for video encoders in CQ.
11-26 10:19:45.535 19551 29725 E MediaCodec: Codec reported err 0xffffffea, actionCode 0, while in state 3

这是编码器设置bitmode为常量时没有设置quality的问题。(题外话;从android R开始google开始使用CCodec框架,据平台方oppo说他们没有提供拓展CCodec的能力,当硬件编解码器报错时,应由第三方app创建软编解码器)。我的解决方法如下,quality参数需要调用api获取系统编码能力信息。

  if (Build.VERSION.SDK_INT >= Build.VERSION_CODES.LOLLIPOP) {
            if (!encoder.getName().equals("OMX.qcom.video.encoder.avc")
                    && !encoder.getName().equals("OMX.hisi.video.encoder.avc")
                    && !encoder.getName().equals("OMX.MTK.VIDEO.ENCODER.AVC")) {
                outputFormat.setInteger(MediaFormat.KEY_BITRATE_MODE, MediaCodecInfo.EncoderCapabilities.BITRATE_MODE_CQ);

                if(Mp4Composer.getInstance().getCodecInfo()==null){
                    Mp4Composer.getInstance().findMediaCodecInfo();
                }
                if(Mp4Composer.getInstance().getCodecInfo()!=null && Build.VERSION.SDK_INT >=Build.VERSION_CODES.P){
                    MediaCodecInfo.CodecCapabilities capabilities = Mp4Composer.getInstance().getCodecInfo().getCapabilitiesForType("video/avc");
                    int quality =capabilities.getEncoderCapabilities().getQualityRange().getLower();
                    outputFormat.setInteger(MediaFormat.KEY_QUALITY,quality);
                }
            }
        }

4.某些oppo、vivo机型视频合成失败
原因是由于手机系统摄像头像素较高,摄像头拍摄图片尺寸过大超过视频编码支持尺寸,这种情况下的解决方法是:由于在移动端通用的高清视频一般是1080p,所以使用的视频尺寸一般在1080*1920内,限制最终合成视频最大不超过这个尺寸。超过时使用opengl矩阵等比缩放。
关于编码器支持的视频尺寸,在实践过程中发现,编码尺寸除了不能过大以外,也不能过小,还有编码器编码只支持偶数尺寸的宽高。还有,有一些比较老的手机支持的硬编码尺寸只能是8的倍数。

5.某些机型录制的视频经合成后,画面偏移90度。
定位该问题时发现,和大部分华为等手机不同,oppo手机竖屏录制视频时获得的宽高是相反的,即发现文件系统读取的宽高和mediaExtractor解析视频轨道后得到的MediaFormat中宽高参数相反。对于这种情况,可以用mediaMetadataRetriever解析出视频素材的旋转角度。然后在opengl对旋转处理过程中加上这个素材的原始旋转角度。

6.编码时间戳和相关时间偏移量,应注意用类型,若不小心用了int,容易溢出,发生各种诡异问题。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 195,980评论 5 462
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 82,422评论 2 373
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 143,130评论 0 325
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,553评论 1 267
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,408评论 5 358
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,326评论 1 273
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,720评论 3 386
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,373评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,678评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,722评论 2 312
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,486评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,335评论 3 313
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,738评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,009评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,283评论 1 251
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,692评论 2 342
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,893评论 2 335

推荐阅读更多精彩内容

  • 原文:https://developer.android.com/reference/android/media/...
    thebestofrocky阅读 6,017评论 0 6
  • MP4Box is a MP4 multiplexer. It can import MPEG-4 video, ...
    Goning阅读 4,357评论 0 1
  • 久违的晴天,家长会。 家长大会开好到教室时,离放学已经没多少时间了。班主任说已经安排了三个家长分享经验。 放学铃声...
    飘雪儿5阅读 7,454评论 16 22
  • 今天感恩节哎,感谢一直在我身边的亲朋好友。感恩相遇!感恩不离不弃。 中午开了第一次的党会,身份的转变要...
    迷月闪星情阅读 10,534评论 0 11
  • 可爱进取,孤独成精。努力飞翔,天堂翱翔。战争美好,孤独进取。胆大飞翔,成就辉煌。努力进取,遥望,和谐家园。可爱游走...
    赵原野阅读 2,705评论 1 1