AVFoundation框架解析(七)—— 视频组合和音频混合调试

版本记录

版本号 时间
V1.0 2017.08.30

前言

AVFoundation框架是ios中很重要的框架,所有与视频音频相关的软硬件控制都在这个框架里面,接下来这几篇就主要对这个框架进行介绍和讲解。感兴趣的可以看我上几篇。
1. AVFoundation框架解析(一)—— 基本概览
2. AVFoundation框架解析(二)—— 实现视频预览录制保存到相册
3. AVFoundation框架解析(三)—— 几个关键问题之关于框架的深度概括
4. AVFoundation框架解析(四)—— 几个关键问题之AVFoundation探索(一)
5. AVFoundation框架解析(五)—— 几个关键问题之AVFoundation探索(二)
6. AVFoundation框架解析(六)—— 视频音频的合成(一)

Introduction

AVFoundation框架提供了一组功能丰富的类,以便于编辑音视频资源。 AVFoundation的编辑API的核心是由AVComposition对象定义的组合。 组合仅仅是来自一个或多个不同媒体资产的轨道集合。 AVMutableComposition类提供了一个用于插入和删除轨道以及管理其时间顺序的接口。 AVComposition对象中的轨道是固定的。

如果您想在组合中的轨道上执行任何自定义音频或视频处理,则需要分别包含音频混合或视频构图。 AVAudioMix对象管理用于混合音轨的输入参数。 它允许在播放或其他操作期间在音轨上执行自定义音频处理。 您还可以设置音轨的相对音量和斜坡。

视频构图在其指令的总时间范围内的任何时间描述了要用于产生与该时间对应的合成视频帧的视频轨道的数量和ID。 当使用AV Foundation的内置视频合成器时,视频合成包含的指令可以为每个视频源指定空间变换,不透明度值和裁剪矩形,并且可以通过简单的线性斜坡函数随时间变化。 AVVideoComposition对象表示不可变的视频构图。 AV Foundation框架还提供了一个可变的子类AVMutableVideoComposition,您可以使用它创建新的视频。

很有可能使用完全有效的价值来构建复杂的合成,视频合成和音频合成,从而产生意想不到的效果。 例如,有效的视频合成可能产生源视频轨道的内容完全不存在的帧。

本文档讨论了构建这些问题时的一些常见缺陷,以及更容易调试它们的方法。


Common pitfalls

以下是构建复杂的构图,视频构图和音频混合时可能会遇到的一些常见类型的问题。

1. Compositions

Misaligned track segments - 未对齐的轨道段

轨道的对齐可能是错误的。 例如,当将轨迹插入到特定时间的组合中时,可能会发生CMTime值舍入误差的结果。

未对齐的轨道段

2. Video Compositions, Audio Mixes

Gaps between segments - 各部分之间的间隔

不要在视频构图中的段之间留下间隙。 这几乎肯定会导致黑框或最后一帧的延续。

各部分之间的间隔

Misaligned layer instructions - 不对齐层指令

视频构图时间范围与构图轨道段之间可能存在偏差。

不对齐层指令

Misaligned opacity/audio ramps - 不对准的不透明度/音频斜坡

例如,您可能在其中一个坡道上犯了错误,例如过长时间。

不对准的不透明度/音频斜坡

Bogus layer transforms - 虚构层转换

您可能在图层转换矩阵中有错误。 这可能会导致输出超出输出帧边界。

虚构层转换

Static frame for the entire duration of the source asset - 源资源的整个持续时间的静态帧

您可能有一个视频构图在源资源的整个持续时间内生成单个静态帧。 如果将AVMutableVideoCompositionframeDuration设置为资产的持续时间,则可能会发生这种情况。 在视频合成器的处理中,尽管有不同的不透明度,变换等指示,但是在开始时仅产生一帧,然后“保持”指定的持续时间。

源资源的整个持续时间的静态帧

Debugging Compositions, Video Compositions and Audio Mixes

1. Visualize the Composition

一种有效的技术是可视化这些技术。 而不是看你的代码,你看看你的合成图片,视频构图和音频混合的图片。

有为此目的设计的示例代码:

  • AVCompositionDebugViewer(Mac)
  • AVCompositionDebugVieweriOS

这些示例应用程序实现了一个自定义的AVCompositionDebugView类,它提供了形成组合的底层AVComposition,AVVideoComposition和AVAudioMix对象的视觉描述。 参见下图。

只需将AVCompositionDebugView放入您自己的应用程序。 这是一个非互动的视图。 扩展它来绘制您自己的视频说明。 它将帮助您发现组合轨道,视频说明和音频组合中的任何重叠和间隙。

后记

未完,待续~~~

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 202,529评论 5 475
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,015评论 2 379
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,409评论 0 335
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,385评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,387评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,466评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,880评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,528评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,727评论 1 295
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,528评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,602评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,302评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,873评论 3 306
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,890评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,132评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,777评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,310评论 2 342

推荐阅读更多精彩内容