基于Webrtc的视频通话录制功能-Android实现

webrtc本身并不支持视频通话的录制。
webrtc的sdk只是暴露了视频数据给开发者,而音频数据并没有向外暴露。
因此如果要进行视频通话的录制,需要修改webrtc的sdk,将音频数据暴露出来。
webrtc的下载和编译可参考之前的文章:WebRtc下载和编译

一、修改SDK,引出音频数据
1. 音频采集数据的提取(mic输入,本地声音)

webrtc的音频数据的采集在audio_device_java.jar包中,具体类为WebRtcAudioRecord,其对应源码中的位置为:

src/modules/audio_device/android/java/src/org/webrtc/voiceengine/WebRtcAudioRecord.java

a) 在该类中添加如下代码:

// tanghongfeng add begin
private static WebRtcAudioRecordCallback mWebRtcAudioRecordCallback;
public static void setWebRtcAudioRecordCallback(WebRtcAudioRecordCallback callback) {
    Logging.d("WebRtcAudioRecord", "Set record callback");
    mWebRtcAudioRecordCallback = callback;
}
public interface WebRtcAudioRecordCallback {
    void onWebRtcAudioRecordInit(int audioSource, int audioFormat,
             int sampleRate, int channels, int bitPerSample, 
             int bufferPerSecond, int bufferSizeInBytes);
    void onWebRtcAudioRecordStart();
    void onWebRtcAudioRecording(ByteBuffer buffer, int bufferSize, 
             boolean microphoneMute);
    void onWebRtcAudioRecordStop();
}
// tanghongfeng add end

b) 在initRecording方法中添加如下代码:

private int initRecording(int sampleRate, int channels) {
    ......
    logMainParameters();
    logMainParametersExtended();
    // tanghongfeng add begin
    if (mWebRtcAudioRecordCallback != null) {
        mWebRtcAudioRecordCallback
             .onWebRtcAudioRecordInit(audioSource, 2, sampleRate, 
                         channels, 16, 100, bufferSizeInBytes);
    }
    // tanghongfeng add end
    return framesPerBuffer;
}

c) 在startRecording方法中添加如下代码:

private boolean startRecording() {
    ......
    try {
        this.audioRecord.startRecording();
        // tanghongfeng add begin
        if (mWebRtcAudioRecordCallback != null) {
            mWebRtcAudioRecordCallback.onWebRtcAudioRecordStart();
        }
        // tanghongfeng add end
    } 
    ......
}

d) 在stopRecording方法中添加如下代码:

private boolean stopRecording() {
    ......
    this.releaseAudioResources();
    // tanghongfeng add begin
    if(mWebRtcAudioRecordCallback != null) {
        mWebRtcAudioRecordCallback.onWebRtcAudioRecordStop();
    }
    // tanghongfeng add end
    return true;
}

e) 在内部类AudioRecordThread的run方法中添加如下代码:

@Override
public void run() {
    ......
    while (keepAlive) {
        int bytesRead = audioRecord.read(byteBuffer, byteBuffer.capacity());
        if (bytesRead == byteBuffer.capacity()) {
            ......
            if (keepAlive) {
                nativeDataIsRecorded(bytesRead, nativeAudioRecord);
                // tanghongfeng add begin
                if (mWebRtcAudioRecordCallback != null) {
                    mWebRtcAudioRecordCallback.onWebRtcAudioRecording(byteBuffer, 
                                                 bytesRead, microphoneMute);
                }
                // tanghongfeng add end
            }
        } else {
            ......
        }
        ......
    }
}
2. 音频网络数据的提取(网络传入,对方声音)

webrtc的音频网络数据的提取在audio_device_java.jar包中,具体类为WebRtcAudioTrack,其对应源码中的位置为:

src/modules/audio_device/android/java/src/org/webrtc/voiceengine/WebRtcAudioTrack.java

a) 在该类中添加如下代码:

// tanghongfeng add begin
private static WebRtcAudioTrackCallback mWebRtcAudioTrackCallback;;
public static void setWebRtcAudioTrackCallback(WebRtcAudioTrackCallback callback) {
    Logging.d("WebRtcAudioTrack", "Set track callback");
    mWebRtcAudioTrackCallback = callback;
}
public interface WebRtcAudioTrackCallback {
    void onWebRtcAudioTrackInit(int audioFormat, int sampleRate,
                 int channels, int bitPerSample,
                 int bufferPerSecond, int minBufferSizeInBytes);
    void onWebRtcAudioTrackStart();
    void onWebRtcAudioTracking(ByteBuffer byteBuffer, int bytesWritten, 
                 boolean speakerMute);
    void onWebRtcAudioTrackStop();
}
// tanghongfeng add end

b) 在initPlayout方法中添加如下代码:

private boolean initPlayout(int sampleRate, int channels) {
    ......
    logMainParameters();
    logMainParametersExtended();
    // tanghongfeng add begin
    if (mWebRtcAudioTrackCallback != null) {
        mWebRtcAudioTrackCallback.onWebRtcAudioTrackInit(2, sampleRate, channels,
                                    16, 100, minBufferSizeInBytes);
    }
    // tanghongfeng add end
    return true;
}

c) 在startPlayout方法中添加如下代码:

private boolean startPlayout() {
    ......
    try {
        audioTrack.play();
        // tanghongfeng add begin
        if (mWebRtcAudioTrackCallback != null) {
            mWebRtcAudioTrackCallback.onWebRtcAudioTrackStart();
        }
        // tanghongfeng add end
    }
    ......
}

d) 在stopPlayout方法中添加如下代码:

private boolean stopPlayout() {
    ......
    // tanghongfeng add begin
    if (mWebRtcAudioTrackCallback != null) {
          mWebRtcAudioTrackCallback.onWebRtcAudioTrackStop();
    }
    // tanghongfeng add end
    return true;
}

e) 在内部类AudioTrackThread的run方法中添加如下代码:

@Override
public void run() {
    ......
    while (keepAlive) {
        ......
        // tanghongfeng add begin
        else if (mWebRtcAudioTrackCallback != null) {
            mWebRtcAudioTrackCallback
                  .onWebRtcAudioTracking(byteBuffer, bytesWritten, speakerMute);
        }
        // tanghongfeng add end
        byteBuffer.rewind();
    }
    ......
}
3. 编译webrtc,复制audio_device_java.jar包到视频通话的项目的libs中

编译生成的audio_device_java.jar包位于:

src/out/Debug/lib.java/modules/audio_device/audio_device_java.jar
二、使用修改后SDK,实现视频通话录制功能

本demo基于WebRtc的android示例APP。该示例APP的源码路径:
src/examples/androidapp
本demo完整的代码在github中:
https://github.com/thfhongfeng/PineAppRtc

视频通话录制的主要实现类为MediaRecordController

1. 实现方式:

a) 视频数据采集使用MediaProjection+VirtualDisplay
b) 双路音频的混音使用平均算法
c) 使用MediaCodec编码,使用MediaMuxer封装成MP4文件

2. 录制流程:
录制流程.jpg
三、搭建WebRtc服务器,完成端对端的WebRtc功能
1. 服务器搭建

参考之前的文章:搭建WebRtc服务器

2. 修改App的房间服务器地址(请读者使用自己搭建的服务器的地址进行设置,示例中的地址为作者本地搭建的服务器地址,外网是无法访问的):

两种方式:
a) 修改App源码中的房间服务器的默认地址为自己搭建的房间服务器的地址,修改文件pine_rtc\src\main\res\values\strings.xml:

<string translatable="false" name="pref_room_server_url_default">http://10.10.29.56:7000</string>

修改文件pine_rtc\src\main\AndroidManifest.xml:

<activity android:name=".org.component.ConnectActivity" 
          android:label="@string/app_name"
          android:windowSoftInputMode="adjustPan" android:screenOrientation="portrait">
    <intent-filter>
        <action android:name="android.intent.action.VIEW"/>
        <category android:name="android.intent.category.DEFAULT"/>
        <category android:name="android.intent.category.BROWSABLE"/>
        <data android:scheme="https" android:host="10.10.29.56"/>
        <data android:scheme="http" android:host="10.10.29.56"/>
    </intent-filter>
</activity>

重新编译Demo App
b) 不修改源码,启动App后直接在设置中修改房间服务器地址为自己搭建的房间服务器的地址。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 200,612评论 5 471
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 84,345评论 2 377
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 147,625评论 0 332
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,022评论 1 272
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,974评论 5 360
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,227评论 1 277
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,688评论 3 392
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,358评论 0 255
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,490评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,402评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,446评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,126评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,721评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,802评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,013评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,504评论 2 346
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,080评论 2 341

推荐阅读更多精彩内容