RSS订阅悠然探索,悠然索取
你的位置:首页 » 未分类 » 正文

利用FFmpeg玩转Android视频录制与压缩(三)

选择字号: 超大 标准 发布时间:2017-6-16 10:4:12 | 作者:admin | 0个评论 | 人浏览

 

请尊重原创,转载请注明出处http://blog.csdn.net/mabeijianxi/article/details/73011313

前言

上一回说到啊,这千秋月没是佳人离别,时逢枯枝落旧城,却待新兰满长街,战场上还未至瑞雪,各位看官不好意思,今日帝都又雾霾,来听小老二说书的别忘了加个口罩。在利用FFmpeg玩转Android视频录制与压缩(二)中我们基本编写完了所有模块儿代码,但是没有整合在一起,也没有对接Java层,接下来就是干这事。

native代码对接

我们编写完成了视频编码类、音频编码类、合成视频类,但是他们都没联系到一起,也没有被我们先前定义的JNI接口调用,再次看一眼我们的简单流程图以后,就开搞。


1. 准备一个处理全局数据的Handler

它的职责是处理视频编码完成事件、音频编码完成事件、视频合成完成开始控制、视频合成结束回调Java层,老规矩先上菜。
jx_jni_handler.h:

/**
 * Created by jianxi on 2017/5/26.
 * https://github.com/mabeijianxi
 * mabeijianxi@gmail.com
 */#ifndef JIANXIFFMPEG_JX_JNI_HANDLER_H#define JIANXIFFMPEG_JX_JNI_HANDLER_H#include "jx_user_arguments.h"class JXJNIHandler{
    ~JXJNIHandler(){//        delete(arguments);
    }public:    void setup_video_state(int video_state);    void setup_audio_state(int audio_state);    int try_encode_over(UserArguments* arguments);    void end_notify(UserArguments* arguments);private:    int start_muxer(UserArguments* arguments);private:    int video_state;    int audio_state;
};#endif //JIANXIFFMPEG_JX_JNI_HANDLER_H

jx_jni_handler.cpp:

/**
 * Created by jianxi on 2017/5/26.
 * https://github.com/mabeijianxi
 * mabeijianxi@gmail.com
 */#include "jx_jni_handler.h"#include "base_include.h"#include "jx_media_muxer.h"#include "jx_log.h"/**
 * 改变视频录制状态
 * @param video_state
 */void JXJNIHandler::setup_video_state(int video_state) {
    JXJNIHandler::video_state = video_state;
}/**
 * 改变音频录制状态
 * @param audio_state
 */void JXJNIHandler::setup_audio_state(int audio_state) {
    JXJNIHandler::audio_state = audio_state;
}/**
 * 检查是否视音是否都完成,如果完成就开始合成
 * @param arguments
 * @return
 */int JXJNIHandler::try_encode_over(UserArguments *arguments) {    if (audio_state == END_STATE && video_state == END_STATE) {
        start_muxer(arguments);        return END_STATE;
    }    return 0;
}/**
 * 开始视频合成
 * @param arguments
 * @return
 */int JXJNIHandler::start_muxer(UserArguments *arguments) {
    JXMediaMuxer *muxer = new JXMediaMuxer();
    muxer->startMuxer(arguments->video_path, arguments->audio_path, arguments->media_path);    delete (muxer);
    end_notify(arguments);    return 0;
}/**
 * 通知java层
 * @param arguments
 */void JXJNIHandler::end_notify(UserArguments *arguments) {    try {        int status;
        JNIEnv *env;
        status = arguments->javaVM->AttachCurrentThread(&env, NULL);        if (status < 0) {
            LOGE(JNI_DEBUG,"callback_handler: failed to attach "
                         "current thread");            return;
        }
        jmethodID pID = env->GetStaticMethodID(arguments->java_class, "notifyState", "(IF)V");        if (pID == NULL) {
            LOGE(JNI_DEBUG,"callback_handler: failed to get method ID");
            arguments->javaVM->DetachCurrentThread();            return;
        }
        env->CallStaticVoidMethod(arguments->java_class, pID, END_STATE, 0);
        env->DeleteGlobalRef(arguments->java_class);
        LOGI(JNI_DEBUG,"啦啦啦---succeed");
        arguments->javaVM->DetachCurrentThread();
    }    catch (exception e) {
        LOGI(JNI_DEBUG,"反射回调失败");
    }    delete (arguments);    delete(this);
}

这里基本都是API的调用,但是有个地方很关键,可以看到 end_notify函数里面通过反射调用Java的一个方法,这里的写法和一般的不同,因为我们是在 native 的线程里面调用的,直接反射是不行的,我们来看看官方的解释与解决办法



我的这种情况就是用 pthread_create 创建了一个线程,所以我在一开始的时候就把我们要反射的 jclass 对象还有 JavaVM 指针存入了 UserArguments 这个结构体,根据官方提示我们先在当前 JavaVM 上绑定我们的 native线程,然后即可搞事情,这个 env->GetStaticMethodID 函数需要传入个函数ID,这个是有规律的,完全不需要用命令生成。

2. JNI接口实现

我们在一开始就定义了众多JNI接口函数,但是都没有实现,现在我们底层关键代码基本编写完成,是时候串联了。

jx_ffmpeg_jni.cpp:

/**
 * Created by jianxi on 2017/5/12.
 * https://github.com/mabeijianxi
 * mabeijianxi@gmail.com
 */#include <jni.h>#include <string>#include "jx_yuv_encode_h264.h"#include "jx_pcm_encode_aac.h"#include "jx_jni_handler.h"#include "jx_ffmpeg_config.h"#include "jx_log.h"using namespace std;
JXYUVEncodeH264 *h264_encoder;
JXPCMEncodeAAC *aac_encoder;#define VIDEO_FORMAT ".h264"#define MEDIA_FORMAT ".mp4"#define AUDIO_FORMAT ".aac"/**
 * 编码准备,写入配置信息
 */extern "C"JNIEXPORT jint JNICALLJava_com_mabeijianxi_smallvideorecord2_jniinterface_FFmpegBridge_prepareJXFFmpegEncoder(JNIEnv *env,
                                                                                        jclass type,
                                                                                        jstring media_base_path_,
                                                                                        jstring media_name_,
                                                                                        jint v_custom_format,
                                                                                        jint in_width,
                                                                                        jint in_height,
                                                                                        jint out_width,
                                                                                        jint out_height,
                                                                                        jint frame_rate,
                                                                                        jlong video_bit_rate) {
    jclass global_class = (jclass) env->NewGlobalRef(type);
    UserArguments *arguments = (UserArguments *) malloc(sizeof(UserArguments));    const char *media_base_path = env->GetStringUTFChars(media_base_path_, 0);    const char *media_name = env->GetStringUTFChars(media_name_, 0);
    JXJNIHandler *jni_handler = new JXJNIHandler();
    jni_handler->setup_audio_state(START_STATE);
    jni_handler->setup_video_state(START_STATE);
    arguments->media_base_path = media_base_path;
    arguments->media_name = media_name;    size_t v_path_size = strlen(media_base_path) + strlen(media_name) + strlen(VIDEO_FORMAT) + 1;
    arguments->video_path = (char *) malloc(v_path_size + 1);    size_t a_path_size = strlen(media_base_path) + strlen(media_name) + strlen(AUDIO_FORMAT) + 1;
    arguments->audio_path = (char *) malloc(a_path_size + 1);    size_t m_path_size = strlen(media_base_path) + strlen(media_name) + strlen(MEDIA_FORMAT) + 1;
    arguments->media_path = (char *) malloc(m_path_size + 1);    strcpy(arguments->video_path, media_base_path);    strcat(arguments->video_path, "/");    strcat(arguments->video_path, media_name);    strcat(arguments->video_path, VIDEO_FORMAT);    strcpy(arguments->audio_path, media_base_path);    strcat(arguments->audio_path, "/");    strcat(arguments->audio_path, media_name);    strcat(arguments->audio_path, AUDIO_FORMAT);    strcpy(arguments->media_path, media_base_path);    strcat(arguments->media_path, "/");    strcat(arguments->media_path, media_name);    strcat(arguments->media_path, MEDIA_FORMAT);
    arguments->video_bit_rate = video_bit_rate;
    arguments->frame_rate = frame_rate;
    arguments->audio_bit_rate = 40000;
    arguments->audio_sample_rate = 44100;
    arguments->in_width = in_width;
    arguments->in_height = in_height;
    arguments->out_height = out_height;
    arguments->out_width = out_width;
    arguments->v_custom_format = v_custom_format;
    arguments->handler = jni_handler;
    arguments->env = env;
    arguments->java_class = global_class;
    arguments->env->GetJavaVM(&arguments->javaVM);
    h264_encoder = new JXYUVEncodeH264(arguments);
    aac_encoder = new JXPCMEncodeAAC(arguments);    int v_code = h264_encoder->initVideoEncoder();    int a_code = aac_encoder->initAudioEncoder();    if (v_code == 0 && a_code == 0) {        return 0;
    } else {        return -1;
    }
}/**
 * 编码一帧视频
 */extern "C"JNIEXPORT jint JNICALLJava_com_mabeijianxi_smallvideorecord2_jniinterface_FFmpegBridge_encodeFrame2H264(JNIEnv *env,
                                                                                  jclass type,
                                                                                  jbyteArray data_) {
    jbyte *elements = env->GetByteArrayElements(data_, 0);    int i = h264_encoder->startSendOneFrame((uint8_t *) elements);    return 0;
}/**
 * 获取ffmpeg编译信息
 */extern "C"JNIEXPORT jstring JNICALLJava_com_mabeijianxi_smallvideorecord2_jniinterface_FFmpegBridge_getFFmpegConfig(JNIEnv *env,
                                                                                 jclass type) {    return getEncoderConfigInfo(env);
}/**
 * 编码一帧音频
 */extern "C"JNIEXPORT jint JNICALLJava_com_mabeijianxi_smallvideorecord2_jniinterface_FFmpegBridge_encodeFrame2AAC(JNIEnv *env,
                                                                                 jclass type,
                                                                                 jbyteArray data_) {    return aac_encoder->sendOneFrame((uint8_t *) env->GetByteArrayElements(data_, 0));
}/**
 *结束
 */extern "C"JNIEXPORT jint JNICALLJava_com_mabeijianxi_smallvideorecord2_jniinterface_FFmpegBridge_recordEnd(JNIEnv *env,
                                                                           jclass type) {
    h264_encoder->user_end();
    aac_encoder->user_end();    return 0;
}JNIEXPORT void JNICALLJava_com_mabeijianxi_smallvideorecord2_jniinterface_FFmpegBridge_nativeRelease(JNIEnv *env,
                                                                               jclass type) {    // TODO}

代码很简单在Java_com_mabeijianxi_smallvideorecord2_jniinterface_FFmpegBridge_prepareJXFFmpegEncoder 函数中我们对传入的地址先是做了个拼接,然后初始化了结构体 UserArguments ,并为其赋值。可以看到 jclass对象与 JavaVM 指针也是在这里赋值的,但是需要调用env->NewGlobalRef 函数来让jclass对象成为全局的。

Java代码对接

native代码已经基本完成,接下来就是Java层次调用了,这个不是本文的重点,只记录个大概,2.0的Java代码和1.0的Java代码差不多,更多可阅读利用FFmpeg玩转Android视频录制与压缩(一)

1、相机关键参数配置

  • mParameters.setPreviewFormat(ImageFormat.YV12) :很关键,因为我们在底层是按照YV12的数据结构操作的。

  • camera.addCallbackBuffer(new byte[buffSize]) 我们需要add 三个buffer,也很关键,我试过用一个buffer,结果就是丢帧,这buffSize大小是width*height*3/2,这个和YV12是对应的,width*height 个Y,(1/4)*width*height个V,(1/4)*width*height个U。

2、音频配置:

里面配置和 native需要是对应的,如采样率、通道数、采样格式等。

final int mMinBufferSize = AudioRecord.getMinBufferSize(mSampleRate, AudioFormat.CHANNEL_IN_MONO, AudioFormat.ENCODING_PCM_16BIT);        if (AudioRecord.ERROR_BAD_VALUE == mMinBufferSize) {
            mMediaRecorder.onAudioError(MediaRecorderBase.AUDIO_RECORD_ERROR_GET_MIN_BUFFER_SIZE_NOT_SUPPORT, "parameters are not supported by the hardware.");            return;
        }
        mAudioRecord = new AudioRecord(android.media.MediaRecorder.AudioSource.MIC, mSampleRate, AudioFormat.CHANNEL_IN_MONO, AudioFormat.ENCODING_PCM_16BIT, mMinBufferSize);

3、调用JNI函数

当用户按下录制键的时候我们开始调用 FFmpegBridge.prepareJXFFmpegEncoder 初始化底层,然后在 camera 与
AudioRecorder 的数据回调用把数据再传给底层,如下:

    /**
     * 数据回调
     */
    @Override
    public void onPreviewFrame(byte[] data, Camera camera) {        if (mRecording) {
            FFmpegBridge.encodeFrame2H264(data);
            mPreviewFrameCallCount++;
        }        super.onPreviewFrame(data, camera);
    }
/**
     * 接收音频数据,传递到底层
     */
    @Override
    public void receiveAudioData(byte[] sampleBuffer, int len) {        if (mRecording && len > 0) {
            FFmpegBridge.encodeFrame2AAC(sampleBuffer);
        }
    }

最后结束的时候调用 FFmpegBridge.recordEnd() 皆可,只要底层封装好了,一切都会很简单。

总结

本工程2.0搞的时间比较长基本跨越了一个春天,主要是平时工作太忙,只有晚上或者周末有时间搞,tnd春天都过了,女神也已成人妻,真是个悲惨的故事,在这过程中遇到了无数的问题,可以说无数次想放弃,但牛逼已经吹下,就边学边实践的走过来了,期间有很多网友帮助了我,我加了好几个音视频的群,里面同志异常活跃,这对我帮助非常大。本工程中使用的FFmpeg是根据现在的需要编译的,有更多需求的同学可在编译脚本中开启更多功能。

学习路线:

有兴趣从头开始学的同学可以看下我的学习路线,需要有耐心,很关键。本工程撸代码的时间大概是20天的业余时间,其他大部分是在学习和做准备,基本从前到后是如下几步:

  1. 对c/c++能基本会利用,语言就是个工具,一开始可以不太深入,可以到工程中实践;

  2. 对jni有个全面的了解,网上很多博客,别光看,多实际操作;

  3. 这个时候就可以看一些音视频编解码基础性质的东西,雷神写了好多入门教程,这里贴一个入口视音频编解码技术零基础学习方法

  4. 视频压缩编码和音频压缩编码的基本原理,看些原理性的东西,不限于这篇博客。

  5. 然后对FFmpeg的编译脚本有一定了解,Android下不可能开启全部功能的,你需要根据你的项目编译合适你用的FFmpeg;

  6. 上面都弄完了即可开始编译自己的FFmpeg,然后导入项目开始蹂蹑它的API。

可能会用的工具:

MediaInfo:一个分析视频的软件。

VLC:一个播放器

GLYUVPlay:一个YUV播放器

本工程2.0版本的全部代码和1.0放在了github的同一个根目录下,欢迎下载,如有问题可以直接在上面留言,我会抽时间一个一个的干掉,项目地址https://github.com/mabeijianxi/small-video-record,如果你觉得对你有帮助你可以勉为其难的 star

标签:

猜你喜欢

发表评论

必填

选填

选填

必填,不填不让过哦,嘻嘻。

记住我,下次回复时不用重新输入个人信息

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。