GStreamer插件实列rockchipmpp

专注&突破

2024-06-28 帮助1人

尽管这些年arm发展取得了不少的进步，不过对于音视频的编解码仍然心有余力不足，好在芯片厂家在SOC里面提供了硬件加速能力。善于发挥出芯片的能力，才能打造出完美的应用.今天我们一起来探索一下rk3568上的为我们提供的多媒体加速能力-MPP，然后一起分析一下rk的gstreamer插件。

MPP

概述

瑞芯微提供的媒体处理软件平台（ Media Process Platform ，简称 MPP ）是适用于瑞芯微芯片系列的通用媒体处理软件平台。该平台对应用软件屏蔽了芯片相关的复杂底层处理，其目的是为了屏蔽不同芯片的差异，为使用者提供统一的视频媒体处理接口（Media Process Interface ，缩写 MPI ）。 MPP 提供的功能包括：

视频解码

 H.265 / H.264 / H.263 / VP9 / VP8 / MPEG-4 / MPEG-2 / MPEG-1 / VC1 / MJPEG

视频编码

 H.264 / VP8 / MJPEG

视频处理

 视频拷贝，缩放，色彩空间转换，场视频解交织（Deinterlace ）

系统架构

MPP 平台在系统架构的层次图如下图：

硬件层 Hardware

硬件层是瑞芯微系列芯片平台的视频编解码硬件加速模块，包括 VPU ， rkvdec ， rkvenc 等不同类型，不同功能的硬件加速器。

内核驱动层 Kernel driver

Linux 内核的编码器硬件设备驱动，以及相关的 mmu ，内存，时钟，电源管理模块等。

操作系统层

MPP 用户态的运行平台，如 Android 以及 Debian 等 Linux 发行版

应用层

MPP 层通过 MPI 对接各种中间件软件，如 OpenMax ， ffmpeg 和 gstreamer ，或者直接对接客户的上层应用。

MPI

由于视频编解码与视频处理过程需要处理大量的数据交互，包括码流数据，图像数据以及内存数据，同时还要处理与上层应用以及内核驱动的交叉关系，所以 MPP 设计了 MPI 接口，用于与上层交互。本章节说明了 MPI 接口使用的数据结构，以及设计思路。

MppMem 为 C 库 malloc 内存的封装。

MppBuffer 为硬件用的 dmabuf 内存的封装。

MppPacket 为一维缓存封装，可以从 MppMem 和 MppBuffer 生成，主要用于表示码流数据。

MppFrame 为二维帧数据封装，可以从 MppMem 和 MppBuffer 生成，主要用于表示图像数据。

使用 MppPacket 和 MppFrame 就可以简单有效的完成一般的视频编解码工作。

以视频解码为例，码流输入端把地址和大小赋值给 MppPacket ，通过 put_packet 接口输入，在输出端通过 get_frame 接口得到输入图像 MppFrame ，即可完成最简单的视频解码过程。

MPI （ Media Process Interface ）是 MPP 提供给用户的接口，用于提供硬件编解码功能，以及一些必要的相关功能。MPI 是通过 C 结构里的函数指针方式提供给用户，用户可以通过 MPP 上下文结构 MppCtx 与 MPI 接口结构 MppApi 组合使用来实现解码器与编码器的功能。

学新通

如上图所示， mpp_create ， mpp_init ， mpp_destroy 是操作 MppCtx 接口的过程，其中 mpp_create 接口也获取到了 MPI 接口结构体 MppApi ，真正的编码与解码过程是通过调用 MppApi 结构体里内的函数指针来实现,也就是上图中红框内的部分。红框内的函数调用分为编解码流程接口put/get_packet/frame 和相关的 control 和 reset 接口。下文先描述编解码器接口，再对编解码器工作中的一些要点进行说明。

rk gstreamer 插件

rockchipmpp是rk公司开发的一个在gstreamer插件，主要把自己的MPP和GStreamer，结合起来，我们在使用是可以直接把相关代码放到gstreamer源码中编译即可。

如下为它的源码

├── gstmppallocator.c
├── gstmppallocator.h
├── gstmppalphadecodebin.c
├── gstmppalphadecodebin.h
├── gstmpp.c
├── gstmppdec.c
├── gstmppdec.h
├── gstmppenc.c
├── gstmppenc.h
├── gstmpp.h
├── gstmpph264enc.c
├── gstmpph264enc.h
├── gstmpph265enc.c
├── gstmpph265enc.h
├── gstmppjpegdec.c
├── gstmppjpegdec.h
├── gstmppjpegenc.c
├── gstmppjpegenc.h
├── gstmppvideodec.c
├── gstmppvideodec.h
├── gstmppvp8enc.c
├── gstmppvp8enc.h
├── gstmppvpxalphadecodebin.c
├── gstmppvpxalphadecodebin.h

gstmpp.c为统一的入口文件，在它里面注册其他插件，gstmppjpegdec.c为jpeg的解码文件，我们能以他们为例子分析一下这个rockchip的mpp插件

gstreamer rkmpp 插件定义

如下为rkmpp的定义

GST_PLUGIN_DEFINE (GST_VERSION_MAJOR,
GST_VERSION_MINOR,
rkmpp,
"Rockchip Mpp Video Plugin",
plugin_init, VERSION, GST_LICENSE, GST_PACKAGE_NAME, GST_PACKAGE_ORIGIN)

这个功能相当于面向对象语言的模板功能，由于C语言不支持模板功能，需要使用宏定义，来模拟模板功能，下面我们一起展开一下;

#ifdef __cplusplus
#define G_BEGIN_DECLS extern "C" {
#define G_END_DECLS }
#else
#define G_BEGIN_DECLS
#define G_END_DECLS
#endif
#if (0 || defined(_MSC_VER)) && !defined(GST_STATIC_COMPILATION)
# define GST_PLUGIN_EXPORT __declspec(dllexport)
# ifdef GST_EXPORTS
# define GST_EXPORT __declspec(dllexport)
# else
# define GST_EXPORT __declspec(dllimport) extern
# endif
#else
# if defined(__GNUC__) || (defined(__SUNPRO_C) && (__SUNPRO_C >= 0x590))
# define GST_PLUGIN_EXPORT __attribute__ ((visibility ("default")))
# define GST_EXPORT extern __attribute__ ((visibility ("default")))
# else
# define GST_PLUGIN_EXPORT
# define GST_EXPORT extern
# endif
#endif
#define G_PASTE_ARGS(identifier1,identifier2) identifier1 ## identifier2
#define G_PASTE(identifier1,identifier2) G_PASTE_ARGS (identifier1, identifier2)
#define GST_PLUGIN_DEFINE(major,minor,name,description,init,version,license,package,origin) \
G_BEGIN_DECLS \
GST_PLUGIN_EXPORT const GstPluginDesc * G_PASTE(gst_plugin_, G_PASTE(name, _get_desc)) (void); \
GST_PLUGIN_EXPORT void G_PASTE(gst_plugin_, G_PASTE(name, _register)) (void); \
\
static const GstPluginDesc gst_plugin_desc = { \
major, \
minor, \
G_STRINGIFY(name), \
(gchar *) description, \
init, \
version, \
license, \
PACKAGE, \
package, \
origin, \
__GST_PACKAGE_RELEASE_DATETIME, \
GST_PADDING_INIT \
}; \
\
const GstPluginDesc * \
G_PASTE(gst_plugin_, G_PASTE(name, _get_desc)) (void) \
{ \
return &gst_plugin_desc; \
} \
\
void \
G_PASTE(gst_plugin_, G_PASTE(name, _register)) (void) \
{ \
gst_plugin_register_static (major, minor, G_STRINGIFY(name), \
description, init, version, license, \
PACKAGE, package, origin); \
} \
G_END_DECLS

这个宏定义主要生成gst_plugin_desc结构和gst_plugin_rkmpp_get_desc，gst_plugin_rkmpp_register，来的分析，把部分宏找出来直接用gcc命令生产:

gcc  -E -P gst-define.c > gst-define_m.c

大致代码如下

__attribute__ ((visibility ("default"))) const GstPluginDesc * gst_plugin_rkmpp_get_desc (void);
__attribute__ ((visibility ("default"))) void gst_plugin_rkmpp_register (void);
static const GstPluginDesc gst_plugin_desc = { GST_VERSION_MAJOR, GST_VERSION_MINOR, G_STRINGIFY(rkmpp), (gchar *) "Rockchip Mpp Video Plugin", plugin_init, VERSION, GST_LICENSE, PACKAGE, GST_PACKAGE_NAME, GST_PACKAGE_ORIGIN, __GST_PACKAGE_RELEASE_DATETIME, GST_PADDING_INIT };
const GstPluginDesc * gst_plugin_rkmpp_get_desc (void)
{ return &gst_plugin_desc; }
void gst_plugin_rkmpp_register (void)
{ gst_plugin_register_static (GST_VERSION_MAJOR, GST_VERSION_MINOR, G_STRINGIFY(rkmpp), "Rockchip Mpp Video Plugin",
plugin_init, VERSION, GST_LICENSE, PACKAGE, GST_PACKAGE_NAME, GST_PACKAGE_ORIGIN);
}

插件初始化

前奏

void
gst_init (int *argc, char **argv[])
{
GError *err = NULL;
if (!gst_init_check (argc, argv, &err)) {
g_print ("Could not initialize GStreamer: %s\n",
err ? err->message : "unknown error occurred");
if (err) {
g_error_free (err);
}
exit (1);
}
}

它的主要功能，

初始化GStreamer库
注册内部element
加载插件列表，扫描列表中及相应路径下的插件
解析并执行命令行参数

我们下面简单跟踪它的代码，重点看看怎么一步步加载插件的

gst_init 主要调用gst_init_check，这个函数如下所示

gboolean
gst_init_check (int *argc, char **argv[], GError ** err)
{
static GMutex init_lock;
#ifndef GST_DISABLE_OPTION_PARSING
GOptionGroup *group;
GOptionContext *ctx;
#endif
gboolean res;
g_mutex_lock (&init_lock);
if (gst_initialized) {
GST_DEBUG ("already initialized gst");
g_mutex_unlock (&init_lock);
return TRUE;
}
#ifndef GST_DISABLE_OPTION_PARSING
ctx = g_option_context_new ("- GStreamer initialization");
g_option_context_set_ignore_unknown_options (ctx, TRUE);
g_option_context_set_help_enabled (ctx, FALSE);
group = gst_init_get_option_group ();
g_option_context_add_group (ctx, group);
res = g_option_context_parse (ctx, argc, argv, err);
g_option_context_free (ctx);
#else
init_pre (NULL, NULL, NULL, NULL);
init_post (NULL, NULL, NULL, NULL);
res = TRUE;
#endif
gst_initialized = res;
g_mutex_unlock (&init_lock);
return res;
}

这个函数主要是先看看有没有初始化，没有的话，进行初始化。在初始化的时候也可以使用GOption来指定参数，之前已经提过，GOption数组来定义你的命令行选项将表与由gst_init_get_option_group函数返回的选项组一同传给GLib初始化函数。通过使用GOption表来初始化GSreamer，你的程序还可以解析除标准GStreamer选项以外的命令行选项。

这里重点是

group->pre_parse_func = pre_parse_func; init_pre
group->post_parse_func = post_parse_func; ///init_post

主要的工作是在init_post中完成，这里不准备详细介绍，着重说几点：

插件的加载并不是普通的动态库加载那样，而是形成一个plugin registry，这个registry主要记载插件的详细信息，在使用的时候方便调用
插件的加载使用父子进程方式，父进程收集和记录信息，子进程执行加载过程

这篇好文章是转载于：学新通技术网

GStreamer插件实列rockchipmpp

MPP

概述

系统架构

MPI

rk gstreamer 插件

gstreamer rkmpp 插件定义

插件初始化

前奏

微信小程序没声音怎么办

excel图片置于文字下方的方法

怎样阻止微信小程序自动打开

微信人名旁边有个图标有什么用

微信提示登录环境异常是什么意思原因

微信获取用户openid失败怎么办

photoshop怎么把印章抠出并放在另一张图上

EhViewer(E绅士)最新版_ehviewer白色版彩色版_Ehviewer显示网络错误怎么办?e站进不去了怎么办

Excel筛选和排序是灰色的怎么办

photoshop蒙版画笔没反应怎么办