1、音视频采集
采集是播放环节中的环,iOS 系统因为软硬件种类不多,硬件适配性较好,比较简单。Android则不同,市面上硬件机型非常多,难以做到一个库适配所有硬件。PC 端的采集也跟各种摄像头驱动有关,推荐使用目前市面上好用的 PC端开源免费软件 OBS。
2、音视频处理
「80% 的主播没有美颜根本没法看。」不光是美颜,很多其它的视频处理如模糊效果、水印等也都是在这个环节做。目前 iOS端比较的是 GPUImage 这个库,提供了丰富端预处理效果,还可以基于这个库自己写算法实现更丰富端效果。Android 也有GPUImage 这个库的移植,叫做 android-gpuimage。
3、音视频编码
编码主要难点有两个:
处理硬件兼容性问题。
在高 fps、低 bitrate 和音质画质之间找到平衡。
iOS 端硬件兼容性较好,可以直接采用硬编。而 Android的硬编的支持则难得多,需要支持各种硬件机型,推荐使用软编。
4、推流和传输:
传输涉及到很多端:
从主播端到服务端;
从收流服务端到边缘节点;
以及再从边缘节点到观众端。
推流端和分发端理论上需要支持的并发用户数应该都是亿级的,毕竟产生内容的推流端在少数,和消费内容端播放端不是一个量级,他们对推流稳定性和速度的要求比播放端高很多,这涉及到所有播放端能否看到直播,以及直播端质量如何。
5、实时音视频转码
为了让主播推上来的流适配各个平台端各种不同协议,需要在服务端做一些流处理工作,比如转码成不同格式支持不同协议如 RTMP、HLS和 FLV,一路转多路流来适配各种不同的网络状况和不同分辨率的终端设备。
为了配合一些运营需求,比如一些监管部门的要求,我们在服务端也提供了内容识别如鉴黄的功能。
6、解码和渲染
解码和渲染,也即音视频的播放,目前 iOS 端的播放兼容性较好,在延迟可接受的情况下使用 HLS协议是好的选择,我们也提供了能够播放 RTMP 和 HLS 的播放器 SDK。Android的硬件解码和编码一样也存在兼容性问题,目前比较好的开源播放器是基于 ffplay 的 ijkplayer,我们也基于此实现了一个更好的Android SDK。