关于直播,所有的技术细节都在这里了(三)

企业动态
一个典型的视频帧序列为IBBPBBPBBP……对于直播而言,为了减少直播的延时,通常在编码时不使用B帧。P帧B帧对于I帧都有直接或者间接的依赖关系,所以播放器要解码一个视频帧序列,并进行播放,必须首先解码出I帧,其后续的B帧和P帧才能进行解码,这样服务端如何进行关键帧的缓存,则对直播的延时以及其他方面有非常大的影响。

在分析了低延迟的直播传输架构及优化后,接下来我们将介绍在传输直播流媒体过程中的内容缓存与传输策略优化细节原理。

基础知识:I帧、B帧、P帧。

I帧表示关键帧。你可以理解为这一帧画面的完整保留;解码时只需要本帧数据就可以完成。(因为包含完整画面)

P帧表示这一帧跟之前的一个关键帧(或P帧)的差别。解码时需要用之前缓存的画面叠加上本帧定义的差别,生成最终画面。(也就是差别帧,P帧没有完整画面数据,只有与前一帧的画面差别的数据)

B帧是双向差别帧。B帧记录的是本帧与前后帧的差别(具体比较复杂,有4种情况)。换言之,要解码B帧,不仅要取得之前的缓存画面,还要解码之后的画面,通过前后画面的与本帧数据的叠加取得最终的画面。B帧压缩率高,但是编解码时会比较耗费CPU,而且在直播中可能会增加直播延时,因此在移动端上一般不使用B帧。

关键帧缓存策略

一个典型的视频帧序列为IBBPBBPBBP……对于直播而言,为了减少直播的延时,通常在编码时不使用B帧。P帧B帧对于I帧都有直接或者间接的依赖关系,所以播放器要解码一个视频帧序列,并进行播放,必须首先解码出I帧,其后续的B帧和P帧才能进行解码,这样服务端如何进行关键帧的缓存,则对直播的延时以及其他方面有非常大的影响。

比较好的策略是服务端自动判断关键帧的间隔,按业务需求缓存帧序列,保证在缓存中存储至少两个或者以上的关键帧,以应对低延时、防卡顿、智能丢包等需求。

延迟与卡顿的折中

直播的延时与卡顿是分析直播业务质量时,非常关注的两项指标。互动直播的场景对延时非常敏感,新闻体育类直播则更加关注播放的流畅度。然而,这两项指标从理论上来说,是一对矛盾的关系——需要更低的延时,则表明服务器端和播放端的缓冲区都必须更短,来自网络的异常抖动容易引起卡顿;业务可以接受较高的延时时,服务端和播放端都可以有较长的缓冲区,以应对来自网络的抖动,提供更流畅的直播体验。当然,对于网络条件非常好的用户,这两项是可以同时保证的,这里主要是针对网络条件不是那么好的用户,如何解决延时与卡顿的问题。

这里通常有两种技术来平衡和优化这两个指标。一是服务端提供灵活的配置策略,对于延时要求更敏感的,则在服务端在保证关键帧的情况下,对每个连接维持一个较小的缓冲队列;对于卡顿要求更高的直播,则适当增加缓冲队列的长度,保证播放的流畅。二是服务端对所有连接的网络情况进行智能检测,当网络状况良好时,服务端会缩小该连接的缓冲队列的大小,降低延迟;而当网络状况较差时,特别是检测到抖动较为明显时,服务端对该连接增加缓冲队列长度,优先保证播放的流畅性。

 

丢包策略

什么时候需要丢包呢?对于一个网络连接很好,延时也比较小的连接,丢包策略永远没有用武之地的。而网络连接比较差的用户,因为下载速度比较慢或者抖动比较大,这个用户的延时就会越来越高;另外一种情况是,如果直播流关键帧间隔比较长,那么在保证首包是关键帧的情况下,观看这个节目的观众,延迟有可能会达到一个关键帧序列的长度。上述两种情况,都需要启用丢包策略,来调整播放的延时。

关于丢包,需要解决两个问题:一是正确判断何时需要进行丢包;二是如何丢包以使得对观众的播放体验影响最小。较好的做法是后端周期监控所有连接的缓冲队列的长度,这样队列长度与时间形成一个离散的函数关系,后端通过自研算法来分析这个离散函数,判断是否需要丢包。一般的丢帧策略,就是直接丢弃一个完整的视频帧序列,这种策略看似简单,但对用户播放的影响体验非常大。而应该是后台采用逐步丢帧的策略,每个视频帧序列,丢***的一到两帧,使得用户的感知最小,平滑的逐步缩小延时的效果。

以上就是UCloud直播云:内容缓存与传输策略优化细节原理。关于接入网络优化、直播协议选择、终端优化,请参阅已发布或将发布的其他部分。

点击阅读:关于直播,所有的技术细节都在这里了(一)http://www.51cto.com/art/201605/511219.htm

点击阅读:关于直播,所有的技术细节都在这里了(二)http://www.51cto.com/art/201605/511224.htm

预告:前面介绍了直播后端系统的原理及优化,那么直播推流、播放端是否有可以优化的点呢?答案是肯定的,客户端的优化对直播秒开、延迟体验的实现至关重要,请关注的《关于直播,所有的技术细节都在这里了(四)》,我们将带来客户端优化的技术细节。

责任编辑:xiejuan 来源: 51CTO
相关推荐

2016-05-20 11:26:54

客户端优化 直播推流

2016-05-16 12:08:08

UCloud 直播云

2016-05-16 14:00:39

UCloud 直播云

2016-05-12 14:54:39

UCloud

2017-09-19 14:55:27

Android字体修改

2017-12-08 10:42:49

HBase切分细节

2017-08-28 16:40:07

Region切分触发策略

2018-04-26 16:15:02

数据库MySQLMySQL 8.0

2019-11-04 09:07:48

DevOps互联网IT

2022-11-28 08:44:46

死锁面试线程

2017-10-24 14:57:58

AI人工智能机器学习

2018-03-19 14:43:28

2021-03-11 16:07:40

鸿蒙HarmonyOS应用开发

2021-06-17 13:40:47

区块链比特币公有链

2021-06-18 10:45:29

Java内存泄漏C++

2019-07-21 08:10:21

技术研发优化

2021-10-06 16:21:32

类型对象Typescript

2023-12-11 21:59:01

时序分析深度学习自回归模型

2019-12-04 07:57:22

6G5G网络

2021-01-15 09:40:37

程序员技能开发者
点赞
收藏

51CTO技术栈公众号