实时音视频
  • iOS
  • Android : Java
  • macOS
  • Windows
  • HarmonyOS
  • Linux
  • Web
  • 小程序
  • Flutter
  • Electron
  • Unreal Engine
  • Unity3D
  • uni-app
  • React Native
  • Cocos Creator
  • 产品简介
  • 下载
  • 体验 App
  • 快速开始
    • 跑通示例源码
    • 集成 SDK
    • 实现视频通话
    • 场景化音视频配置
  • 通信能力
  • 房间能力
  • 音频能力
  • 视频能力
  • 直播能力
  • 其他能力
  • 最佳实践
  • 客户端 API
  • 服务端 API
  • 常见错误码
  • 常见问题
  • 文档中心
  • 实时音视频
  • 视频能力
  • 设置视频编码方式

设置视频编码方式

更新时间:2024-01-02 18:48

功能简介

在开发者推拉视频流时,可对编解码进行详细设置,包括开启分层视频编码、开启视频大小流编码、使用硬件编解码和设置编码方式。

分层视频编码

分层视频编码,将码流分为基本层和扩展层,此编码方式可以为不同网络状态的用户提供更好的体验。基本层保证了最基本的视频质量,而扩展层则是对基本层的补充。对于网络较好的用户,可只拉取扩展层获得更好的体验,对于网络状态较差的用户,只拉取基本层可以保证基本的视频质量。

当开发者在连麦或混流业务中出现以下情况时,推荐使用分层视频编码功能:

  • 需要不同终端显示不同质量的视频流。
  • 需要在较差的网络环境中保持连麦的流畅。
  • 需要根据网络状态自适应拉取视频流的质量。

分层视频编码使用的是 ZEGO 的私有协议,拉流端只有从 ZEGO 服务器上才能拉取到不同分层的视频流。

视频大小流编码

视频大小流编码与分层视频编码的共同作用是将码流分为大分辨率类型和小分辨率类型。

最显著的差异是分层视频编码使用一个编码器编出基本层和扩展层的码流,视频大小流编码使用两个编码器编出基本层和扩展层的码流。

二者的具体差异、优缺点请查看 视频大小流和分层编码,开发者可以结合二者差异和业务具体诉求,选择分层视频编码还是视频大小流编码。

视频大小流编码使用的是 ZEGO 的私有协议,拉流端只有从 ZEGO 服务器上才能拉取到不同分层的视频流。

硬件编解码

开发者可选择开启硬件编码和硬件解码。开启硬件编解码后会使用 GPU 进行编解码,降低 CPU 使用率。若某些机型在推或拉大分辨率音视频流时设备发热严重,可开启硬件编解码。

视频编码方式

开发者可进行视频编码配置,使不同端之间进行编码对齐,进而实现多端互通。

使用场景:

  • 一般情况下使用默认编码即可。
  • 在同等分辨率帧率的情况下,需要降低码率,可以采用 H.265。
  • 在需要与小程序互通时,需要使用 H.264。

示例源码下载

请参考 下载示例源码 获取源码。

相关源码请查看 “/ZegoExpressExample/AdvancedVideoProcessing/src/main/java/im/zego/advancedvideoprocessing/encodinganddecoding” 目录下的文件。

前提条件

在实现视频编解码功能之前,请确保:

实现步骤

分层视频编码

使用分层视频编码需要以下两个步骤:

  • 推流前通过指定特定的编码器来开启分层视频编码。
  • 拉流时指定要拉取的分层视频。

1 开启分层视频编码(H.264 SVC)

在推流(startPublishingStream)前调用 setVideoConfig 接口设置 ZegoVideoConfig 类中的参数 “codecID”,即可开启/关闭分层视频编码功能。

  • “codecID” 设置为 “ZegoVideoCodecID.SVC”,可以开启该功能。
  • “codecID” 设置为 “ZegoVideoCodecID.DEFAULT”、“ZegoVideoCodecID.VP8” 或 “ZegoVideoCodecID.H265” 可关闭该功能。
ZegoVideoConfig videoConfig = new ZegoVideoConfig();
videoConfig.codecID = ZegoVideoCodecID.SVC;
engine.setVideoConfig(videoConfig);

String streamID = "MultiLayer-1";
engine.startPublishingStream(streamID);

2 指定要拉取的分层视频

在推流端开启了分层视频编码后,拉流端在拉流前后均可调用 setPlayStreamVideoType 接口,此时拉流端默认会根据网络情况拉取合适的视频分层,例如弱网只拉取基本层。开发者也可以传入具体的拉流参数以拉取特定的视频分层,目前支持的视频分层如下:

枚举值 说明
ZegoVideoStreamType.DEFAULT 根据网络状态选择图层
ZegoVideoStreamType.SMALL 小分辨率类型
ZegoVideoStreamType.BIG 大分辨率类型

以拉取扩展层为例:

engine.setPlayStreamVideoType(playStreamID,ZegoVideoStreamType.BIG);
engine.startPlayingStream(playStreamID);

视频大小流编码(H.264 DualStream)

视频大小流编码(H.264 DualStream)的实现方式与分层视频编码(H.264 SVC)类似,需要以下两个步骤:

  • 推流前,通过指定特定的编码器来开启视频大小流编码。
  • 拉流时,指定要拉取的视频码流。

1 开启视频大小流编码

在推流(startPublishingStream)前,调用 setVideoConfig 接口设置 ZegoVideoConfig 类中的参数 codecIDZegoVideoCodecID.H264DualStream,即可开启视频大小流编码功能。

ZegoVideoConfig videoConfig = new ZegoVideoConfig();
videoConfig.codecID = ZegoVideoCodecID.H264DualStream;
engine.setVideoConfig(videoConfig);

String streamID = "MultiLayer-1";
engine.startPublishingStream(streamID);

2 指定要拉取的视频码流

在推流端开启了视频大小流编码后,拉流端在拉流前后均可调用 setPlayStreamVideoType 接口,此时拉流端默认会根据网络情况拉取合适的视频流分层,例如,弱网只拉取基本层。开发者也可以传入具体的拉流参数以拉取特定的视频分层,目前支持的视频分层如下:

枚举 说明
ZegoVideoStreamType.DEFAULT 根据网络状态选择图层
ZegoVideoStreamType.SMALL 小分辨率类型
ZegoVideoStreamType.BIG 大分辨率类型

以拉取扩展层为例:

engine.setPlayStreamVideoType(playStreamID,ZegoVideoStreamType.BIG);
engine.startPlayingStream(playStreamID);

硬件编解码

由于少部分机型设备对硬件编码/解码的支持不佳,SDK 默认使用软件编码与软件解码的方式,若开发者有使用硬件编码的需求,可参照本节自行设置。

1 开启硬件编码

该功能需在推流前设置才能生效,如果在推流后设置,停止推流后重新推流才可以生效。

若开发者需要开启硬件编码,可调用 enableHardwareEncoder 接口。

// 开启硬件编码
engine.enableHardwareEncoder(true);

2 开启硬件解码

该功能需在拉流前设置才能生效,如果在拉流后设置,停止拉流后重新拉流才可以生效。

若开发者需要开启硬件解码,可调用 enableHardwareDecoder 接口。

// 开启硬件解码
engine.enableHardwareDecoder(true);

设置视频编码方式

在推流(startPublishingStream)前调用 setVideoConfig 接口设置 “ZegoVideoConfig” 类下的参数 “codecID”,即可设置视频编码方式。目前支持的视频编码方式如下:

枚举值 编码方式 使用场景
ZegoVideoCodecID.DEFAULT 默认编码(H.264) H.264 是被广泛使用的高精度视频的录制、压缩和发布格式,拥有很好的兼容性。
ZegoVideoCodecID.SVC 分层编码 (H.264 SVC) 需要使用分层编码的场景。
ZegoVideoCodecID.H264DualStream 视频大小流编码(H.264 DualStream) 希望将码流分为基本层和扩展层,但是 SVC 不满足业务需要的场景(例如:希望同时使用硬件编码)。
ZegoVideoCodecID.VP8 VP8 常用于 Web 视频,但不能用在 CDN 录制场景中,否则会造成录制文件异常。
ZegoVideoCodecID.H265 H.265 拥有更好的压缩率,但需考虑兼容性。

以设置编码方式为 H.265 为例:

ZegoVideoConfig videoConfig = new ZegoVideoConfig();
videoConfig.codecID = ZegoVideoCodecID.H265;
engine.setVideoConfig(videoConfig);

String streamID = "MultiLayer-1";
engine.startPublishingStream(streamID);

常见问题

  1. 转推或直推 CDN,观众从 CDN 上拉流,分层视频编码和大小流是否有效?从 CDN 拉取的流码率、分辨率是多少?

    • 视频分层编码视频大小流编码 使用的是 ZEGO 的私有协议,拉流端只有从 ZEGO 服务器上拉取 RTC 流或 L3 流时,才能拉取到不同分层的视频流。

    • 直推 CDN 场景下,由于不经过 ZEGO 服务器,所以码流的分层无效,SDK 会回退至 H.264 编码。从 CDN 拉取的流的分辨率和码率与推流用户设置的分辨率和码率一致。

    • 转推 CDN 场景下,由于 CDN 拉流未使用 ZEGO 的私有协议,ZEGO 服务器转推到 CDN 服务器后的流不支持分层视频编码、视频大小流编码,只能从转推基本层或者转推扩展层中选择一个,CDN 拉流时的分辨率、码率和帧率取决于转推的是基本层还是扩展层。

      转推到 CDN 时,默认转推扩展层。如果业务需要将基本层转推至 CDN,请联系 ZEGO 技术支持配置。

  1. 分层视频编码和大小流视频编码的区别是什么?

    详情请参考 视频大小流和分层编码

相关文档

如何解决 Web 平台和 Native 平台互通时出现的画面异常问题(如黑屏、绿屏、花屏等)?

本篇目录