屏幕共享
更新时间: 2024/08/05 15:02:55
在大型会议或在线教育等场景中,为了满足提升沟通效率的需求,主讲人或老师需要将本端的屏幕内容分享给远端参会者或在线学生观看。NERTC 支持屏幕共享功能,帮助您实时分享本端设备的屏幕内容。
功能介绍
通过 NERTC SDK 可以在视频通话或互动直播过程中实现屏幕共享,主播或连麦者可以将自己的屏幕内容,以视频的方式分享给远端参会者或在线观众观看,从而提升沟通效率,一般适用于多人视频聊天、在线会议以及在线教育场景。
-
视频会议场景中,参会者可以在会议中将本地的文件、数据、网页、PPT 等画面分享给其他与会者,让其他与会者更加直观的了解讨论的内容和主题。
-
在线课堂场景中,老师可以通过屏幕共享将课件、笔记、教学内容等画面展示给远端的其他学生观看,降低传统教学模式下的沟通成本,提升教育场景的用户体验。
NERTC SDK 以辅流的形式实现屏幕共享,即单独为屏幕共享开启一路上行的视频流,摄像头的视频流作为主流,屏幕共享的视频流作为辅流,两路视频流并行,主播同时上行摄像头画面和屏幕画面两路画面。
前提条件
在开始屏幕共享前,请确保已在你的项目中实现基本的实时音视频功能。
本端共享屏幕
API 调用时序
实现方法
-
设置屏幕共享辅流画布。
- 初始化后通过
setupLocalSubStreamVideoCanvas
设置本端的辅流视频回放画布。
由于 Linux 端为外部渲染,请自行按需实现本端的屏幕共享辅流视频渲染缩放模式。
- 初始化后通过
-
开启屏幕共享。 加入房间后,根据需求开启屏幕共享并设置屏幕共享的方式,屏幕共享内容以辅流形式发送。
startScreenCaptureByScreenRect
:开启屏幕共享,共享范围为指定屏幕的指定区域。startScreenCaptureByWindowId
:开启屏幕共享,共享范围为指定窗口的指定区域。 开启屏幕共享之后,远端会触发onUserSubStreamVideoStart
和onScreenCaptureStatus
回调。
-
管理屏幕共享任务。
pauseScreenCapture
:暂停屏幕共享。resumeScreenCapture
:恢复屏幕共享。updateScreenCaptureRegion
:更新屏幕共享区域。
-
关闭屏幕共享。 通过
stopScreenCapture
关闭辅流形式的屏幕共享。此时远端会触发onUserSubStreamVideoStop
和onScreenCaptureStatus
回调。
若您在屏幕共享过程中,SDK 触发 kScreenCaptureStatusAbort
回调,这是由于当前共享的窗口被关闭、进程崩溃等原因导致目标窗口无效。您需要在此事件的响应函数中调用 stopScreenCapture
结束屏幕共享进程。
示例代码
cpp// 设置本地辅流画布
static void onYuvDataIncomingSubstream(
nertc::uid_t uid, /*< uid */
void data, /*< 数据指针 */
uint32_t type, /**< NERtcVideoType */
uint32_t width, /**< 宽度 */
uint32_t height, /**< 高度 */
uint32_t count, /**< 数据类型个数,即offset及stride的数目 */
uint32_t offset[4], /**< 每类数据偏移 */
uint32_t stride[4], /**< 每类数据步进 */
uint32_t rotation, /**< NERtcVideoRotation */
void user_data /< 用户透传数据 */
);
nertc::NERtcVideoCanvas canvas;
canvas.cb = onYuvDataIncomingSubstream;
canvas.user_data = nullptr;
canvas.window =nullptr;
canvas.scaling_mode = kNERtcVideoScaleFit;
rtc_engine_->setupLocalSubStreamVideoCanvas(&canvas);
// 自行实现更新辅流画布缩放模式
// 获取本地辅流启动参数,下面举了两种类型的例子:动画模式和细节模式
// case 1: 动画模式 (流畅度优先),共享视频等高帧率场景
nertc::NERtcScreenCaptureParameters capture_params;
capture_params.profile = kNERtcScreenProfileCustom; // 建议全部使用custom模式,不要使用预置的profile。
capture_params.dimensions = {1920, 1080};
capture_params.frame_rate = 15; // 动画模式最高支持30fps,具体设置多少帧,可参考实际业务和测试效果
capture_params.bitrate = 0;
capture_params.capture_mouse_cursor = true;
capture_params.window_focus = true;
capture_params.excluded_window_list = nullptr;
capture_params.prefer = kNERtcSubStreamContentPreferMotion; // 设置动画模式
// case 2: 细节模式 (清晰度优先)共享文档/ppt推荐
nertc::NERtcScreenCaptureParameters capture_params;
capture_params.profile = kNERtcScreenProfileCustom;
capture_params.dimensions = {1920, 1080};
capture_params.frame_rate = 5; // 细节模式最高支持10fps
capture_params.bitrate = 0;
capture_params.capture_mouse_cursor = true;
capture_params.window_focus = true;
capture_params.prefer = kNERtcSubStreamContentPreferDetails;// 设置细节模式
// 启动辅流 case 1:根据指定区域选择某一个屏幕的分享
nrtc_engine_->startScreenCaptureByScreenRect({ 0,0,0,0 }, { 0,0,0,0 }, capture_params);
// 启动辅流 case 2:根据特定窗口句柄,选择应用窗口分享
nrtc_engine_->startScreenCaptureByWindowId(hwnd, { 0,0,0,0 }, capture_params);
// 暂停屏幕共享
nrtc_engine_->pauseScreenCapture();
// 恢复屏幕共享
nrtc_engine_->resumeScreenCapture();
// 更新取屏区域
nrtc_engine_->updateScreenCaptureRegion({ 0,0,640,480 });
// 停止屏幕共享
nrtc_engine_->stopScreenCapture();
观看远端屏幕共享
API 调用时序
实现方法
-
设置远端辅流画布。
- 远端用户加入房间时,可以通过
onUserJoined
事件获取远端用户 ID,并调用setupRemoteSubStreamVideoCanvas
方法设置指定远端用户的的辅流视频画布。
由于 Linux 端为外部渲染,请自行按需实现远端的屏幕共享辅流视频渲染缩放模式。
- 远端用户加入房间时,可以通过
-
订阅远端用户的屏幕共享流。
- 收到
onUserSubStreamVideoStart
远端用户开启屏幕共享辅流通道的回调。 - 通过
subscribeRemoteVideoSubStream
订阅远端的屏幕共享辅流视频,订阅之后才能接收远端的辅流视频数据。
- 收到
-
结束屏幕共享。
收到
onUserSubStreamVideoStop
其他用户关闭辅流的回调,结束屏幕共享。
示例代码
cpp// 远端辅流处理-------------------------------------------
// 设置远端辅流画布
static void onYuvDataIncomingSubstream(
nertc::uid_t uid, /*< uid */
void data, /*< 数据指针 */
uint32_t type, /**< NERtcVideoType */
uint32_t width, /**< 宽度 */
uint32_t height, /**< 高度 */
uint32_t count, /**< 数据类型个数,即offset及stride的数目 */
uint32_t offset[4], /**< 每类数据偏移 */
uint32_t stride[4], /**< 每类数据步进 */
uint32_t rotation, /**< NERtcVideoRotation */
void user_data /< 用户透传数据 */
);
nertc::NERtcVideoCanvas canvas;
canvas.cb = onYuvDataIncomingSubstream;
canvas.user_data = nullptr;
canvas.window =nullptr;
canvas.scaling_mode = kNERtcVideoScaleFit;
rtc_engine_->setupRemoteSubStreamVideoCanvas(&canvas);
// 自行实现更新远端辅流画布缩放模式
// 监听远端辅流开启
void onUserSubStreamVideoStart(uid_t uid, NERtcVideoProfileType max_profile) override{
//订阅远端辅流
rtc_engine_->subscribeRemoteVideoSubStream(uid, true);
//取消订阅远端辅流
rtc_engine_->subscribeRemoteVideoSubStream(uid, false);
}
//监听远端辅流停止
void onUserSubStreamVideoStop(uid_t uid) override{
// 取消远端辅流画布
rtc_engine_->setupRemoteSubStreamVideoCanvas(uid, nullptr);
}
设置屏幕共享的窗口范围
屏幕共享时,您可能需要限制共享屏幕的窗口范围,例如部分涉及敏感信息的窗口区域不进行屏幕共享。NERTC SDK 支持设置共享屏幕的区域范围,目前可通过以下方式实现:
-
开启屏幕共享时,仅共享指定窗口的部分区域。
通过
startScreenCaptureByWindowId
开启窗口维度的屏幕共享,并通过参数region_rect
指定共享的窗口范围。 -
开启屏幕共享时,仅共享指定屏幕的部分区域,并排除部分窗口。
通过
startScreenCaptureByScreenRect
开启屏幕维度的屏幕共享,并通过参数region_rect
指定共享的屏幕范围。