屏幕共享
更新时间: 2024/09/18 16:26:13
在大型会议或在线教育等场景中,为了满足提升沟通效率的需求,主讲人或老师需要将本端的屏幕内容分享给远端参会者或在线学生观看。NERTC 支持屏幕共享功能,帮助您实时分享本端设备的屏幕内容。
功能介绍
通过 NERTC SDK 可以在视频通话或互动直播过程中实现屏幕共享,主播或连麦者可以将自己的屏幕内容,以视频的方式分享给远端参会者或在线观众观看,从而提升沟通效率,一般适用于多人视频聊天、在线会议以及在线教育场景。
-
视频会议场景中,参会者可以在会议中将本地的文件、数据、网页、PPT 等画面分享给其他与会者,让其他与会者更加直观的了解讨论的内容和主题。
-
在线课堂场景中,老师可以通过屏幕共享将课件、笔记、教学内容等画面展示给远端的其他学生观看,降低传统教学模式下的沟通成本,提升教育场景的用户体验。
NERTC SDK 以辅流的形式实现屏幕共享,即单独为屏幕共享开启一路上行的视频流,摄像头的视频流作为主流,屏幕共享的视频流作为辅流,两路视频流并行,主播同时上行摄像头画面和屏幕画面两路画面。
此外 NERTC SDK 还支持在共享屏幕的同时,也共享本地播放的系统背景音。具体请参考音频共享。
注意事项
- NERTC Android、iOS 12.0 及以上版本,支持通过辅流实现屏幕共享。如果使用辅流的屏幕共享方案,请保证房间内所有成员均升级到支持版本以上,否则互相通信时会因同时发送主流和辅流造成通话异常等问题。
- 如果您的 App 无法针对所有端进行强制升级,屏幕共享场景中仅部分端使用 V3.9.0 及以上版本,为避免上述通话异常问题,必须保证通话过程中单人同时只有一路上行视频流。当需要将视频流切换为屏幕共享流时,请先通过
enableLocalVideo
关闭视频流,再通过startScreenCapture
启动屏幕共享流。反向切换同理。 - MediaProjection 等 API 需要 Android API level 21+,使用方法请参考 Google MediaProjection API 文档。
- Android 10 及以后的版本屏幕共享系统要求开启一个前台服务,因此需要在
AndroidManifest.xml
中添加 service,同时将 compileSdkVersion 设置为 29。请根据您的业务需求添加 service。
本端共享屏幕
API 调用时序
开发 Android 系统的应用时,您需要使用 Android 原生 API 和 NERTC API 共同实现屏幕共享功能。API 调用时序如下图所示。
sequenceDiagram
participant 应用层
participant Android系统
Note over 应用层, Android系统: 请求系统权限
Note over Android系统: Android 10+ 的系统请先添加 ScreenShareService
应用层 ->> Android系统: MediaProjection
Android系统-->>应用层: onActivityResult
Note over 应用层, NERtcSDK: 屏幕共享进程
应用层 ->> NERtcSDK: startScreenCapture 开启屏幕共享
应用层 ->> NERtcSDK: 设置本端的辅流视频画布
应用层 ->> NERtcSDK: stopScreenCapture 关闭屏幕共享
实现方法
步骤一 获取用户屏幕录制授权
在进行屏幕共享前,需要获取用户录制屏幕的授权.
-
若用户使用的是 Android 10.0 及以上版本,在使用上述系统 API 的同时,需要通过添加 ScreenShareService 并开启前台服务,并在
AndroidManifest.xml
中注册 Service,添加 foregroundServiceType 属性。示例代码如下:
<uses-permission android:name="android.permission.FOREGROUND_SERVICE" /> <application> <service android:name="xxx.SimpleScreenShareService" android:foregroundServiceType="mediaProjection"> <intent-filter> <action android:name="com.netease.Yunxin.ScreenShare" /> </intent-filter> </service> </application>
具体请参考 Demo 或联系技术支持。
步骤二 开启屏幕共享
在加入房间之后调用 startScreenCapture
方法开启屏幕共享,以辅流形式发送屏幕共享内容。
调用此方法时,您需要通过设置 NERtcScreenConfig
配置本地辅流的编码参数。
其中 NERtcScreenConfig
结构体的参数说明如下表所示。
参数 | 参数说明 |
---|---|
contentPrefer |
屏幕共享编码策略倾向:
|
videoProfile | 视频编码的分辨率。 具体请参考 videoProfile。 |
frameRate | 视频编码的帧率。 可以设置为 0、7(默认)、10、15、24、30 fps,具体请参考 NERtcVideoFrameRate。 |
minFramerate | 视频编码的最小帧率。 默认值为 0,表示使用默认的最小帧率。 |
bitrate | 视频编码的码率,单位为 Kbps。 若设置的码率为 0 或超出合理范围,SDK 会自行计算出合理区间处理码率,具体请参考分辨率、帧率、码率参照表。 |
minBitrate | 视频编码的最小码率,单位为 Kbps。 |
此外,网易云信提供一些常见场景下的参数推荐搭配值,供您参考,具体如下表所示。
参数名称 | 常规推荐值 | 一起看视频 | 共享 PPT |
---|---|---|---|
contentPrefer | motion | motion | details |
videoProfile | hd720p | hd720p | hd1080p |
frameRate | fps_7 | fps_30 | fps_7 |
bitrate | 0(默认值) | 0(默认值) | 0(默认值) |
- 若屏幕共享的内容为静态画面,设置较高的帧率并不经济,推荐 7 fps 即可。
- 若用户要共享的屏幕内容包含大量文字,可以适当提高分辨率和码率设置。
示例代码如下:
//打开屏幕共享
NERtcScreenConfig screenProfile = NERtcScreenConfig();
screenProfile.videoProfile = mScreenProfile;
screenProfile.contentPrefer = mScreenContent;
screenProfile.frameRate = mScreenFps;
screenProfile.minFramerate = mScreenMinFps;
screenProfile.bitrate = mScreenEncodeBitrate;
screenProfile.minBitrate = mScreenEncodeMinBitrate;
_engine.startScreenCapture(config).then((value) {
if (value == 0) {
setState(() {
isScreenRecordEnabled = true;
});
}
});
步骤三 设置本端辅流画布
使用NERtcVideoView设置本端的辅流视频画布。您需要设置对应的参数来配置视频画布。
您可以在开启屏幕共享前后随时设置本端辅流画布。
示例代码如下:
NERtcVideoView(
uid: session.mUid,
subStream: true,
mirrorListenable: session.mirror,
rendererEventLister: this,
)
步骤四 停止屏幕共享
若您要结束屏幕共享,请调用 stopScreenCapture
方法关闭辅流形式的屏幕共享。
示例代码如下:
_engine.stopScreenCapture().then((value) {
if (value == 0) {
setState(() {
isScreenRecordEnabled = false;
});
}
});
观看远端屏幕共享
API 调用时序
sequenceDiagram
participant 应用层
participant NERtcSDK
NERtcSDK-->>应用层: onUserSubStreamVideoStart 远端用户开启屏幕共享的回调
应用层->>NERtcSDK: 通过 NERtcVideoView 设置远端的辅流视频回放画布
应用层->>NERtcSDK: subscribeRemoteSubStreamVideo 订阅远端的屏幕共享辅流视频
NERtcSDK-->>应用层: onUserSubStreamVideoStop 远端用户关闭辅流的回调
实现方法
- 远端用户加入房间。
- 收到
onUserSubStreamVideoStart
其他用户开启屏幕共享辅流通道的回调。 - 通过
NERtcVideoView
设置远端的辅流视频回放画布。 - 通过
subscribeRemoteSubStreamVideo
订阅远端的屏幕共享辅流视频,订阅之后才能接收远端的辅流视频数据。 - 收到
onUserSubStreamVideoStop
其他用户关闭辅流的回调,结束屏幕共享。
示例代码
List<_UserSession> _remoteSessions = [];
@override
void onUserSubStreamVideoStart(int uid, int maxProfile) {
setupVideoView(uid, maxProfile, true);
}
Future<void> setupVideoView(int uid, int maxProfile, bool subStream) async {
final session = _UserSession(uid, subStream);
_remoteSessions.add(session);
if (subStream) {
_engine.subscribeRemoteSubStreamVideo(uid, true);
} else {
_engine.subscribeRemoteVideoStream(
uid, NERtcRemoteVideoStreamType.high, true);
}
setState(() {});
}
@override
void onUserSubStreamVideoStop(int uid) {
releaseVideoView(uid, true);
}
Future<void> releaseVideoView(int uid, bool subStream) async {
for (_UserSession session in _remoteSessions.toList()) {
if (session.uid == uid && subStream == session.subStream) {
_remoteSessions.remove(session);
if (forceSubAndUnsubVideo || !_settings.autoSubscribeVideo) {
if (!subStream) {
_engine.subscribeRemoteVideoStream(
uid, NERtcRemoteVideoStreamType.high, false);
} else {
_engine.subscribeRemoteSubStreamVideo(uid, false);
}
}
setState(() {});
break;
}
}
}
API 参考
方法 | 功能描述 |
---|---|
startScreenCapture |
开启屏幕共享。 |
attachToLocalSubStreamVideo |
设置本端的辅流视频画布(通过 NERtcVideoView 统一管理)。 |
stopScreenCapture |
关闭屏幕共享。 |
attachToRemoteSubStreamVideo |
设置远端的辅流视频回放画布(通过 NERtcVideoView 统一管理)。 |
onUserSubStreamVideoStart |
通知本端关于远端用户开启屏幕共享辅流通道的回调。 |
subscribeRemoteSubStreamVideo |
订阅远端的屏幕共享辅流视频 |
onUserSubStreamVideoStop |
通知本端关于远端用户关闭屏幕共享辅流通道的回调。 |