基于webrtc的前端录屏与直播

广告位招租
扫码页面底部二维码联系

我在腾讯主导了一个用于用户行为监控与回放【原创不易,请尊重版权】【版权所有】唐霜 www.tangshuang.net的项目,其中,通过录制前端DOM的变化,【访问 www.tangshuang.net 获取更多精彩内容】【版权所有】唐霜 www.tangshuang.net实现用户界面的变化。和rrweb不同,我【访问 www.tangshuang.net 获取更多精彩内容】本文版权归作者所有,未经授权不得转载。们没有使用MutationObserve本文作者:唐霜,转载请注明出处。转载请注明出处:www.tangshuang.netr方案进行录制,这个方案需要解决如何获取【原创内容,转载请注明出处】本文作者:唐霜,转载请注明出处。被移除节点的路径问题,非常复杂,且Mut本文作者:唐霜,转载请注明出处。【本文首发于唐霜的博客】ationObserver具有兼容性问题【访问 www.tangshuang.net 获取更多精彩内容】【版权所有】唐霜 www.tangshuang.net,低版本浏览器不支持,另外由于Mutat未经授权,禁止复制转载。【版权所有】唐霜 www.tangshuang.netionObserver基于微任务进行响应【本文受版权保护】【版权所有,侵权必究】,响应过快,导致一些性能问题,另外还有不【未经授权禁止转载】【本文首发于唐霜的博客】可预测的丢帧问题。我们采用了另外一套更加转载请注明出处:www.tangshuang.net转载请注明出处:www.tangshuang.net缜密的DOM变化记录方案,但由于内部项目原创内容,盗版必究。转载请注明出处:www.tangshuang.net暂时不便公开。在除了web录屏与回放的研【转载请注明来源】原创内容,盗版必究。究之外,我还关注到滴滴内部开源了一套原生【作者:唐霜】【访问 www.tangshuang.net 获取更多精彩内容】APP的录屏方案。另外,除了基于DOM的著作权归作者所有,禁止商业用途转载。本文作者:唐霜,转载请注明出处。录屏方案外,我还在寻找另外的更高效的录屏【本文首发于唐霜的博客】转载请注明出处:www.tangshuang.net方案,因为基于js的录屏方案,会带来不可未经授权,禁止复制转载。【本文受版权保护】避免的性能问题,以及丢失数据问题。在一次转载请注明出处:www.tangshuang.net【本文受版权保护】偶然冲浪过程中,我发现谷歌已经通过chr本文版权归作者所有,未经授权不得转载。著作权归作者所有,禁止商业用途转载。ome开放了录屏接口,也就是getDis转载请注明出处:www.tangshuang.net原创内容,盗版必究。playMedia,于是进行了一番研究,【原创内容,转载请注明出处】【本文受版权保护】并通过本文记录下来。

【转载请注明来源】本文作者:唐霜,转载请注明出处。【本文首发于唐霜的博客】

什么是WebRTC?

getDisplayMedia是webr【访问 www.tangshuang.net 获取更多精彩内容】【版权所有】唐霜 www.tangshuang.nettc整体标准中的一个接口,要了解webr【本文受版权保护】转载请注明出处:www.tangshuang.nettc的入门信息,可以移步《WebRTC点对点应用架构研究》这篇2018年发表的博文,这篇文章可以本文版权归作者所有,未经授权不得转载。著作权归作者所有,禁止商业用途转载。作为入门了解webrtc及其基本开发步骤著作权归作者所有,禁止商业用途转载。【原创内容,转载请注明出处】的知识文章。

【关注微信公众号:wwwtangshua【版权所有】唐霜 www.tangshuang.net【本文受版权保护】ngnet】转载请注明出处:www.tangshua著作权归作者所有,禁止商业用途转载。【关注微信公众号:wwwtangshuangnet】ng.net未经授权,禁止复制转载。【作者:唐霜】

在上述文章之上,我们再去理解webrtc【原创不易,请尊重版权】本文作者:唐霜,转载请注明出处。,可以这么理解:webrtc是一套客户端【原创不易,请尊重版权】【未经授权禁止转载】点对点流式信息传播的技术方案。其中我的新【转载请注明来源】转载请注明出处:www.tangshuang.net认识在于“流式信息”这个点,以前,我把重未经授权,禁止复制转载。【未经授权禁止转载】点放在“点对点”上,但逐渐我发现,但凡基【作者:唐霜】【版权所有】唐霜 www.tangshuang.net于流式信息的传播,都可以在webrtc标原创内容,盗版必究。原创内容,盗版必究。准下去讨论。这里的流式信息,主要是指基于【关注微信公众号:wwwtangshuangnet】【原创内容,转载请注明出处】音视轨的实时数据流。说白了,就是音频和视本文版权归作者所有,未经授权不得转载。【版权所有】唐霜 www.tangshuang.net频实时数据。

未经授权,禁止复制转载。原创内容,盗版必究。

而本文讨论的屏幕录制,就属于这一范畴。因【本文首发于唐霜的博客】【原创内容,转载请注明出处】此,录屏接口也被放在webrtc整体框架本文作者:唐霜,转载请注明出处。本文作者:唐霜,转载请注明出处。下面。

【作者:唐霜】【转载请注明来源】

getDisplayMedia与直播

从接口名称可以看出,这是一个获取显示器实转载请注明出处:www.tangshuang.net【本文首发于唐霜的博客】施音视频数据的接口。在我最早的文章中并没【版权所有】唐霜 www.tangshuang.net【本文受版权保护】有介绍这个接口,当时并没有注意到它。我们【本文受版权保护】著作权归作者所有,禁止商业用途转载。看下它的兼容性。

【关注微信公众号:wwwtangshua转载请注明出处:www.tangshuang.net【未经授权禁止转载】ngnet】【访问 www.tangshuang.n转载请注明出处:www.tangshuang.net著作权归作者所有,禁止商业用途转载。et 获取更多精彩内容】【关注微信公众号:wwwtangshua转载请注明出处:www.tangshuang.net著作权归作者所有,禁止商业用途转载。ngnet】

本文版权归作者所有,未经授权不得转载。【关注微信公众号:wwwtangshua【版权所有,侵权必究】【本文首发于唐霜的博客】ngnet】本文版权归作者所有,未经授权不得转载。

可以看出来,它的兼容性并不好,IE直接p【未经授权禁止转载】著作权归作者所有,禁止商业用途转载。ass,手机端无一支持。但考虑到实际场景未经授权,禁止复制转载。【原创内容,转载请注明出处】,录屏基本上也只会在PC端有应用场景。

【版权所有,侵权必究】原创内容,盗版必究。

关于getDisplayMedia这个接【本文受版权保护】【作者:唐霜】口的具体用法,可以参考MDN。它的使用超级简单:

【本文受版权保护】转载请注明出处:www.tangshua【原创不易,请尊重版权】本文版权归作者所有,未经授权不得转载。ng.net原创内容,盗版必究。
navigator.mediaDevices.getDisplayMedia(constraints).then((stream) => {
  // ...
})

上面代码会执行webrtc惯用步骤,弹出【版权所有,侵权必究】【转载请注明来源】与用户之间的交互对话框,只有用户允许之后【作者:唐霜】【未经授权禁止转载】,才能进行录屏。它返回一个promise【版权所有】唐霜 www.tangshuang.net【版权所有】唐霜 www.tangshuang.net,then里面接住一个stream,这个著作权归作者所有,禁止商业用途转载。【作者:唐霜】stream就是被录制的屏幕音视流。我们本文版权归作者所有,未经授权不得转载。转载请注明出处:www.tangshuang.net可以把这个流塞到一个video标签上,就原创内容,盗版必究。未经授权,禁止复制转载。可以看到录制的实时效果了。

转载请注明出处:www.tangshua【转载请注明来源】本文作者:唐霜,转载请注明出处。ng.net【作者:唐霜】
document.querySelector('video#player').srcObject = stream

这里的stream是一个MediaStr【访问 www.tangshuang.net 获取更多精彩内容】【未经授权禁止转载】eam类型的流,这种流的特征是,它拥有多著作权归作者所有,禁止商业用途转载。本文版权归作者所有,未经授权不得转载。个轨,也就是tracks。而在我文章开头【原创内容,转载请注明出处】本文版权归作者所有,未经授权不得转载。的文章里面有代码演示,通过peer.ad著作权归作者所有,禁止商业用途转载。【访问 www.tangshuang.net 获取更多精彩内容】dTrack就可以完成节点之间的点对点传转载请注明出处:www.tangshuang.net原创内容,盗版必究。输的对接工作。也就是说,我们将前文的pe【原创不易,请尊重版权】【未经授权禁止转载】er相关的知识和这里的知识结合,就可以马【原创内容,转载请注明出处】本文作者:唐霜,转载请注明出处。上做一款录屏直播应用。

本文作者:唐霜,转载请注明出处。【本文受版权保护】本文版权归作者所有,未经授权不得转载。【作者:唐霜】
stream.getTracks().forEach((track) => {
  peer.addTrack(track, stream)
})

这一切看上去都非常简单不是吗?

【版权所有】唐霜 www.tangshu本文版权归作者所有,未经授权不得转载。本文版权归作者所有,未经授权不得转载。ang.net【转载请注明来源】转载请注明出处:www.tangshua著作权归作者所有,禁止商业用途转载。本文作者:唐霜,转载请注明出处。ng.net【版权所有】唐霜 www.tangshu本文版权归作者所有,未经授权不得转载。【访问 www.tangshuang.net 获取更多精彩内容】ang.net

用户行为监控

由于webrtc在启动能力前,会有原生的【作者:唐霜】原创内容,盗版必究。chrome窗口弹出来询问用户,且在开启【版权所有】唐霜 www.tangshuang.net本文作者:唐霜,转载请注明出处。getDisplayMedia之后会有一【原创不易,请尊重版权】【版权所有,侵权必究】个状态条,所以在整个的操作中会有一些生硬【未经授权禁止转载】【转载请注明来源】,用户有明显的知道自己的屏幕正在被录制。原创内容,盗版必究。【本文首发于唐霜的博客】因此,利用webrtc进行录屏,是一种有【本文首发于唐霜的博客】著作权归作者所有,禁止商业用途转载。感录制,和我之前一直在做的无感录屏稍有不【访问 www.tangshuang.net 获取更多精彩内容】未经授权,禁止复制转载。同。

【版权所有】唐霜 www.tangshu本文版权归作者所有,未经授权不得转载。本文作者:唐霜,转载请注明出处。ang.net【转载请注明来源】

【原创不易,请尊重版权】【访问 www.tangshuang.n著作权归作者所有,禁止商业用途转载。未经授权,禁止复制转载。et 获取更多精彩内容】原创内容,盗版必究。本文作者:唐霜,转载请注明出处。

因此,此类用户行为监控更适合用在测试场景转载请注明出处:www.tangshuang.net【作者:唐霜】下,或者明确授权情况下。我们来看下具体的【本文受版权保护】【原创内容,转载请注明出处】实现过程。

【关注微信公众号:wwwtangshua【访问 www.tangshuang.net 获取更多精彩内容】著作权归作者所有,禁止商业用途转载。ngnet】【本文受版权保护】【未经授权禁止转载】【版权所有】唐霜 www.tangshu本文版权归作者所有,未经授权不得转载。【访问 www.tangshuang.net 获取更多精彩内容】ang.net

在通过getDisplayMedia获得著作权归作者所有,禁止商业用途转载。【转载请注明来源】stream之后,我们需要通过Media【访问 www.tangshuang.net 获取更多精彩内容】【版权所有】唐霜 www.tangshuang.netRecorder对stream进行录制。原创内容,盗版必究。原创内容,盗版必究。MediaRecorder也是webrt【本文受版权保护】【本文首发于唐霜的博客】c的接口,你可以通过MDN了解它的具体用法。它可以对一个strea著作权归作者所有,禁止商业用途转载。本文作者:唐霜,转载请注明出处。m进行录制,并生成blob格式的目标数据【关注微信公众号:wwwtangshuangnet】本文作者:唐霜,转载请注明出处。。但凡webrtc相关的stream,都原创内容,盗版必究。【关注微信公众号:wwwtangshuangnet】可以被MediaRecorder录制出来【未经授权禁止转载】未经授权,禁止复制转载。。一旦理解了stream的本质,那么对录【版权所有,侵权必究】【版权所有,侵权必究】制也会理解不少:录制就是在流上创建截面序【关注微信公众号:wwwtangshuangnet】【转载请注明来源】列,也就是采集音视频的过程,因此,我们需本文作者:唐霜,转载请注明出处。本文作者:唐霜,转载请注明出处。要配置一些采样信息,通过配置不同的采样信【原创内容,转载请注明出处】【本文受版权保护】息,就可以得到不同画质、音质、流畅度的结【本文首发于唐霜的博客】【版权所有,侵权必究】果。

【关注微信公众号:wwwtangshua原创内容,盗版必究。【版权所有】唐霜 www.tangshuang.netngnet】【原创内容,转载请注明出处】转载请注明出处:www.tangshua【版权所有,侵权必究】本文作者:唐霜,转载请注明出处。ng.net【转载请注明来源】
recorder = new MediaRecorder(stream, { mimeType: "video/webm; codecs=vp9" })
recorder.ondataavailable = handleRecord
recorder.onerror = e => console.log(e)
recorder.start()

其中,ondataavailable是一【未经授权禁止转载】【访问 www.tangshuang.net 获取更多精彩内容】个回调,当需要产生一个视频数据时,它的回原创内容,盗版必究。【关注微信公众号:wwwtangshuangnet】调函数会接受一个BlobEvent事件,未经授权,禁止复制转载。著作权归作者所有,禁止商业用途转载。而该事件中有一个data属性,内容为一个【作者:唐霜】【未经授权禁止转载】Blob。什么时候会触发这个事件呢?有两【本文受版权保护】未经授权,禁止复制转载。种情况,一种是调用recorder.re未经授权,禁止复制转载。著作权归作者所有,禁止商业用途转载。questData()方法,那么这个回调本文作者:唐霜,转载请注明出处。【本文首发于唐霜的博客】就被触发一次,此时会产生一个blob。另【版权所有】唐霜 www.tangshuang.net【版权所有】唐霜 www.tangshuang.net一种是调用recorder.stop()本文作者:唐霜,转载请注明出处。【本文首发于唐霜的博客】时,也会产生一个blob。每次产生的bl【转载请注明来源】转载请注明出处:www.tangshuang.netob都是从上一次产生到当前这一时刻之间的【转载请注明来源】未经授权,禁止复制转载。录制片段,因此,如果中途不调用reque未经授权,禁止复制转载。未经授权,禁止复制转载。stData方法,那么当你调用stop方转载请注明出处:www.tangshuang.net【本文受版权保护】法的时候,全部过程就会被记录下来。

转载请注明出处:www.tangshua原创内容,盗版必究。本文版权归作者所有,未经授权不得转载。ng.net【转载请注明来源】【访问 www.tangshuang.n【转载请注明来源】本文版权归作者所有,未经授权不得转载。et 获取更多精彩内容】【原创不易,请尊重版权】
function handleRecord(e) {
    if (event.data.size <= 0) {
        return
    }

    chunks.push(event.data)
}

但作为用户行为监控的一个部分,很显然,我【本文首发于唐霜的博客】转载请注明出处:www.tangshuang.net们更希望当用户的某个操作产生了错误的时候本文版权归作者所有,未经授权不得转载。本文版权归作者所有,未经授权不得转载。,才上报对应的录制视频。因此,我可能更倾本文版权归作者所有,未经授权不得转载。【本文首发于唐霜的博客】向按照一定的策略来生成一段一段的视频,在【转载请注明来源】【转载请注明来源】需要的时候,通过前后端的交互,完成视频传著作权归作者所有,禁止商业用途转载。本文作者:唐霜,转载请注明出处。输。

【本文首发于唐霜的博客】本文作者:唐霜,转载请注明出处。【访问 www.tangshuang.n【本文受版权保护】【本文受版权保护】et 获取更多精彩内容】
blob = new Blob(chunks, {
    type: "video/webm"
})

由于我们拥有indexedDB这个利器,【访问 www.tangshuang.net 获取更多精彩内容】【本文首发于唐霜的博客】可以将blob存在本地,在需要的时候,通【本文首发于唐霜的博客】【版权所有】唐霜 www.tangshuang.net过webrtc点对点传输的特质,直接将视著作权归作者所有,禁止商业用途转载。【未经授权禁止转载】频传输给运维人员观看。这样可以解决服务端【原创不易,请尊重版权】【作者:唐霜】存储占用过多的问题。另外,ffmpeg已经出了webassembl【本文受版权保护】原创内容,盗版必究。y版本,这让我们可以在前端浏览器中,对视频进行【关注微信公众号:wwwtangshuangnet】转载请注明出处:www.tangshuang.net转化、裁剪、截图、修改、压缩等。

【原创内容,转载请注明出处】【本文首发于唐霜的博客】

结语

Webrtc是web标准中关于流式数据实【版权所有,侵权必究】【访问 www.tangshuang.net 获取更多精彩内容】时传输的重要标准,而录屏能力,在直播、网【版权所有】唐霜 www.tangshuang.net【原创不易,请尊重版权】课、用户行为监控等方面,都给我提供了一定【未经授权禁止转载】【作者:唐霜】的想象空间。我在最新一期的《Robust》中提到音视频应用、5G等基础设施层面、消未经授权,禁止复制转载。【作者:唐霜】费层面的相关逻辑,新的一年在webrtc转载请注明出处:www.tangshuang.net【版权所有】唐霜 www.tangshuang.net这个点上,会给我们带来更多想象空间。如果【版权所有】唐霜 www.tangshuang.net【未经授权禁止转载】你也对相关领域感兴趣,不妨一起来试试。

【关注微信公众号:wwwtangshua未经授权,禁止复制转载。【访问 www.tangshuang.net 获取更多精彩内容】ngnet】原创内容,盗版必究。本文作者:唐霜,转载请注明出处。

2021-01-10 7587 ,

为价值买单,打赏一杯咖啡

本文价值75.87RMB