基于HTTP流式传输的长时响应体验提升

广告位招租
扫码页面底部二维码联系

在我们应用开发中偶尔遇到某个请求需要后端【原创不易,请尊重版权】未经授权,禁止复制转载。进行大量计算的情况,这种情况下,按照传统【未经授权禁止转载】【原创内容,转载请注明出处】的前后端协同方式,前端需要等待后端慢慢计【未经授权禁止转载】【版权所有】唐霜 www.tangshuang.net算,会放一个loading效果,而长时间著作权归作者所有,禁止商业用途转载。转载请注明出处:www.tangshuang.net的loading对用户的体验并不友好,而未经授权,禁止复制转载。【作者:唐霜】如果后端采用异步方式,在接收到前端请求后【作者:唐霜】【版权所有】唐霜 www.tangshuang.net立即返回,过一段时间完成计算后再让前端请原创内容,盗版必究。著作权归作者所有,禁止商业用途转载。求一次,又会让界面上的数据在这段等待时间【版权所有,侵权必究】【未经授权禁止转载】中处于老的不正确的数据情况,因此,我们需本文版权归作者所有,未经授权不得转载。本文作者:唐霜,转载请注明出处。要找到一种既可以避免异步发送数据让用户误【作者:唐霜】【未经授权禁止转载】认为结果错误,又可以避免长时响应让用户等【作者:唐霜】【本文受版权保护】待焦虑的方法,利用流式传输,可以将结果分【版权所有】唐霜 www.tangshuang.net本文版权归作者所有,未经授权不得转载。片返回,从而让界面实时发生变化,又可以减原创内容,盗版必究。本文版权归作者所有,未经授权不得转载。少前后端多次交互带来的编码困难。

【转载请注明来源】著作权归作者所有,禁止商业用途转载。【访问 www.tangshuang.net 获取更多精彩内容】【关注微信公众号:wwwtangshuangnet】

HTTP流式传输【版权所有】唐霜 www.tangshuang.net

转载请注明出处:www.tangshuang.net转载请注明出处:www.tangshuang.net【作者:唐霜】【转载请注明来源】【本文首发于唐霜的博客】

这里的流式传输是指借鉴流媒体技术,在数据原创内容,盗版必究。【访问 www.tangshuang.net 获取更多精彩内容】传输中实现持续可用的不间断的传输效果。流【原创不易,请尊重版权】【作者:唐霜】式传输可以依赖http, rtmp, r【本文受版权保护】【版权所有,侵权必究】tcp, udp…等等网络协本文作者:唐霜,转载请注明出处。【作者:唐霜】议,在本文的场景下,我们主要探讨的是HT【未经授权禁止转载】未经授权,禁止复制转载。TP流式传输。

原创内容,盗版必究。原创内容,盗版必究。【转载请注明来源】【本文首发于唐霜的博客】【原创不易,请尊重版权】

我们都知道,HTTP是基于TCP的无状态转载请注明出处:www.tangshuang.net【本文受版权保护】的一次性使用的连接协议,在我们日常的开发转载请注明出处:www.tangshuang.net【版权所有】唐霜 www.tangshuang.net过程中,从客户端发起数据请求到服务端把数【版权所有】唐霜 www.tangshuang.net本文作者:唐霜,转载请注明出处。据一次性吐给客户端,就完成了这一次连接,未经授权,禁止复制转载。【关注微信公众号:wwwtangshuangnet】随后它就关闭了。我们姑且不讨论TCP反复【原创内容,转载请注明出处】【原创不易,请尊重版权】的开启和关闭带来的性能损耗。我们要探讨的本文作者:唐霜,转载请注明出处。本文版权归作者所有,未经授权不得转载。是,在HTTP1.1中默认开启的Keep【版权所有,侵权必究】未经授权,禁止复制转载。-Alive模式,当客户端和服务端都支持本文版权归作者所有,未经授权不得转载。著作权归作者所有,禁止商业用途转载。该模式时,一个TCP连接会维持打开,直到【转载请注明来源】【版权所有】唐霜 www.tangshuang.net客户端不在回答服务端的ACK。而开启Ke【作者:唐霜】【访问 www.tangshuang.net 获取更多精彩内容】ep-Alive之后,一次HTTP连接就【版权所有,侵权必究】【原创内容,转载请注明出处】可以维持较长时间的连接状态,配合Tran【本文首发于唐霜的博客】原创内容,盗版必究。sfer-Encoding:chunke著作权归作者所有,禁止商业用途转载。本文作者:唐霜,转载请注明出处。d报文, 客户端和服务端基于底层的Soc本文版权归作者所有,未经授权不得转载。【未经授权禁止转载】ket,实现持续的服务端将数据发送给客户转载请注明出处:www.tangshuang.net【版权所有,侵权必究】端。

未经授权,禁止复制转载。本文作者:唐霜,转载请注明出处。原创内容,盗版必究。【原创内容,转载请注明出处】
Connection: keep-alive
Transfer-Encoding: chunked

另一种方式是客户端通过Range报文,主未经授权,禁止复制转载。【转载请注明来源】动要求服务端返回的数据范围:

【本文受版权保护】【未经授权禁止转载】本文版权归作者所有,未经授权不得转载。著作权归作者所有,禁止商业用途转载。【版权所有】唐霜 www.tangshuang.net
Connection: keep-alive
Range: bytes=0-100

此时,服务端会报:著作权归作者所有,禁止商业用途转载。

【版权所有】唐霜 www.tangshuang.net未经授权,禁止复制转载。【作者:唐霜】【本文首发于唐霜的博客】原创内容,盗版必究。
Accept-Ranges: bytes
Connection: keep-alive
Content-Range: bytes 0-100/5243
Content-Length: 101

此时的Content-Length只返回【版权所有】唐霜 www.tangshuang.net著作权归作者所有,禁止商业用途转载。当前片段的长度。

著作权归作者所有,禁止商业用途转载。【未经授权禁止转载】本文作者:唐霜,转载请注明出处。【本文受版权保护】

Nodejs实现流式传输本文版权归作者所有,未经授权不得转载。

【原创不易,请尊重版权】【访问 www.tangshuang.net 获取更多精彩内容】【本文受版权保护】【版权所有】唐霜 www.tangshuang.net著作权归作者所有,禁止商业用途转载。

由于Nodejs内部实现了Stream,未经授权,禁止复制转载。原创内容,盗版必究。且很多实现的基础都是Stream例如ht未经授权,禁止复制转载。本文作者:唐霜,转载请注明出处。tp, file等。我们用nodejs可【关注微信公众号:wwwtangshuangnet】【访问 www.tangshuang.net 获取更多精彩内容】以轻松实现流式传输:

【原创内容,转载请注明出处】【版权所有,侵权必究】【版权所有,侵权必究】
const http = require("http");

http
  .createServer(async function (req, res) {
    res.writeHead(200, {
      "Content-Type": "text/plain;charset=utf-8",
      "Transfer-Encoding": "chunked",
      "Access-Control-Allow-Origin": "*",
    });
    for (let index = 0; index < chunks.length; index++) {
      setTimeout(() => {
        const content = chunks[index];
        res.write(JSON.stringify(content));
      }, index * 1000);
    }
    setTimeout(() => {
      res.end();
    }, chunks.length * 1000);
  })
  .listen(3000, () => {
    console.log("app starting at port 3000");
  });

这里的核心点就在于res.write,在【作者:唐霜】未经授权,禁止复制转载。http模块中,res本身就是一个基于流【未经授权禁止转载】【版权所有】唐霜 www.tangshuang.net实现的响应对象,res.write则是向原创内容,盗版必究。【作者:唐霜】流中写入内容(相当于append)。

【版权所有,侵权必究】本文作者:唐霜,转载请注明出处。【原创内容,转载请注明出处】未经授权,禁止复制转载。

浏览器端实现流式接收本文版权归作者所有,未经授权不得转载。

【访问 www.tangshuang.net 获取更多精彩内容】【版权所有】唐霜 www.tangshuang.net【本文受版权保护】原创内容,盗版必究。

在大部分浏览器内部也实现了流,我们可以通未经授权,禁止复制转载。【访问 www.tangshuang.net 获取更多精彩内容】Streams API转载请注明出处:www.tangshuang.net了解当前浏览器已经提供的各种借口。而在h【原创不易,请尊重版权】【关注微信公众号:wwwtangshuangnet】ttp请求场景中,全局的fetch函数为【版权所有】唐霜 www.tangshuang.net【本文首发于唐霜的博客】我们提供了非常便捷的接入方法。

原创内容,盗版必究。原创内容,盗版必究。本文作者:唐霜,转载请注明出处。本文作者:唐霜,转载请注明出处。转载请注明出处:www.tangshuang.net
const res = await fetch('xxx');
for await (let chunk of res.body) {
  console.log(chunk);
}

fetch返回的响应对象中.body就是原创内容,盗版必究。【转载请注明来源】一个流,在for await语法的加持下本文作者:唐霜,转载请注明出处。【本文首发于唐霜的博客】,我们都不需要做过多的处理,就可以用ch【未经授权禁止转载】转载请注明出处:www.tangshuang.netunk来更新界面上显示的数据。不过可惜的原创内容,盗版必究。转载请注明出处:www.tangshuang.net是,目前for await只对firef原创内容,盗版必究。【未经授权禁止转载】ox加持,因此我们还是必须按照一个Rea【访问 www.tangshuang.net 获取更多精彩内容】【原创不易,请尊重版权】dableStream的使用方式来从re【访问 www.tangshuang.net 获取更多精彩内容】未经授权,禁止复制转载。s.body中读取数据:

【原创内容,转载请注明出处】【作者:唐霜】转载请注明出处:www.tangshuang.net【本文受版权保护】
const utf8Decoder = new TextDecoder("utf-8");

const res = await fetch('http://localhost:3000');

const reader = res.body.getReader();
const processor = async () => {
    const { done, value } = await reader.read();
    clearInterval(timer);
    if (done) {
        return;
    }
    const chunk = utf8Decoder.decode(value, { stream: true });
    const item = JSON.parse(chunk);
    console.log(item);
    await processor();
}

await processor();

上面标红的reader.read()返回【版权所有,侵权必究】【未经授权禁止转载】结果和generator的逻辑一致,只是【作者:唐霜】【版权所有,侵权必究】不知道为什么chrome没有实现next本文版权归作者所有,未经授权不得转载。【版权所有】唐霜 www.tangshuang.net接口。

【原创不易,请尊重版权】【版权所有,侵权必究】本文作者:唐霜,转载请注明出处。【本文首发于唐霜的博客】【版权所有,侵权必究】

效果对比【原创内容,转载请注明出处】

【转载请注明来源】【本文首发于唐霜的博客】转载请注明出处:www.tangshuang.net【访问 www.tangshuang.net 获取更多精彩内容】【本文首发于唐霜的博客】

接下来,我们用没有经过处理的实现,和经过转载请注明出处:www.tangshuang.net未经授权,禁止复制转载。处理的实现来做一个感性的对比。

【本文首发于唐霜的博客】【版权所有】唐霜 www.tangshuang.net转载请注明出处:www.tangshuang.net未经授权,禁止复制转载。【关注微信公众号:wwwtangshuangnet】

首先我们来看下传统方式的效果:【访问 www.tangshuang.net 获取更多精彩内容】

【本文受版权保护】未经授权,禁止复制转载。【原创不易,请尊重版权】【版权所有,侵权必究】本文版权归作者所有,未经授权不得转载。

本文版权归作者所有,未经授权不得转载。【转载请注明来源】本文作者:唐霜,转载请注明出处。【原创内容,转载请注明出处】

可以看到,我们用一个计时器来作为load未经授权,禁止复制转载。【未经授权禁止转载】ing效果,当时间进入10s之后,所有数转载请注明出处:www.tangshuang.net【原创内容,转载请注明出处】据回来了,于是我们一次性将全部数据渲染到著作权归作者所有,禁止商业用途转载。未经授权,禁止复制转载。界面上。

未经授权,禁止复制转载。【作者:唐霜】【访问 www.tangshuang.net 获取更多精彩内容】【作者:唐霜】【本文受版权保护】

服务端代码如下:【关注微信公众号:wwwtangshuangnet】

【未经授权禁止转载】本文作者:唐霜,转载请注明出处。【关注微信公众号:wwwtangshuangnet】【原创不易,请尊重版权】
const http = require("http");

const ids = new Array(200).fill(0).map((_, i) => i);

const getData = (id) => new Promise((resolve) => {
    const cost = id % 2 * 100;
    setTimeout(() => resolve({ id, cost }), cost);
});

http
  .createServer(async (req, res) => {
    res.writeHead(200, {
      "Access-Control-Allow-Origin": "*",
    });

    const startTime = Date.now();
    const results = [];
    const run = async (i = 0) => {
        const id = ids[i];
        if (i >= ids.length) {
            return;
        }
        const data = await getData(id);
        results.push(data);
        await run(i + 1);
    };
    await run();
    const endTime = Date.now();

    res.end(JSON.stringify(results));
    console.log('Cost:', endTime - startTime);
  })
  .listen(3000);

客户端代码如下:未经授权,禁止复制转载。

【本文首发于唐霜的博客】【原创内容,转载请注明出处】未经授权,禁止复制转载。转载请注明出处:www.tangshuang.net未经授权,禁止复制转载。
<!DOCTYPE html>

<div id="root"></div>

<script>
    const root = document.querySelector('#root');

    let count = 0;
    const timer = setInterval(() => {
        count ++;
        root.innerHTML = count;
    }, 1000);

    const startTime = Date.now();
    fetch('http://localhost:3000').then(res => res.json()).then((data) => {
        console.log(data);
        const endTime = Date.now();
        const cost = endTime - startTime;
        console.log(cost);
        clearInterval(timer);
        data.forEach((item) => {
            const el = document.createElement('div');
            el.innerHTML = `id: ${item.id}, cost: ${item.cost}`;
            root.appendChild(el);
        });
    });
</script>

当然,这里面还有一些优化空间,比如在服务本文作者:唐霜,转载请注明出处。【版权所有】唐霜 www.tangshuang.net端用Promise.all来一次性执行全【版权所有,侵权必究】著作权归作者所有,禁止商业用途转载。部任务。但是,无论如何优化,底层思维都是【原创内容,转载请注明出处】【转载请注明来源】一次性拿到全部数据之后再渲染,因此,lo【关注微信公众号:wwwtangshuangnet】本文作者:唐霜,转载请注明出处。ading过程中,是没有数据展示的。

【原创内容,转载请注明出处】【作者:唐霜】著作权归作者所有,禁止商业用途转载。本文版权归作者所有,未经授权不得转载。著作权归作者所有,禁止商业用途转载。

接下来看下基于流的效果:【关注微信公众号:wwwtangshuangnet】

【关注微信公众号:wwwtangshuangnet】本文作者:唐霜,转载请注明出处。【作者:唐霜】【原创不易,请尊重版权】

本文版权归作者所有,未经授权不得转载。【版权所有,侵权必究】【关注微信公众号:wwwtangshuangnet】

可以看到,页面一打开,数据就一条一条的逐【原创不易,请尊重版权】【关注微信公众号:wwwtangshuangnet】步被渲染,虽然全部的数据回来也需要10s【未经授权禁止转载】本文作者:唐霜,转载请注明出处。左右,但是,在这过程中,我们可以看到界面转载请注明出处:www.tangshuang.net【版权所有】唐霜 www.tangshuang.net上一部分数据已经被渲染出来。

本文作者:唐霜,转载请注明出处。本文版权归作者所有,未经授权不得转载。未经授权,禁止复制转载。

服务端代码如下:【访问 www.tangshuang.net 获取更多精彩内容】

本文版权归作者所有,未经授权不得转载。未经授权,禁止复制转载。【作者:唐霜】
const http = require("http");

const ids = new Array(200).fill(0).map((_, i) => i);

const getData = (id) => new Promise((resolve) => {
    const cost = id % 2 * 100;
    setTimeout(() => resolve({ id, cost }), cost);
});

http
  .createServer(async (req, res) => {
    res.writeHead(200, {
      "Transfer-Encoding": "chunked",
      "Access-Control-Allow-Origin": "*",
      'Content-Type': 'text/plain',
    });

    const startTime = Date.now();
    const run = async (i = 0) => {
        const id = ids[i];
        if (i >= ids.length) {
            return;
        }
        const data = await getData(id);
        res.write(JSON.stringify(data));
        await run(i + 1);
    };
    await run();
    const endTime = Date.now();

    res.end();
    console.log('Cost:', endTime - startTime);
  })
  .listen(3000);

客户端代码如下:【版权所有】唐霜 www.tangshuang.net

【未经授权禁止转载】【本文首发于唐霜的博客】【关注微信公众号:wwwtangshuangnet】【原创内容,转载请注明出处】
<!DOCTYPE html>

<div id="root"></div>

<script>
    const utf8Decoder = new TextDecoder("utf-8");

    async function init() {
        const root = document.querySelector('#root');

        let count = 0;
        const timer = setInterval(() => {
            count ++;
            root.innerHTML = count;
        }, 1000);

        const startTime = Date.now();
        const res = await fetch('http://localhost:3000');

        const reader = res.body.getReader();
        const processor = async () => {
            const { done, value } = await reader.read();
            clearInterval(timer);
            if (done) {
                return;
            }
            const chunk = utf8Decoder.decode(value, { stream: true });
            const item = JSON.parse(chunk);
            const el = document.createElement('div');
            el.innerHTML = `id: ${item.id}, cost: ${item.cost}`;
            root.appendChild(el);
            await processor();
        }

        await processor();

        const endTime = Date.now();
        const cost = endTime - startTime;
        console.log(cost);
    }
    init();
</script>

可以发现,总体代码的结构是一致的,只是在未经授权,禁止复制转载。【未经授权禁止转载】传输和获取数据的地方不同,随之渲染的过程【未经授权禁止转载】未经授权,禁止复制转载。也不同。这也说明,在现有的系统中,实现这【版权所有,侵权必究】【访问 www.tangshuang.net 获取更多精彩内容】种传输方式的迁移,是可行的,不会对原有项著作权归作者所有,禁止商业用途转载。本文作者:唐霜,转载请注明出处。目的整体架构带来大的变化。

本文作者:唐霜,转载请注明出处。【版权所有】唐霜 www.tangshuang.net【本文受版权保护】

其他场景【未经授权禁止转载】

【转载请注明来源】本文作者:唐霜,转载请注明出处。【访问 www.tangshuang.net 获取更多精彩内容】【本文受版权保护】

本文设想的场景是,一个列表中,每一条数据本文作者:唐霜,转载请注明出处。【访问 www.tangshuang.net 获取更多精彩内容】后端都需要花一定的时间,整个列表的总时间【关注微信公众号:wwwtangshuangnet】【本文受版权保护】就比较长。针对这一场景,我们采用流式传输未经授权,禁止复制转载。【作者:唐霜】的方法,可以让列表可以逐条渲染或更新,从【版权所有】唐霜 www.tangshuang.net转载请注明出处:www.tangshuang.net而可以让用户在较快的时间里,获得前面的数【本文受版权保护】【转载请注明来源】据。而这种流式传输,现在已经在前端被广泛转载请注明出处:www.tangshuang.net著作权归作者所有,禁止商业用途转载。使用,甚至被某些框架作为其架构的底层选型转载请注明出处:www.tangshuang.net【版权所有,侵权必究】。我个人也想到了一些场景,供你参考:

原创内容,盗版必究。【原创内容,转载请注明出处】【原创内容,转载请注明出处】【原创不易,请尊重版权】原创内容,盗版必究。
  • 长列表原创内容,盗版必究。
  • 【本文受版权保护】本文作者:唐霜,转载请注明出处。本文作者:唐霜,转载请注明出处。【未经授权禁止转载】
  • 数据表格实时更新,例如股票市场行情【原创不易,请尊重版权】
  • 转载请注明出处:www.tangshuang.net未经授权,禁止复制转载。著作权归作者所有,禁止商业用途转载。本文版权归作者所有,未经授权不得转载。本文作者:唐霜,转载请注明出处。
  • 较长的文章【版权所有,侵权必究】
  • 【本文受版权保护】【版权所有,侵权必究】【版权所有,侵权必究】
  • 将网页分为多个chunk,每一个chun【作者:唐霜】【作者:唐霜】k对应页面中的一块,首屏chunk放在最著作权归作者所有,禁止商业用途转载。转载请注明出处:www.tangshuang.net前面,这样可以更快让用户看到界面
  • 转载请注明出处:www.tangshuang.net本文作者:唐霜,转载请注明出处。【本文首发于唐霜的博客】
  • 打字机效果,例如实时翻译字幕、ChatG【版权所有】唐霜 www.tangshuang.net【转载请注明来源】PT的回复
  • 原创内容,盗版必究。【本文受版权保护】【关注微信公众号:wwwtangshuangnet】原创内容,盗版必究。【原创内容,转载请注明出处】
  • 用户提交后需要大量计算,可以先返回一个c【本文受版权保护】【本文受版权保护】hunk,让前端提示用户已经成功,等计算【版权所有,侵权必究】本文版权归作者所有,未经授权不得转载。完再返回真正的chunk,更新界面数据
  • 本文版权归作者所有,未经授权不得转载。原创内容,盗版必究。转载请注明出处:www.tangshuang.net【未经授权禁止转载】原创内容,盗版必究。
  • 古老的聊天室,在服务端,当收到别人发送的【关注微信公众号:wwwtangshuangnet】【原创不易,请尊重版权】消息时,通过一个chunk发送给自己的浏著作权归作者所有,禁止商业用途转载。【转载请注明来源】览器,这样我们就不需要自己架设socke转载请注明出处:www.tangshuang.net【原创不易,请尊重版权】t
  • 未经授权,禁止复制转载。【未经授权禁止转载】原创内容,盗版必究。原创内容,盗版必究。
  • 由粗糙逐渐细腻的渲染,例如先发送较少的模未经授权,禁止复制转载。原创内容,盗版必究。型数据,形成一个轮廓,然后在逐渐发送更多本文版权归作者所有,未经授权不得转载。【作者:唐霜】数据,将模型的颜色、细节等进行填充
  • 本文版权归作者所有,未经授权不得转载。原创内容,盗版必究。【本文首发于唐霜的博客】
  • 分段式操作的场景,例如文件下载,用户点击【原创内容,转载请注明出处】【原创不易,请尊重版权】下载按钮后,服务端要进行压缩打包等,需要【本文受版权保护】【作者:唐霜】一段时间,在打包过程中,还会发现其中某个【版权所有】唐霜 www.tangshuang.net【未经授权禁止转载】文件存在问题,要将问题反馈给前端,完成打【访问 www.tangshuang.net 获取更多精彩内容】原创内容,盗版必究。包之后才返回给前端打包好的文件
  • 转载请注明出处:www.tangshuang.net【版权所有】唐霜 www.tangshuang.net原创内容,盗版必究。
  • 随机渲染,例如不同的用户处在地图的不同点【版权所有】唐霜 www.tangshuang.net本文作者:唐霜,转载请注明出处。,我们优先返回该点的地图信息,然后再逐渐未经授权,禁止复制转载。【本文受版权保护】往外扩散
  • 转载请注明出处:www.tangshuang.net转载请注明出处:www.tangshuang.net【原创不易,请尊重版权】【本文首发于唐霜的博客】【未经授权禁止转载】

总之,流式传输的特性决定了我们可以在较长【作者:唐霜】原创内容,盗版必究。的时间里,持续的接收数据,实现界面的同步原创内容,盗版必究。【原创不易,请尊重版权】

【本文受版权保护】【访问 www.tangshuang.net 获取更多精彩内容】【本文首发于唐霜的博客】

2023-06-17 10436

为价值买单,打赏一杯咖啡

本文价值104.36RMB