NGW,前台新技术赛场:Serverless SSR 技术内幕

作者 : 开心源码 本文共4102个字,预计阅读时间需要11分钟 发布时间: 2022-05-13 共241人阅读

腾讯 IVWeb team(负责腾讯互动视频 NOW 直播、花样直播等产品) 经验分享~

▎目录:

  1. 前言
  2. Serverless 的演进
  3. 云函数 SCF 的开发
  4. NGW Serverless 同构直出方案

▎前言

最近 Serverless 又火了,有不少业务上云实装了 Serverless 云函数,获得了不错的落地效果,业界也在不断探究 Serverless 更多的落地场景。

那么对于前台来说,Serverless 意味着什么?对于 Node 服务来说,哪里可以落地 Serverless?

答:Serverless 同构直出渲染。

Serverless + SSR = ?

Serverless 云函数:云计算发展过程中出现的一种计算资源的笼统,它以云计算平台为基础,为开发者提供业务程序的运行环境,开发者无需关注底层资源分配、扩容部署,代码执行所必要的一律服务由平台提供。

SSR 服务端渲染: 指在服务端将 HTML 渲染到前台,早期常用 php jsp 技术来在服务端生成 HTML,近年来 JS 同构化趋势演进下,逐渐出现了在服务端上运行前台 JS 代码进行渲染的方案,如 React、Vue 等主流框架的同构渲染。

若能将 Serverless 技术落地到 SSR 场景,将会有如下优点:

  1. 云服务资源理论上无限扩容,前台不必考虑业务量对 SSR 机器性能的影响
  2. 前台同学无需关注 SSR 机器的运维、申请、扩容,减少部署运维成本,提高开发效率

目前腾讯 NOW 直播 IVWEB 团队正逐渐将 SSR 业务迁移到腾讯云云函数平台上,精简部署运维成本。

▎Serverless 的演进

阿 J 是一个前台开发仔,某天产品跟他说页面白屏加载接口的时间太长了,体验差,这对于优秀的前台开发仔的他并不是难事,他有 99 种让页面加载变快的办法。

因而他立马将利用团队直出框架,花了半天时间将页面接入了直出,接下来要将直出服务部署到现网,这时他犯难了:

  1. 部署直出服务需要申请机器,申请多少台,申请几核的?
  2. 这个业务量怎样样,有没有高并发场景,机器有没有扩容机制?
  3. Nginx 配置怎样改才能接入直出,直出失败的话又要怎样接入兜底的静态页面?

一头雾水之时,他看见腾讯云的同事 maxlong 关于 Serverless 架构演进的 PPT….

从 IaaS 到 FaaS

在详情云函数 SCF 之前,我们先来 diff 一下传统 IaaS 业务架构和云函数 FaaS 业务架构:

基于虚拟机的业务架构 (IaaS)

而云函数架构是这样的:

基于云函数的业务架构 (FaaS)

阿 J 比照了两者架构之后发现,在基于云函数的业务架构下,开发者无需再关注业务基础层的相关配置,可以集中精力解决业务逻辑的开发,基础层由平台负责维护迭代,只需将我们的直出服务部署上云即可以处理部署直出业务中的运维痛点了。

FaaS + BaaS 下的 Serverless

FaaS 的出现使得服务上云变得容易起来,但是** FaaS 并没有处理「公共基础服务」的问题**,而所谓公共基础服务,就是形如对象存储、KV存储、消息推送这样的基础服务,这个问题最终落到了云服务提供商这里。

因而市面上的云服务无一例外的都提供了上面的「公共基础服务」,这样的服务模式叫做 BaaS(Backend as a Service)。

Serverless 直译过来叫无服务器,这里并不是说不需要服务器,而是说开发者不需要关注服务器,这部分由平台维护提供,开发者仅需关注业务逻辑的开发就可。

Serverless 架构下的 App

在这样的一种架构下,开发者毋庸关注支撑应用服务运行的底层资源,以「函数」的形式承载业务逻辑,以「BaaS 服务」的形式支撑公共服务。

公有云基础设备上的 Serverless 演进

考虑到直出服务的特性,阿 J 认为直出业务十分适合上 Serverless,因而他立马开始了直出上云的预研,做 Serveless SSR 服务,免去运维部署烦恼,减少直出接入成本!

▎SCF 云函数开发

阿 J 认真研究了腾讯云云函数(Serverless Cloud Function,SCF),发现它可以将我们的业务拆成更细的粒度「函数」,而函数的执行环境开发者不需要关注,由平台负责,以下是阿 J 对云函数执行的了解。

云函数执行过程

云平台在执行这些「云函数」的过程其实就是在对外提供服务,通常情况下,Serverless 函数会用于「响应 HTTP 请求」,即通过 HTTP 访问事件来触发云函数的执行,如下图所示:

云函数客户请求链路

而「函数的执行」不外乎:入参、上下文、返回值、反作用四个要素,如图所示:

函数执行的四个要素

四要素:

  1. 「入参」: 云函数的入参即 HTTP 请求中的请求头、请求体
  2. 「上下文」: 包含此次函数请求的 id、函数执行的环境变量等等
  3. 「反作用」: 云函数执行可能调用外部服务,如数据库、对象存储、数据监控
  4. 「返回值」: 即 HTTP 响应如 {retcode:0,msg:”ok”}

阿 J 还理解到根据肯定配置部署完云函数之后,云平台会给你一个 URL,通过访问这个 URL 即可以「触发」对应云函数的执行,得到结果。

▎NGW Serverless 同构直出方案

合理阿 J 着手进行 Serverless 直出开发的时候,他猛然发现,Serverless 环境下跟原有的直出环境有较大出入,原有的直出环境是这样的:

  1. 原方案直出是使用 TSW 执行 Koa App 的方式进行直出的,这意味着原方案需要监听端口而不是作为函数来运行,这个要怎样解决?
  2. 老业务能不能做到无缝迁移到云函数? 能不能做到新直出方案兼容老直出方案?
  3. 云函数怎样做到工程化打包发布,接入到团队现有的 CI 流程中?
  4. 原方案可以做本地调试,而云函数直出怎样做本地调试?
  5. 云函数发布后,会得到一个 URL,那么这个 URL 要怎样接入我们的业务域名下?

工程化打包

除去前台 webpack 打包之外,对于 Serverless 云函数平台,我们还得在原来的打包产物基础上再做少量操作,其核心在于「打包为 zip 上传到云函数」,如下图所示:

云函数打包图示

从图示中可以看到,打包部署的流程由「CLI 工具」承担,起因是为了提供命令式的部署原语,方便 CI 接入。

Serverless 下的同构环境

阿 J 考虑到原价业务的直出方案采用 TSW 来做,但是在 Serverless 下,我们不能把 TSW 搬进云函数里执行,而是抽取了其中我们需要的组件出来,如 ajax 发送请求、监控上报、日志 logger 等常用组件,由于:

  • 方便老业务无缝迁移到云函数直出,处理直出业务的运维痛点
  • TSW 很大,压缩后近 20 MB,解压出来大很多,不利于云函数的性能

除此之外,还要自己去实现 window.REQUEST plug 相似这样的 TSW 全局注入的对象,由于旧有方案也依赖这些全局对象。

「流式」和「块式」

原来的方案需要 Koa 监听本地端口才能提供服务,而云函数的出入参是块式的,Koa 的出入参是流式的,因而这里需要解决一下云函数的入参。阿 J 的做法是根据云函数入参来动态构造 http 的 IncomingMessage 和 ServerResponse 的实例,而后透传给 app.callback() 进行直出渲染,最后从 ServerResponse 里获得渲染结果构造为云函数返回值返回。

NGW 作网关转发

阿 J 考虑到业务的可用性以及之前链路接入的痛苦,决定接入 NGW(Node Gateway):

NGW 下的 Serverless 直出链路

通过 NGW 可以做到:

  1. 实现兜底逻辑: 云函数可能会 crash,这时候走静态页面接入机
  2. 灰度逻辑: 直出上现网的过程中可以通过 NGW 的配置进行部分灰度测试
  3. 链路日志收归: 长期以来,前台不好查具体的链路信息,现在有了 NGW 一切皆有可能

云函数本地调试

云函数的无状态模型使得其非常易于进行本地调试,我们只要要在本地构造函数的入参、上下文就可直接进行直出调试了,阿 J 在实际实现中是通过本地起一个 Koa 服务监听端口,利用这个端口的请求来构造入参、上下文,最后传入函数执行结果,返回到前台显示。

同构直出过程

在最后,阿 J 完成了 Serverless 直出方案,其直出过程如下图所示:

新方案下的同构直出三步

  • 「Init」: 初始化云函数环境、接受并解决云函数的入参
  • 「Koa」: React 同构业务逻辑以 Koa App 的形式表现
  • 「Clear」: 清除云函数环境、解决 Koa Response 返回直出结果

特别需要提出的一点是,其中的 Koa 其实就是原方案的打包结果,新方案在此基础上作了少量环境迁移、重写,使其可以在云函数环境下执行渲染。

云函数的性能瓶颈和优化

阿 J 在完成了新直出方案之后马上进行了压测,发现随着压测压力的添加,收包率会出现断崖式下跌,而且还发现部分函数执行耗费时间非常长,联络了云函数的同事看了下发现是「冷启动问题」,那什么是冷启动?

从云函数的架构中可以看到,云函数触发后并不是马上执行,它需要一个环境初始化的过程,这种启动叫做冷启动;还有种情况是,这次请求的函数执行之后马上接到下一次请求,这时候就不用重新初始化云函数环境,而是直接启动,这种称谓热启动。

压测云函数 执行时间分布图收包率优化前后(右边为优化后)

冷启动问题在压力低的情况下不显著,但是在高并发的情况下就会额外影响回包了,这里SCF 的同事进行了优化:提高最小实例数,减少冷启动,最小实例越多就越能扛住瞬时并发,优化效果如上图右边所示。

此外我们还发现了内存的问题,这里联络了 SCF 的同事进行了 Node 内存模型的相关优化,优化后,已基本不存在 4xx 的问题。

(业务中的内存使用也可以进行优化,要避免 JS 内存泄漏)

内存超限导致 4xx 问题,压测压力越大越多这种错误内存模型优化后的体现

到这一步,阿 J 终于初步完成了 Serverless 直出方案设计开发,并开始逐渐在业务中使用推广。

现状和下一步计划

image

目前 NGW + Serverless SSR 已经应用到 NOW 直播、手 Q 周围、浏览器直播和手 Q 群送礼等多个项目中,实际业务开发中,Node 业务的部署和运维工作量降低了 80% 以上。

阿 J 下一步的计划:

  1. 完善的云函数版本管理;
  2. 配合 webpack 进一步优化本地直出调试体验;
  3. 配合腾讯云同事进一步优化云函数性能;
  4. 完善 React Chunked 流式渲染方案,进一步提升首屏加载速度;
  5. 完善 Node 服务云函数,计划做前台 BFF 方案;
  6. 完善直出和链路日志收归,加强服务监控能力。
说明
1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
5. 如有链接无法下载、失效或广告,请联系管理员处理!
6. 本站资源售价只是摆设,本站源码仅提供给会员学习使用!
7. 如遇到加密压缩包,请使用360解压,如遇到无法解压的请联系管理员
开心源码网 » NGW,前台新技术赛场:Serverless SSR 技术内幕

发表回复