knative serving 0.8 变更
knative serving 0.8 变更
前言
knative serving在8月6日发布了0.8版本,这个版本是Serving v1的第一个候选版本。
0.8主要添加了以下功能:
- Target Burst Capacity (TBC) 支持,用于避免突发流量在queue-proxy里排队
- 减少Readiness 健康检查需要的时间
- Route/Service的ready状态能代表可以访问了
本次的不兼容变更:
- 取消支持Istio 1.0.x(Istio 1.0.x的生命周期也已经结束),要求最低版本为1.1.x
- 把
github.com/knative/servingimport paths 改成knative.dev/serving
下面是每个模块具体的改进
扩缩容
Target Burst Capacity (TBC) 支持 #4443, #4516, #4580, #4758
设计这个的起因是,假如有突发流量,需要避免所有流量都涌入某几个pod内,导致流量在queue-proxy中排队。之前已经在Activator实现了限速器,但只适合从0扩容的场景。这次改进了少量,不只是从0扩容的时候,在实例数不满足时也会介入。
这次引入了TBC参数,设定突发流量达到多少并发才触发,和它配合的还有一个目标容量比例(container-concurrency-target-percentage),默认值是70%,用于autoscaler决定达到容量多少比例后,需要扩容一个pod。
假如通过计算,当前的突发流量超过剩余空闲的容量,Activator将加入到数据链路来(通过把Activator Endpoint加入public service,此时同时包含Activator和客户容器的endpoint),Activator会缓存请求,直到有充足的容量。
TBC这个配置可以在集群或者者revision配置,默认不开启。
设计文档:链接
Activator HPA 和性能改进 #4886, #4772
由于加入了TBC功能,activator在数据面上使用的更频繁,有少量性能和扩容问题暴露出来。现在给activator加了基于CPU的水平扩容和改进了请求推迟。
快速缩容到0 #4883, #4949, #4938
假如activator在请求路径中(例如使用了TBC),现在会忽略缩容到0的静默等待时间(grace period)。现在静默等待时间改为activator确认在数据路径上,之前是一个固定值。
新添加Metrics CRD #4753, #4894, #4895, #4913, #4924
扩缩容指标变为独立的CRD(之前是在内存中创立),这样允许新的autoscaler可以在程序外部使用。
基于这个变更,把HPA扩缩容放到了独立的进程。
稳固性和性能:
- 改进测试偶然报错
- 更好的校验annotation和configmap
- 当Autoscaler重启后,会等待一个正当数量的指标采集,才决定缩容。
核心API
Readiness 健康检查冷启动时间改进 #4148, #4649, #4667, #4668, #4731
queue-proxy sidecar现在会同时执行客户配置的readiness健康检查和默认的TCP检查。这使得我们可以更激进的对客户提供的容器做检查(相对于K8s默认秒级的间隔)。
readiness健康检查的 periodSeconds 默认为0,表示开启系统定义的亚秒级健康检查。可以把 periodSeconds 改为大于0的值,这样就使用k8s默认的健康检查。
实现方式是读取客户的配置,把客户的httpGet readiness配置转为queue-proxy的代码实现,通过执行脚本的方式检查。
其余变更
- 允许只指定协议,不指定端口 #4515
- Annotation 校验 #4560, #4656, #4669, #4888, #4879, #4763
- ServiceAccountName 校验 #4733, #4919
网络
Route/Service 只有从Istio ingress可访问才汇报Ready (#1582, #3312)
Route 只有从Istio ingress可访问才汇报Ready,这样客户即可以判断Service/Route的状态,开始使用。
移除集群级别的 ClusterIngress 资源(#4028)
networking.internal.knative.dev/ClusterIngress 已经被namespace级别的 networking.internal.knative.dev/Ingress 资源替换, ClusterIngress资源会在0.9移除。
修复未激活的Revision流量比例不对 (#882, #4755)
当假如有超过一个未激活的Revision,不再只路由到最大的分片。为了支持这个,现在宣布去掉支持Istio 1.0
其余变更
- 每个 sub-Route 可以有自己的可见性设置(#3419)
- 集成 Gloo Ingress
监控
- 自动冷启动时间收集 #2495
- 修复部分指标名称不正确 #4716
参考
knative serving 0.8 release note
作者:fatkun
阅读原文
本文为云栖社区原创内容,未经允许不得转载。
1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
5. 如有链接无法下载、失效或广告,请联系管理员处理!
6. 本站资源售价只是摆设,本站源码仅提供给会员学习使用!
7. 如遇到加密压缩包,请使用360解压,如遇到无法解压的请联系管理员
开心源码网 » knative serving 0.8 变更