社区编辑申请
注册/登录
新一代Serverless平台 Knative的应用实践
云计算
Knative对于Serverless平台的标准化意义重大;Knative当前正逐步成熟但大规模应用还需要进一步完善;Knative的发展前景广阔,有望成为未来的主流无服务架构管理平台

 业务介绍
1. 单品API服务是当当网技术平台中核心的基础服务之一
2. 由一系列与商品相关的API服务构成
3. 单品API完成大量后台API的接口聚合并实现接口性能的加速
4. 单品API为所有相关上游服务提供高效可靠的底层服务支持。
技术现状
1. 开发语言构成有PHP、JAVA。
2. 以K8S原生方式部署运行。

运行环境
• Knative: v0.8.0
• Istio: v1.3.0
• Kubernetes:v1.14.4
• Docker: v18.06.3
• Centos:v7.5
• Promethues v2.2.1
• Grafana v5.0.3
• Tekton Pipelines: v0.8.0
• Server: 8cores /32G mem/500GB HD

用户容器的构建与编排

1. 编写用户容器相应的dockerfile

 

用户容器的构建与编排
1. 编写用户容器相应的dockerfile
2. Tekton构建代码打包运行时容器推送到私有镜像仓库

 

用户容器的构建与编排

1. 编写用户容器相应的dockerfile
2. Tekton构建代码打包运行时容器推送到私有镜像仓库
3. 编写knative的service.yaml 配置文件

 

Blue/Green部署

traffic: - tag: current
revisionName: productapi
-v1
percent: 100
- tag: candidate
revisionName: productapi
-v2
percent: 0
- tag: latest
latestRevision: true
percent: 0

 

性能测试
评估Knative平台对应用代码的性能影响
请求总并发:200
Knative环境每个POD并发数:40
Knative环境启动POD数:6个
K8s环境启用POD数:6个
 

问题与后续改进
性能问题:
• Queue Proxy
1. 负责所有用户容器流量的转发
2. 向Autoscaler报告客户端指标
• 带来的问题:
调用链中增加了一层代理,在我们的测试场景中,QueueProxy带来了27ms的延迟以及约120m的CPU
资源消耗。
• 未来可能的解决方案
直接使用Istio的sidecar(envoy)来替换Queue Proxy,但这样有可能会带来对service mesh层的耦合。


运维工具
• 日志中心:EFK
• 监控:Promethues & Grafana
• 服务网格可视化: Istio & Kiali,Jaeger(调用链跟踪)

服务可视化工具
服务网格的可视化工具- Kiali
1. 服务拓扑图
2. 健康检查
3. 分布式跟踪
4. 指标度量收集
5. 配置校验

监控工具
 

性能优化(一)
降低冷启动延迟的解决方案
• 保留服务最小副本数避免冷启延迟
autoscaling.knative.dev/minScale: “n” // n 为1或者对应业务估算的最小副本数
• 微服务化优化服务启动速度
A. 减小用户容器镜像的大小,方便快速分发
B. 减少用户容器的启动时间


性能优化(二)
对可预见的高并发场景的解决方案
为服务预设预期最小所需副本数
例如:autoscaling.knative.dev/minScale: “200”
为服务预设最大所需副本数避免资源过度分配
例如:autoscaling.knative.dev/maxScale: “500"
为服务的每个POD设置最大并发请求数上限保障POD的可用性
例如:autoscaling.knative.dev/target: “100”


后续发展与改进
支持更多弹性伸缩指标
• 当前支持的metrics
HPA: CPU使用率,不支持缩容到0
KPA: 并发请求数, 支持缩容到0
• 新版本新增Metrics:
KPA: RPS/QPS/OPS

结论
• Knative对于Serverless平台的标准化意义重大。
• Knative当前正逐步成熟但大规模应用还需要进一步完善。
• Knative的发展前景广阔,有望成为未来的主流无服务架构管理平台。
 

 

责任编辑:赵立京 来源: 当当
相关推荐

2022-06-07 10:09:42

新技术人工智能5G

2022-06-20 09:52:27

serverless架构无服务器

2022-06-16 17:02:49

微软智能云混合云Azure

2022-05-31 10:30:16

元宇宙数字人高清渲染

2022-05-11 11:13:19

亚马逊云科技无服务器数据库

2022-03-02 09:31:42

Serverless微服务架构

2022-06-09 10:12:01

网络安全人工智能威胁监测

2022-06-07 11:16:51

云原生人工智能运维

2022-06-23 14:03:26

混合ITCIOIT管理工具

2022-05-23 11:03:53

云原生技术DockerIstio

2022-06-24 11:34:38

云计算应用安全

2022-06-24 11:14:00

美团开源

2022-06-23 09:49:16

火绒安全英特尔

2022-06-07 09:59:21

网络安全安全漏洞

2022-06-16 07:32:38

VSCodePython插件

2022-06-15 11:02:40

网络安全运营

2022-06-09 09:27:16

前端行业生存

2022-06-16 15:42:16

攻击面管理ASM

2022-06-14 16:55:25

互联网移动应用出海

2022-06-22 05:53:49

城域网广域网VXLAN

同话题下的热门内容

首个全链路国产操作系统要诞生了,OpenCloudOS首度披露技术路线2022年云计算的趋势有哪些?多云模式并非“万能钥匙”2022年云计算应用关键威胁调查年中盘点:2022年炙手可热的十家云计算初创公司年中盘点:2022年炙手可热的10家Kubernetes初创公司对云原生环境下数据库服务治理的思考IBM:用混合云和AI,成就企业数字化转型

编辑推荐

一文让你看懂IaaS、PaaS和SaaS看完小白也能懂什么是公有云、私有云、混合云陌陌基于K8s和Docker容器管理平台的架构实践科技公司创始人谈MySQL的未来AWS公布AWS媒体服务家族,专为完整视频工作流提供支持
我收藏的内容
点赞
收藏

51CTO技术栈公众号