A/B测试
7 Q: j5 _* m9 |3 q软件架构的发展从原先的单体架构到近十几年的微服务架构,再到现在新兴的Serverless架构。单体架构通常把应用的逻辑和功能耦合在一起,部署在BMS裸金属机或VM上,耦合模式使得一些通用功能或通用逻辑无法灵活复用,经常出现重复造轮子的现象,架构整体上是相对封闭的。( \* e# F/ c* v( H7 a" w
4 c) [; f8 [0 d0 d
微服务时代对应用做了拆分,组件服务化,诞生了一系列优秀的设计原则,如接口标准化、CS/CD自动化,使得应用初步具备了弹性和自动容错的能力。
& y3 C, V T6 ]4 @ i5 i% S, F% p+ F! `5 C- ^
在Serverless的框架下,应用的粒度更细,例如以函数为粒度进行管理和开发迭代,应用通过事件驱动的方式触发运行。
+ T% g; p4 y7 o. L6 F0 }8 T$ [ r4 ?6 n
Serverless可以看作是一种云计算服务模型,它允许开发者在不需要管理服务器的情况下通过事件驱动的方式运行应用代码,主要解决资源托管、调度、运维管理等一系列平台型问题,可以看作是DevOps的进一步延伸。
/ O! v5 d# Z9 {: C! a$ m
5 B2 K0 F4 h6 F5 Z& \5 ?
' z7 t% } J: |$ C* n7 K; `
. r% p* U" x; }% {5 X从传统微服务向Serverless演进的过程中,资源管理的边界逐步上移。在微服务时代,虚机/容器时代,开发者发布应用,需要管理虚拟化层或更向上的运行时细节;而从IaaS到Serverless,抽象度越来越高,底层细节的屏蔽度也越来越高,对于开发者而言,云的易用性性也在增强,门槛在降低。
- ]5 p/ I2 I# C
' q/ Y# T6 H s5 eServerless将是下一代的云计算范式,得益于它在按因付费、自动弹性、免运维等方面的显著优势。通用全场景的Serverless能够帮助企业解决更广泛的计算和运行交付的问题。实际上,Serverless也在过去几年的发展中,逐步增长成为下一代云上交付、运行与交付标准的框架。4 D, T2 X% N2 B! x) E" p
: _, C; b( a1 U6 q; m4 ?9 \" U- |$ i, G
7 K9 \3 @- ]5 O3 Z: e
P3 l& \2 z9 r1 y/ q0 n& o0 b
Serverless平台的应用托管流程
4 g9 t# I+ P D+ v$ q3 [$ l# I& {! R ^. x# W3 Y
Serverless的特点是按用计费、按需计费,如果终端没有流量,平台会自动回收应用资源,不需要为空闲时间付费,需要再次使用时,通过重新启动的方式再次加载。
- r2 n3 R: j4 S! p2 G. y3 |( C9 u# v- K4 \+ O# b+ c
冷启动或进一步延伸到高并发下的弹性问题,用户侧应用托管到Serverless平台上,如果频繁经历冷启动,应用的QoS下降,最直观体现在终端用户页面的Web 应用响应很慢,有超时的风险,导致用户侧体验下降。对云平台侧,冷启动和弹性关系着资源利用率,例如多租户进行混合部署时,预热效率的提升问题,以及平台多用户多应用流量并发上涨时的弹性问题。因此,冷启动和弹性问题是Serverless领域广泛关注的技术重点。
' X: c* t, l. p' N, {% B5 g2 l8 }9 P. t
为了解决上述问题, 华为云Serverless做了一系列的探索。
- m0 E5 `5 ~5 S
/ I$ s9 n5 D: L* C9 a" A! d V, I1 |! |
2 H5 p- k. k2 a1 j% K7 }5 ], n
链路加速:通过高性能解压缩转换与共享内存加速技术,能够把性能提升2-11倍;通过公共依赖包分离、预解压与动态按需 link 技术,加速应用冷启动 5- 10 倍。
# T3 _/ C |* C- w* L% o o" \1 N% h* ^2 B- Z8 G/ k) S4 J
池化预热、弹性调度:通过资源池化预热、分层预加载与弹性水位控制,实现毫秒级 (< 10 ms) 弹性。% ?2 R0 `: D9 ^0 t) m o# k7 c
# k/ m X% Y1 Q4 |: u2 M6 B
智能预热:以智能、分层资源预热实现负载感知,自适应池化水位控制;采用负载、资源压力预测框架,实现良好扩展性、数据驱动、以及工程师经验的规则注入。
* Y" |. i6 y, x8 b3 \( B9 Y
( {9 C" ^/ E v1 L+ T预留实例智能推荐策略:通过建模的方式推算给定时间段大概需要的实例数量,提供高性能、平衡、低成本三种预留实例配置策略。: u: v; K# ~& D1 Q' d
; \- W& `; X9 B) {案例一:Mock 服务接入 Serverless
/ X8 L2 f* E7 s+ ~2 q( x
0 d: G# \; V1 Z) Q* r
+ D6 S( R) r" G% n# Z9 t4 S; P2 H6 K$ C8 F5 L+ e4 {: N8 d
客户Mock服务可以模拟接口的响应,常用于服务打桩,避免由于依赖服务的不稳定,造成自身开发和测试进度的阻塞。在华为云Serverless 的帮助下,从手动扩缩容变成毫秒级的自动弹性,提升开发、上线效率 100%,资源成本降低 50%7 |3 y$ I& y d6 g3 W7 T' i" {
/ T3 X' \( j$ u
案例二:视频业务基于函数实现 BFF (Backends For Frontends) 模式
3 }" M! @5 V2 `8 l
; h! I) f# z* `8 {) B) P# y1 Z& ~1 w3 {; j7 y9 D/ V
" Y2 G; s& p% y0 _, k$ h% [* c使用函数BFF架构后,华为视频登录速度提升0.6~1s,相比原有方案快 30%~40%。( k! r- ]" S, `0 x j8 I
* y! z7 X% n- v
案例三:基于 Serverless 构建的视频转码服务
9 z, k: `. F: g! ?- Z# d
% k/ p, e$ {/ {& U' \. f3 w' I
% c* W+ K( l# X. ~/ G( `) q$ u1 g' W5 y
1 Q. R- H1 t( y1 F' J基于Serverless构建的视频转码服务,函数编排的能力,由多个函数协同提供完整的功能,比如一个视频处理业务下,有多个视频处理的算子,能够自动弹性伸缩。完整改造后,整个成本降低了80%。2 k: ~( g6 ?$ M
! X" _: W* m/ I. a2 Q6 q; Z
$ I! t6 D: ^0 C
9 C a1 t+ w. k9 I未来,边缘、中间件、托管、大数据将全面Serverless化,最底层是Serverless的BaaS的资源、资源池的自动化管理和快速弹性的能力。在底座之上,是跟业务相关的函数计算、容器和托管,三种共存。Serverless容器将下沉到Serverless底座,只需要对底座资源进行管理。在边缘端,传统的容器或是虚机可能无法支撑,采用Serverless + WASM是更可行的方案。
& l0 \( U g7 s- O* x
( D! T3 J& `. A2 T, ?& {+ O) [
2 A3 i: `% N2 n) V3 U% o/ u8 e |