HarmonyOS 3.0
2 ]& J8 y8 b% r0 e: r0 q! b在21日的演讲现场,张平安宣布,华为云昇腾AI云服务已正式上线,支持主流大模型在智能化时代“百花齐放”,做好“百花园”的黑土地。目前,所有企业可即刻在华为云官网上购买和使用昇腾AI云服务。
6 _# f0 [! Z; i9 x
2 Y& n8 L4 V7 A* ?) g全智能时代,AI算力需求将迎来爆发式增长。华为预计,到2030年通用计算能力将增长10倍,AI计算能力将增长500倍。然而,由于AI服务器的功率密度远超通用服务器,单机柜功耗是传统机柜的6至8倍,并需专用液冷系统散热,且大模型训练需要百卡、千卡甚至万卡,服务器之间的互联、时延、可靠性、运维极为复杂,自建AI数据中心面临诸多挑战。
6 X* E: t% Z& S
5 u6 L+ `1 v( h/ P g9 ?1 K. K' _) J; D
4 H* r* m2 |7 J& i) x+ |
为更好支持大模型的“百模千态”创新,华为云在贵安、乌兰察布、芜湖打造了3大AI云算力中心,为企业提供澎湃昇腾AI算力,让企业再也不需要高价抢购GPU,也不需要担心GPU未来潜在的供应连续性挑战。' m7 j. y ~* v h- w
$ ]5 T1 g$ s5 H0 j$ f# F0 c( b同时,华为云昇腾AI云服务百模千态专区已正式上线。企业和开发者可以直接使用业界主流的开源大模型,如LLAMA,GLM等。9 ]4 h2 z! u% i# G: @5 W
/ t; ~3 t2 w; g# {7 F
在大模型训练数据安全方面,华为云采用了数据传输与存储加密、数据安全清除、数据访问控制、数据水印防泄露等多重技术,确保大模型训练数据的全生命周期安全。1 }' {0 q1 ]9 C1 M( X! l9 L
$ @- I$ W f8 K3 e N' A此外,华为云还提供高效长稳的大模型训练环境和完备的工具链:实现千卡训练连续30天不中断,任务恢复时长小于30分钟;通过30多个可视化调优和部署工具,帮助企业更高效进行数据处理、模型微调、Prompt工程等,完成一个千亿参数的行业模型端到端开发,从过去需要5个月缩短到现在1个月,整体速度提升5倍。) g0 O0 |0 i- @3 U' S
- a C6 e. n5 E/ H/ q- _* I* g
- R/ w$ L0 Q+ O# c" D B% ?8 z
|
