HarmonyOS 3.0 9 G4 ?+ H& `# o' A% {/ }
在21日的演讲现场,张平安宣布,华为云昇腾AI云服务已正式上线,支持主流大模型在智能化时代“百花齐放”,做好“百花园”的黑土地。目前,所有企业可即刻在华为云官网上购买和使用昇腾AI云服务。! V4 X) t9 R2 E! H: ]1 F6 u+ B3 k
. ?+ U7 g* [2 A9 |全智能时代,AI算力需求将迎来爆发式增长。华为预计,到2030年通用计算能力将增长10倍,AI计算能力将增长500倍。然而,由于AI服务器的功率密度远超通用服务器,单机柜功耗是传统机柜的6至8倍,并需专用液冷系统散热,且大模型训练需要百卡、千卡甚至万卡,服务器之间的互联、时延、可靠性、运维极为复杂,自建AI数据中心面临诸多挑战。6 N5 O- x/ i% e! J
6 l8 P e4 [5 i. ~3 I. ]" f- e2 L& U! l4 o5 B) g8 q
6 o+ l- W: y- M. v7 z3 g
为更好支持大模型的“百模千态”创新,华为云在贵安、乌兰察布、芜湖打造了3大AI云算力中心,为企业提供澎湃昇腾AI算力,让企业再也不需要高价抢购GPU,也不需要担心GPU未来潜在的供应连续性挑战。
% F0 E( z5 l4 ~. W& B
! r9 Y" D$ P7 a* J3 l" M( d5 j同时,华为云昇腾AI云服务百模千态专区已正式上线。企业和开发者可以直接使用业界主流的开源大模型,如LLAMA,GLM等。
/ k8 Y, h! c# D l4 o9 f! b6 v( E1 }, G$ }7 u- V8 [# d+ G( t& S. p) d3 }
在大模型训练数据安全方面,华为云采用了数据传输与存储加密、数据安全清除、数据访问控制、数据水印防泄露等多重技术,确保大模型训练数据的全生命周期安全。- Q& v) q5 E' [5 d
1 I% v& U/ m. \% _( U4 `9 N
此外,华为云还提供高效长稳的大模型训练环境和完备的工具链:实现千卡训练连续30天不中断,任务恢复时长小于30分钟;通过30多个可视化调优和部署工具,帮助企业更高效进行数据处理、模型微调、Prompt工程等,完成一个千亿参数的行业模型端到端开发,从过去需要5个月缩短到现在1个月,整体速度提升5倍。
" D0 q) A6 @/ ^! c2 Z9 @) x& R$ e$ }2 {* R2 v4 @3 L7 A
- H7 y$ h$ b2 m& A |
