HarmonyOS 3.0
0 q) K& D7 v$ v0 L$ w在21日的演讲现场,张平安宣布,华为云昇腾AI云服务已正式上线,支持主流大模型在智能化时代“百花齐放”,做好“百花园”的黑土地。目前,所有企业可即刻在华为云官网上购买和使用昇腾AI云服务。' Q2 d k) h; S
; @ q8 ~/ p( ^/ U
全智能时代,AI算力需求将迎来爆发式增长。华为预计,到2030年通用计算能力将增长10倍,AI计算能力将增长500倍。然而,由于AI服务器的功率密度远超通用服务器,单机柜功耗是传统机柜的6至8倍,并需专用液冷系统散热,且大模型训练需要百卡、千卡甚至万卡,服务器之间的互联、时延、可靠性、运维极为复杂,自建AI数据中心面临诸多挑战。) m( k# z L; [, I7 @! y9 |3 ]
$ i8 j0 K- x1 O8 T9 s% H
% p0 N- I; z9 j0 ^( G, M" I9 U4 l! i
( F9 U" N% x: Q% |* U" t- u$ t) p( B
为更好支持大模型的“百模千态”创新,华为云在贵安、乌兰察布、芜湖打造了3大AI云算力中心,为企业提供澎湃昇腾AI算力,让企业再也不需要高价抢购GPU,也不需要担心GPU未来潜在的供应连续性挑战。
, l- N9 [* X) M7 s2 f( R0 p) |# n3 i- D& A+ \( _8 |7 y) i: C" D
同时,华为云昇腾AI云服务百模千态专区已正式上线。企业和开发者可以直接使用业界主流的开源大模型,如LLAMA,GLM等。4 ]' p# n. K) ^1 e
. Q" P+ f* Q' g
在大模型训练数据安全方面,华为云采用了数据传输与存储加密、数据安全清除、数据访问控制、数据水印防泄露等多重技术,确保大模型训练数据的全生命周期安全。' v/ Q; N) N" k: x. w4 W
" R7 j8 m0 s y5 W) @
此外,华为云还提供高效长稳的大模型训练环境和完备的工具链:实现千卡训练连续30天不中断,任务恢复时长小于30分钟;通过30多个可视化调优和部署工具,帮助企业更高效进行数据处理、模型微调、Prompt工程等,完成一个千亿参数的行业模型端到端开发,从过去需要5个月缩短到现在1个月,整体速度提升5倍。
) ^' Z( @( U4 ~" }8 E; T5 J5 \# u0 a; a
$ W" A& z* ^! r/ B9 v) ?/ ^
|
