|
# T1 q( g0 \* z0 ^; Y
近日，美的集团AI创新中心全自主研发的边端AI算法部署工具链Aidget（AI edge toolbox）正式在Github和OpenI两大社区同步上线开放推进开源开放是美的集团承担建设的智能服务机器人国家新一代人工智能开放创新平台的重要内容，Aidget将有助于美的与开发者推进AI生态共创，赋能行业技术发展。  ' {: n/ U! V0 W' G+ u9 l
在各种智能嵌入式边端设备上运行深度学习模型（深度神经网络）已成为AIoT的主流方式，但由于主流深度学习模型部署要求高，且边端设备运算资源受限，直接部署存在大量的计算资源浪费等直接挑战，阻碍了深度学习模型在资源有限的边端设备上的部署。 " b% x8 J& g7 G, h# K: A3 C
致力于解决AI通用部署落地难题，针对智能家电领域存在的操作系统和芯片工程化部署难度高、效率低、通用工具链对资源极低的家电和IoT设备适配性较差、通用工具链对语音算法支持力度较低，算子实现与优化不足等现实问题，美的集团AI创新中心于2021年发起了Aidget项目。 
' M% L, ?7 T9 O4 O9 F9 k5 Y 作为美的全自研高性能深度学习推理部署工具链，Aidget包含模型压缩工具以及推理加速引擎工具，实现从模型压缩，到推理加速全链路优化Aidget适用于linux/rtos/android/ios等多种不同边端系统，面向armv7/v8及dsp等不同边端平台提供指令级加速；针对多计算单元设备，提供高性能异构计算能力；针对边端小内存设备，在内存管理方面进行优化设计。 
2 ?# w' c2 Y3 z) i- o5 M; \3 @ Aidget工具链主要工作流程是将模型通过压缩工具进行模型压缩，支持前沿的主流算法技术剪枝、蒸馏及量化通过多种压缩方式结合应用，实现高压缩比并保持良好的精度性能经过压缩后的模型通过推理引擎侧转换工具进行解析，进行进一步优化，包括算子消除、算子替换、布局调整等图优化操作。
4 j% [3 r1 g3 `) |1 h6 b- G 推理时加载模型，然后经过预处理把模型从抽象的图转换为具体的算子和张量连接的描述形式，并进行内存复用和执行调度等运行优化  
$ J0 |! D) e% N6 h0 V 目前，Aidget已陆续在智能冰箱、洗碗机、家庭服务机器人等智能家电产品上实现了投产验证和规模化量产，持续发挥了降本增效作用美的集团希望通过Aidget开源项目，为边端智能提供AI解决方案；同时，美的AI将持续推进语音技术、计算机视觉、机器人学习相关算法/模型的开放服务和开源共创，赋能行业发展。 + G1 Y D! q& c
. N' D: ^: _& n
O7 g3 `2 f) x- j& m' _ G* l. D- `
H5 y4 r- e- Y+ A5 O; [7 g' V2 R. C5 e6 P, \& `+ _* Z l2 N' p. }9 X
| 
' {: n/ U! V0 W' G+ u9 l
