设为首页收藏本站

 找回密码
 加入怎通
真牛社区»站长 › 休闲广场(站长SEO的休闲区) › 真牛聊聊 › 搭载华为ModelBox AI应用开发框架 打通端边云边界 ...
返回列表 发新帖
查看: 157|回复: 0

搭载华为ModelBox AI应用开发框架 打通端边云边界

[复制链接]
gdfdgdfd 发表于 2023-10-02 11:50:43 | 显示全部楼层 |阅读模式
开屏广告        
* Y- |4 Q( f3 ?! |5 |! Q此次合作搭载的华为云ModelBox AI应用开发框架，有三大创新能力：
, Q$ M& |/ G* ?* T9 H! f" E  Q
" H) M8 d* q4 r+ j高性能并发调度引擎提升推理性能 2-10倍
6 o# ^3 ~  W) _7 b& q9 z% o6 [2 x客流分析需要在单个边缘设备上完成多路视频流、多个算法的实时分析计算，对性能要求很高。如果单位时间内处理的视频帧数不够，会严重影响跟踪、Reid等算法效果。相较传统AI应用串行的运行方式，ModelBox应用中所有任务以功能单元形式封装，内置的并发调度引擎实现数据计算和资源管理的精细化智能调度，同时集成了特别优化过的硬件加速单元，可以实现推理性能大幅提升，保证客流分析的实时性。2 r8 ^  i6 H/ i9 C1 f0 m/ i" M
- ?% g& S  Z. {8 ?) J7 O
自适应异构计算组件缩短跨平台开发周期80%$ T  G+ U6 j4 j$ k# _
客流分析中的多个模型是在云上GPU服务器中训练，部署到边缘设备的过程中面临芯片、操作系统、推理框架等软硬件的切换，开发人员需要学习边缘侧底层API的使用，适配周期较长。ModelBox预置了丰富的应用编排异构计算组件，覆盖主流芯片、操作系统、推理框架，让开发者只需关注业务逻辑的实现，不必学习平台的软硬件差异，可以明显缩短开发周期。此次改造好的算法，也可以轻松适配到其他端边云设备上，实现一次开发，全场景部署。
, A1 m0 i" z% {5 x! f" p- |
4 g# ?# S2 T) \# ~' |端边云AI协同单元降低运维成本30%
+ f: S6 Y/ e- ^; Q* E* N: b  I7 R线下门店分布在全国各地，传统方案需要运维人员出差到门店现场做安装部署、故障排查、迭代更新等，运维成本很高。ModelBox框架中提供的端边云AI协同单元让开发者快速生成格式统一的AI应用，结合应用场景一键部署到端边云不同的设备上运行。利用华为云管理平台，可以实现对算法的远程更新，以及告警、日志等精细化管理，降低运维成本。
2 T* [9 E" h1 C" P& l  ^
' s, v! F, j% M
; A! q% g& F9 F* D4 f# y
回复

使用道具 举报

返回列表 发新帖
    高级模式
    B Color Image Link Quote Code Smilies
    您需要登录后才可以回帖 登录 | 加入怎通

    本版积分规则

    QQ|手机版|小黑屋|网站地图|真牛社区 ( 苏ICP备2023040716号-2 )

    GMT+8, 2026-7-5 22:17 , Processed in 0.035996 second(s), 24 queries , Gzip On.

    免责声明:本站信息来自互联网,本站不对其内容真实性负责,如有侵权等情况请联系420897364#qq.com(把#换成@)删除。

    Powered by Discuz! X3.5

    快速回复 返回顶部 返回列表