您当前的位置:中国教育在线资讯正文

升级后的OpenVINO让边缘更智能让AI更实用让应用更强大

放大字体  缩小字体 2021-04-16 16:02:13 来源:英特尔物联网
升级后的OpenVINO让边缘更智能让AI更实用让应用更强大

这年头,如果你的物联网和边缘计算中没有集成AI,都不好意思跟人打招呼。

Gartner预计:到2022年,将有80%的企业物联网项目把AI作为主要组成部分。有了AI加持的物联网,正在逐渐蔓延这个世界。其中,市场调研公司Mordor Intelligence判断:到2026年,基于边缘的机器学习将会推动AI物联网市场达到每年27.3%的复合增长率。

不过,想要开发边缘计算AI应用,却不容易。你要面对的是千变万化的硬件组合、纷繁复杂的网络结构、多种多样的算法和模型。无论是开发、优化,还是部署、落地,千头万绪,难以下手。

最近,英特尔刚刚发布了OpenVINO 2021.2版本,可以免除上述后顾之忧,帮你轻松开发更实用、更智能的高性能AI物联网应用。

01让边缘计算更智能

OpenVINO 2021.2 版本中的英特尔DevCloudfortheEdge,集成了英特尔DeepLearningWorkbench。这是一套托管在云环境中的硬件平台,专门用于深度学习。开发者不需要设置任何本地硬件,只需借助OpenVINO,就能组合多种不同远程硬件配置,包括:英特尔CPU、GPU、英特尔神经计算棒2、英特尔Arria 10 FPGA等等,然后针对这些不同配置,在云上完成多种机器学习模型的图形化分析、比较和调优。使用这样的方式,开发者可以提前了解所需的软硬件知识,从而避免潜在陷阱,还可以优化性能,并确认需要采购的硬件,从而加快产品上市速度。

02让AI更实用

OpenVINO 2021.2提供了多种全新预训练模型,可以提升开发效率。其中的公开模型包括:面向物体识别的Yolov4、面向语音识别的AISpeech、面向语义分割的DeepLabv3。全新的预训练模型有:数学公式手写识别、通用手语识别、文本转语音;更新过的预训练模型有:人体姿势检测、机器翻译。所有这些,便于我们开发更多、更贴近生活的人工智能应用,实现“技术让世界更美好”的愿景。

03 让应用更强大

应用要想强大,性能表现很重要。2021.2版本的OpenVINO,针对使用Tensorflow Quantization-Aware(对权重进行逐通道量化)方式训练的模型,模型优化器新增了相应的逐通道量化支持,以高效的模型压缩,降低延时,提高性能。强大的应用,安全当然也是重中之重。2021.2版本提供了全新的安全插件,使用安全打包和执行,控制模型的访问权限。该插件基于KVM虚拟机和Docker容器,部署起来快速方便。此外,对于RedHatEnterpriseLinux(RHEL)8.2的支持,让OpenVINO的应用场景更加广泛。

机器学习应用的开发,需要走过模型训练、模型优化、模型部署这三大环节。OpenVINO 2021.2在各个环节都有相应提升。

01模型训练:

内置的OpenModelZoo中,新增多种预训练模型,目前已经支持超过100个模型,同时在性能和精度上都有提升。

02模型优化:

增加开放神经网络交换格式ONNX的多种操作,从而提升了通用性;针对TensorFlow、MXNet等模型也增加了多种操作支持,让开发者的选择更灵活、多样。

03模型部署:

OpenVINOModelServer是针对部署的高性能可扩展工具,其中的部署管理器(DeploymentManager)可以创建最小部署包,将推理程序部署到不同硬件设备中,包括英特尔的凌动、酷睿、至强、IRISPRO显卡、Movidius、GNA以及ARRiA等多种计算硬件。OpenVINOModelServer是针对部署的高性能可扩展工具,其中的部署管理器(DeploymentManager)可以创建最小部署包,将推理程序部署到不同硬件设备中,包括英特尔的凌动、酷睿、至强、IRISPRO显卡、Movidius、GNA以及ARRiA等多种计算硬件。

IT业界著名的Eclipse基金会,有一个下属的IoT调研组,他们在2020年的一次调研发现:在边缘计算的负载中,人工智能最为常见,占到30%。

现在,有了OpenVINO这样的AI物联网开发利器,你还不赶紧用起来吗?

责任编辑:王彩屏

原标题:升级后的OpenVINO让边缘更智能让AI更实用让应用更强大

“如果发现本网站发布的资讯影响到您的版权,可以联系本站!同时欢迎来本站投稿!