您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
此为临时链接,仅用于文章预览,将在时失效
芯片 正文
发私信给包永刚
发送

0

面对2020年15亿个AI终端的市场需求,定制AI芯片成为趋势

本文作者:包永刚 2019-11-13 09:59
导语:在软硬一体化提高效率的同时,如何满足多样化的需求也非常关键,定制化成为了趋势。

语音播放文章内容

由深声科技提供技术支持

随着AI算法的逐步成熟以及芯片算力的提升,历经几年的热潮之后,AI技术只有落地应用才能获得进一步的发展。不过,算法需求与芯片算力不匹配的需求成为了AI落地的一大障碍,AI软硬一体化成为关键。但在软硬一体化提高效率的同时,如何满足多样化的需求也非常关键,定制化成为了趋势。

AI终端市场的多样化需求

这一轮AI热潮,不仅让越来越多的人认识和了解了AI技术,AI也正在成为每台智能设备日常工作的一部分。事实证明,深度神经网络(DNN)非常有用,但是AI的进一步发展和落地仍有很多挑战。比如,如何使得现有解决方案跟上发展趋势?如何扩展解决方案?如何以成熟的工具链缩短TTM(Time to Market)和降低成本?

面对这些问题,需要整个产业链的协作,共同满足市场的需求。根据市场研究机构的报告,到2022年,全球具有计算机视觉/机器视觉相继的规模将超过15亿个,包括智能手机、安防、消费电子、汽车图像传感器、工业等。

面对2020年15亿个AI终端的市场需求,定制AI芯片成为趋势

这就意味着,定制化的AI加速器可以更好地满足市场的不同需求,但与此同时,AI在边缘端的落地也面临挑战。CEVA营销副总裁Moshe Sheier认为,在边缘AI中,AI的落地面临的问题就是数据量太大且运算太复杂,芯片的算力非常关键。

面对2020年15亿个AI终端的市场需求,定制AI芯片成为趋势

CEVA营销副总裁Moshe Sheier

如何破解AI处理器的带宽难题?

Moshe Sheier近日接受雷锋网采访时表示,AI算法公司在做落地项目的时候,受困于硬件算力不足的问题,可能会牺牲很多特性。所以我们现在希望算法公司能够向芯片公司提出更多的需求,让芯片的设计能够更好地满足算法需求。只有算法的效率提高了,AI才能更好的落地。

提到效率,无法避开的问题就是AI到底需要专用还是通用的芯片,通用的芯片能够更好适应算法的演进,但算力不及专用芯片。Moshe Sheier认为,AI加速器一定是一个趋势,同时,视频DSP在AI中非常重要,因为AI算法还有很多不确定性。如今算法公司不会只采用一种神经网络,而是会进行组合。运行多个神经网络模型就一定会涉及对结果进行CV的处理,这时候CPU可能会面临一些瓶颈。我们的XM DSP针对了所有流行的神经网络都进行了优化,能够更好的满足多神经网络的算法。

面对2020年15亿个AI终端的市场需求,定制AI芯片成为趋势

基于对流行神经网络特征的理解,CEVA在今年9月推出了第二代面向边缘设备的AI推理处理器架构NeuPro-S,NeuPro-S系列包括NPS1000、NPS2000和NPS4000,它们是每个周期分别具有1000、2000和4000个8位MAC的预配置处理器。NPS4000具有最高的单核CNN性能,在1.5GHz时可达到12.5 TOPS,并且可完全扩展,最高可达到100 TOPS。

根据官方的说法,与CEVA第一代AI处理器相比,NeuPro-S的性能平均提升50%,内存带宽和功耗分别降低了40%和30%。

面对2020年15亿个AI终端的市场需求,定制AI芯片成为趋势

这种性能的提升主要来自硬件还是软件的优化?Moshe Sheier表示主要是来自硬件,因为CEVA在NeuPro-S中增加了离线的权重压缩和硬件的权重解压缩。

之所以要这么做,是因为神经网络与视频编解码不太一样,即便很小的图片,引入卷积后权重的数据量非常大,因此带宽成为了AI处理器的瓶颈。而CEVA采用的多重权重压缩,减少对带宽的需求。

不仅如此,NeuPro-S还支持多级内存系统。具体而言,就是加入了L2内存的支持,用户通过设置L2的大小,可以尽量把数据放在L2的缓存,减少使用外部SDRAM,降低传输成本。

Moshe Sheier指出,硬件增加L2并不复杂,CEVA主要的工作是在我们CNDD软件框架中加入对L2内存的支持。

因此,NeuPro-S相比上一代NeuPro非常重要的工作就是进行带宽的优化,这样才有可能达到理论设计的利用率。雷锋网(公众号:雷锋网)了解到,CEVA设计神经网络引擎时最关注的问题就是乘法利用率,CEVA借助DSP设计的丰富经验,设计出的神经网络引擎理论的乘法利用率在80%-90%、虽然实际利用率会低于理论值,但NeuPro-S带宽的增大将能够减少数据的等待,能提高乘法利用率。

最终,经设计优化NeuPro-S,能够对边缘设备中视频和图像中的物品进行分割、检测和分类神经网络,显著提高系统感知性能。除了支持多级内存系统以减少使用外部SDRAM的高成本传输,并支持多重压缩选项和异构可扩展性,提升算力满足AI算法的需求。

目前,CEVA的NeuPro-S已经过了车规验证,已授权许可予汽车和消费产品相机应用领域的领先客户。

定制AI处理器成为趋势

更值得一提的是,CEVA可以在单个统一架构中实现CEVA-XM6视觉DSP、NeuPro-S内核和定制AI引擎的各种组合。这样的架构的意义在于,首先是能够通过不同的组合满足市场的需求;其次,通过统一的软件平台,能降低AI算法开发者算法部署难度,据悉CNDD支持Caffe、TensorFlow和ONNX;另外,还能减少AI加速器开发者软件的开发成本。

面对2020年15亿个AI终端的市场需求,定制AI芯片成为趋势

“有些网络现在还是在演进过程中,CPU要进行其他的控制工作,所以要运行AI加速器不支持网络,或者加一些新特性时运算单元不够。我们的方案就既有CEVA的视觉 DSP,对于级连神经网络,视觉DSP可以作为主控,也可以处理一些AI加速器不能处理的网络,再与客户的硬件加速器一起,更好地满足神经网络计算需求。“Moshe Sheier表示。

Moshe Sheier同时强调,做一个硬件简单,但是做上层软件很复杂。所以我们搭配视觉 DSP也提供了更加开放的CDNN的软件框架,这个软件框架可以让客户自己的硬件加速器的驱动集成到软件框架中。而后,CDNN将会全面优化、增强网络和层,提升CEVA-XM6视觉DSP、NeuPro-S和定制神经网络处理器的利用率。

据介绍,CDNN更偏向于上层,基于CEVA的经验以及了解定制AI加速器的特性,能够进行任务的分配。AI加速器的开发者需要做的就是能够将其硬件驱动,而CEVA也会给AI加速器开发者提供底层驱动参考,其它大量的工作以及优化都由CDNN完成。

目前CEVA已经向领先客户提供CDNN-Invite API,将于2019年底进行普遍授权许可。

雷锋网小结

CEVA作为全球重要的无限链接和中能传感器技术IP公司,采用CEVA技术的设备每年大约出货10亿台设备。就正在落地的AI来说,CEVA凭借在DSP设计中多年的经验,以及针对流行神经网络的优化的经验,在今年推出了第二代AI加速器。但正如Moshe Sheier所言,设计出硬件并不难,如何部署和应用才是关键。这其中软件非常关键,CEVA以更加开放的心态,可以让AI加速器开发者更容易的集成和应用,同时能够降低成本,这对于AI的进一步发展意义重大。这是因为,我们看到Arm上月推出了Arm Custom instructions,允许用户加入自定义指令功能。

雷锋网原创文章,未经授权禁止转载。详情见转载须知

面对2020年15亿个AI终端的市场需求,定制AI芯片成为趋势

分享:
相关文章

文章点评:

表情
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说
139期佛祖禁肖图 广昌县| 增城市| 郴州市| 吴川市| 肇源县| 孟村| 曲水县| 黄平县| 满洲里市| 海兴县| 古浪县| 宁明县| 洛川县| 乌拉特后旗| 原平市| 云南省| 孟州市| 建宁县| 大同县| 利辛县| 张家口市| 敖汉旗| 顺平县| 庆安县| 封开县| 东兰县| 永泰县| 清原| 来安县| 大同市| 东港市| 巴彦县| 南江县| 克拉玛依市| 青阳县| 永定县| 灯塔市| 贞丰县| 盐边县| 东明县| 房产| 睢宁县| 芦山县| 荥经县| 荔波县| 海晏县| 旅游| 宣城市| 阿尔山市| 石屏县| 云梦县| 仙游县| 奇台县| 庐江县| 德江县| 多伦县| 确山县| 察雅县| 新宾| 石阡县| 福州市| 宜兴市| 新源县| 江西省| 论坛| 保亭| 沾益县| 镇赉县| 屏山县| 宣武区| 锦州市| 镇安县| 大埔县| 孟津县| 潞城市| 衡阳市| 香港| 汉源县| 喀喇沁旗| 和平县| 洪湖市| 松江区| 灯塔市| 高淳县| 同心县| 乌鲁木齐县| 太白县| 垫江县| 广安市| 交城县| 合阳县| 抚远县| 屯昌县| 广元市| 尉氏县| 英山县| 泌阳县| 凤城市| 西昌市| 社旗县| 井陉县| 资阳市| 新源县| 闻喜县| 张家口市| 无锡市| 扬州市| 浦城县| 英山县| 老河口市| 凉城县| 乃东县| 永安市| 澳门| 突泉县| 克拉玛依市| 临高县| 金华市| 剑川县| 阿巴嘎旗| 成安县| 屏东县| 金昌市| 玉田县| 白河县| 诸城市| 二连浩特市| 巴里| 惠东县| 赤水市| 高阳县| 侯马市| 安溪县| 泰州市| 新民市| 和平区| 开平市| 嘉兴市| 哈巴河县| 长宁县| 清流县| 安宁市| 沙田区| 元氏县| 突泉县| 南和县| 嘉义县| 开阳县| 鹤山市| 上犹县| 桃园市| 贺州市| 尚志市| 偃师市| 砚山县| 宁强县| 太保市| 汾西县| 景宁| 华容县| 金堂县| 增城市| 朔州市| 施甸县| 义乌市| 靖边县| 保德县| 和龙市| 区。| 宁明县| 三门峡市| 临清市| 兴宁市| 荣成市| 大渡口区| 舟山市| 喜德县| 淮南市| 安顺市| 平凉市| 镶黄旗| 徐汇区| 金乡县| 莎车县| 高雄县| 安义县| 华坪县| 循化|