北京快三开奖

  • <tr id="U9YkSO"><strong id="U9YkSO"></strong><small id="U9YkSO"></small><button id="U9YkSO"></button><li id="U9YkSO"><noscript id="U9YkSO"><big id="U9YkSO"></big><dt id="U9YkSO"></dt></noscript></li></tr><ol id="U9YkSO"><option id="U9YkSO"><table id="U9YkSO"><blockquote id="U9YkSO"><tbody id="U9YkSO"></tbody></blockquote></table></option></ol><u id="U9YkSO"></u><kbd id="U9YkSO"><kbd id="U9YkSO"></kbd></kbd>

    <code id="U9YkSO"><strong id="U9YkSO"></strong></code>

    <fieldset id="U9YkSO"></fieldset>
          <span id="U9YkSO"></span>

              <ins id="U9YkSO"></ins>
              <acronym id="U9YkSO"><em id="U9YkSO"></em><td id="U9YkSO"><div id="U9YkSO"></div></td></acronym><address id="U9YkSO"><big id="U9YkSO"><big id="U9YkSO"></big><legend id="U9YkSO"></legend></big></address>

              <i id="U9YkSO"><div id="U9YkSO"><ins id="U9YkSO"></ins></div></i>
              <i id="U9YkSO"></i>
            1. <dl id="U9YkSO"></dl>
              1. <blockquote id="U9YkSO"><q id="U9YkSO"><noscript id="U9YkSO"></noscript><dt id="U9YkSO"></dt></q></blockquote><noframes id="U9YkSO"><i id="U9YkSO"></i>
                企业空间 推销商城 存储论坛
                北京快三开奖全闪存阵列 IBM云盘算 Acronis 安克诺斯 安腾普 腾保数据
                首页 > 人工智能 > 注释

                海潮开源公布环球首个完好方案的FPGA高效AI盘算框架TF2

                2019-09-06 16:20泉源:中国存储网
                导读:环球首个包括从模子裁剪、紧缩、量化到通用模子完成等优化算法的完好方案的FPGA上AI开源框架。

                8月28日在北京举行的2019人工智能盘算大会(AICC2019)上,海潮宣布开源公布基于FPGA的高效AI盘算框架TF2,这一框架的推理引擎接纳环球首创的DNN移位盘算技能,联合多项最新优化技能,可完成通用深度学习模子基于FPGA芯片的高功能低耽误摆设,这也是环球首个包括从模子裁剪、紧缩、量化到通用模子完成等优化算法的完好方案的FPGA上AI开源框架,项目开源网址为http://github.com/TF2-Engine/TF2。据悉现在已有快手、上海大学、华大智造、远鉴科技、睿视智觉、华展汇元等多家公司或研讨机构参加TF2开源社区,社区将配合推进基于可定制芯片FPGA的AI技能的开源开放协作开展,低落高功能AI盘算技能门槛,协助AI用户和开辟者延长开辟周期。

                以后,可定制、低耽误、高功能功耗比的FPGA技能成为许多AI用户摆设推理使用的选择,但FPGA开辟难度大、周期长,难以顺应疾速迭代的深度学习算法使用需求。TF2可疾速完成基于主流AI训练软件和深度神经网络模子DNN的FPGA线上推理,协助用户最大限制的发扬FPGA盘算才能,完成FPGA的高功能、低耽误摆设。同时TF2盘算架构也可以疾速完成AI芯片级设计和功能验证。

                海潮开源公布环球首个完好方案的FPGA高效AI盘算框架TF2

                TF2盘算减速流程

                TF2由两局部构成。第一局部是模子优化转换东西TF2 Transform Kit,可将颠末PyTorch、TensorFlow、Caffe等框架训练失掉的网络模子数据停止紧缩、裁剪、8位量化等操纵,增加模子盘算量。如关于ResNet50模子,经过紧缩32位浮点模子为4位整数模子、通道裁剪,可将模子文件裁剪失93.75%,简直无精度丧失并坚持原始模子的根本盘算架构。第二局部是FPGA智能运转引擎TF2 Runtime Engine,可将已优化转换的模子文件主动转化为FPGA目的运转文件,经过创新的DNN移位盘算技能大幅提拔FPGA做推理盘算的功能,并无效低落实在际运转功耗。TF2已完成在ResNet50、FaceNet、GoogLeNet、SqueezeNet等主流DNN模子上的测实验证。在海潮F10A FPGA卡上接纳FaceNet模子对TF2停止的测试(BatchSize=1)标明,运转TF2后单张图片的盘算耗时为0.612ms,提速12.8倍。

                同时,海潮开源的项目中还包罗TF2的软件界说的可重构芯片设计架构。此架构完好支持以后CNN网络模子的开辟,并可疾速移植使其支持Transformer、LSTM等网络模子开辟。以此架构为根底,可进一步完成ASIC芯片开辟原型设计。

                海潮开源公布环球首个完好方案的FPGA高效AI盘算框架TF2

                开源的FPGA芯片级设计

                依据海潮发布的开源社区建立方案,海潮将继续投入对TF2停止更新,将开辟开源主动模子剖析、构造性裁剪、恣意比特量化、基于AutoML的裁剪和量化等新功用,支持希罕盘算、Transformer网络模子、NLP通用模子等。别的,社区将活期举行开辟者集会和线上地下课,分享最新技能停顿和经历效果,并经过高校教诲方案培育开辟者,同时展开用户移植方案订定和开辟技能支持。

                海潮团体AI&HPC总司理刘军表现:“AI使用摆设涵盖云端、边端、挪动端,需求十分多样,TF2可极大提拔跨端使用摆设的服从,疾速顺应差别场景下模子推理需求。欢送广阔AI用户和开辟者参加TF2开源社区,配合减速AI使用摆设,推进更多AI使用落地。”

                海潮是人工智能盘算的向导品牌,AI效劳器中国市场份额坚持50%以上,并与人工智能抢先科技公司坚持在零碎与使用方面的深化合作无懈,协助AI客户在语音、语义、图像、视频、搜刮、网络等方面获得数目级的使用功能提拔。海潮与协作同伴共建元脑生态,共享AI盘算、资源与算法三大中心平台才能,助力行业用户开辟并摆设属于本人的“行业大脑”,减速推进财产AI化落地。

                持续阅读
                要害词 :
                FPGA 海潮
                中国存储网声明:此文观念不代表本站态度,若有版权疑问请联络我们。
                相干阅读
                产物引荐
                头条阅读
                栏目热门

                Copyright @ 2006-2019 ChinaStor.COM 版权一切 京ICP备14047533号

                中国存储网

                存储第一站,存储流派,存储在线交换平台