北京快三开奖

  • <tr id="U9YkSO"><strong id="U9YkSO"></strong><small id="U9YkSO"></small><button id="U9YkSO"></button><li id="U9YkSO"><noscript id="U9YkSO"><big id="U9YkSO"></big><dt id="U9YkSO"></dt></noscript></li></tr><ol id="U9YkSO"><option id="U9YkSO"><table id="U9YkSO"><blockquote id="U9YkSO"><tbody id="U9YkSO"></tbody></blockquote></table></option></ol><u id="U9YkSO"></u><kbd id="U9YkSO"><kbd id="U9YkSO"></kbd></kbd>

    <code id="U9YkSO"><strong id="U9YkSO"></strong></code>

    <fieldset id="U9YkSO"></fieldset>
          <span id="U9YkSO"></span>

              <ins id="U9YkSO"></ins>
              <acronym id="U9YkSO"><em id="U9YkSO"></em><td id="U9YkSO"><div id="U9YkSO"></div></td></acronym><address id="U9YkSO"><big id="U9YkSO"><big id="U9YkSO"></big><legend id="U9YkSO"></legend></big></address>

              <i id="U9YkSO"><div id="U9YkSO"><ins id="U9YkSO"></ins></div></i>
              <i id="U9YkSO"></i>
            1. <dl id="U9YkSO"></dl>
              1. <blockquote id="U9YkSO"><q id="U9YkSO"><noscript id="U9YkSO"></noscript><dt id="U9YkSO"></dt></q></blockquote><noframes id="U9YkSO"><i id="U9YkSO"></i>
                企业空间 推销商城 存储论坛
                北京快三开奖全闪存阵列 IBM云盘算 Acronis 安克诺斯 安腾普 腾保数据
                首页 > 云盘算 > 注释

                亚马逊AWS添加开源呆板学习库PyTorch支持

                2020-03-19 16:01泉源:中国存储网
                导读:AWS支持开源呆板学习库PyTorch,PyTorch 是一个最后由Facebook开辟的开源呆板学习库。它次要用于盘算机视觉和天然言语处置等使用顺序。

                亚马逊AWS宣布,其Amazon Elastic Inference效劳将添加对PyTorch模子的支持,该效劳将协助开辟职员在某些状况下将呆板学习推理的本钱低落多达75%。

                Amazon Elastic Inference是一项于2018年底推出的效劳,使客户可以将基于图形处置单位的推理减速附加到规范Amazon EC2实例。推论是教唆用训练有素的深度学习模子停止预测的进程。

                PyTorch 是一个最后由Facebook开辟的开源呆板学习库。它次要用于盘算机视觉和天然言语处置等使用顺序。比年来,由于运用静态盘算图,它在呆板学习社区中变得越来越盛行。它们使运用下令式和习用的Python代码可以轻松开辟新的深度学习模子。

                默许状况下,Amazon SageMaker,AWS深度学习AMI和AWS深度学习容器中提供了用于EI的加强型PyTorch库,从而使开辟职员可以以最少的代码变动在消费中摆设PyTorch模子。

                在一篇博客文章中,亚马逊表明说,关于在PyTorch上运转的均匀深度学习任务负载,推理通常占盘算本钱的90%左右。亚马逊说,但是为推理任务负载选择准确的实例范例是一件顺手的事变,由于每种深度学习模子对最佳数目的GPU,地方处置器和内存资源都有其本人的特定要求。

                该公司表现:“在独立的GPU实例上优化这些资源之一通常会招致其他资源的应用率缺乏。” “因而,您能够要为未运用的资源付费。”

                Amazon Elastic Inference经过容许用户将过量的GPU驱动的推理减速附加到EC2,Amazon ECS和Amazon SageMaker实例来处理此题目。

                亚马逊表现:“您可以在AWS中选择最合适您的使用顺序全体盘算和内存需求的任何CPU实例,并辨别附加得当数目的GPU驱动的推理减速,以满意您的使用顺序的耽误要求。” “这使您可以更无效地运用资源并低落推理本钱。”

                关于Amazon Elastic Inference

                亚马逊AWS添加开源呆板学习库PyTorch支持

                借助 Amazon Elastic Inference,您可以将低本钱 GPU 驱动的减速附加到 Amazon EC2 和 Amazon SageMaker 实例或 Amazon ECS 义务,以将运转深度学习推理的本钱低落多达 75%。Amazon Elastic Inference 支持 TensorFlow、Apache MXNet 和 ONNX 模子,行将推出更多框架。

                在大少数深度学习使用顺序中,运用颠末训练的模子停止预测(称为“推理”的进程)能够会因两个要素而招致使用顺序的盘算本钱高达 90%。起首,独立 GPU 实例专为模子训练而设计,关于推理通惯例模过大。固然训练作业可并行批量处置数百个数据样本,但大少数推理在仅占用大批 GPU 盘算的单个输出中及时发作。即便在峰值负载下,GPU 的盘算容量也能够无法充沛应用,如许做是糜费资源且本钱昂扬。其次,差别的模子需求差别数目的 GPU、CPU 和内存资源。选择充足大的 GPU 实例范例以满意最苛刻资源的要求,如许通常会招致其他资源应用缺乏、本钱较高。

                Amazon Elastic Inference 可以处理这些题目,办法便是容许您将得当数目的 GPU 驱动的推理减速衔接就任何 EC2 或 SageMaker 实例范例或 ECS 义务,而无需变动代码。借助 Amazon Elastic Inference,您如今可以选择最合适使用顺序的总体 CPU 和内存需求的实例范例,然后独自设置装备摆设无效运用资源和低落推理运转本钱所需的推理减速量级。

                 

                 
                持续阅读
                要害词 :
                PyTorch 亚马逊AWS
                中国存储网声明:此文观念不代表本站态度,若有版权疑问请联络我们。
                相干阅读
                产物引荐
                头条阅读
                栏目热门

                Copyright @ 2006-2019 ChinaStor.COM 版权一切 京ICP备14047533号

                中国存储网

                存储第一站,存储流派,存储在线交换平台