打印

FPGA、类脑芯片、定制加速芯片…深度学习领域谁能冲击GPU?

[复制链接]
347|0
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
博斯|  楼主 | 2018-8-22 16:34 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
摩尔定律放缓,迫使行业寻找新方法来更高效地提供计算性能,加速器开始被越来越多的HPC行业所采用,特别是在呈爆发式增长的深度学习领域。然而,除了已经在该领域被广泛应用的GPU外,目前业内又出现了一些新型、定制化的加速芯片,性能之迅猛甚有逆袭之势。



  那么,NVIDIA如何看待这些新型的加速方案,NVIDIA又有哪些新的技术推动GPU在加速计算和深度学习领域中的创新。在刚刚过去的HPC China当中,NVIDIA就分享了诸多干货!赶快往下看:



  业内对深度学习兴趣大幅增加来自三个趋势



  第一是大数据的快速积累,有足够的训练数据可以利用;第二是机器学习和深度学习算法不断的发展;第三是由于GPU所带来的巨大可用的计算能力。比如在深度学习网络当中,有很多以十亿为单位的计算量,而GPU则非常适合这种对数据和计算能力有非常高的要求的环境。



  中国在深度学习新技术方面不亚于美国



  针对深度学习技术领域,中国紧随美国其后。但是在商业模式方面,中国的创新能力更加突出。特别是如何利用深度学习做不同的应用,中国的企业往往能够找到很多不同的角度。值得一提的是,在NVIDIA主办的GPU技术大会(GTC)中,中国参会人数已经超过在HPC领域贡献非常大的日本。



  FPGA与GPU的应用领域各有侧重



  尽管最近业内提出的类脑芯片以及FPGA加速的话题很火,尤其是FPGA,这可能和它被170亿美元收购有关。但实际上在深度学习的训练方面,几乎所有的企业和研究机构都在使用GPU,通过FPGA技术运行的应用程序非常非常少,其应用更集中于解决分类推断等逻辑运算问题。由此可以看出,FPGA和GPU的应用领域各有侧重。



  定制化芯片虽然更快 但成本高更迭潜力低



  一些观点认为当前的GPU在性能上还无法满足在深度学习训练中极为苛刻的计算需求,业内缺乏针对深度学习定制的加速芯片。NVIDIA认为,定制化的芯片首先费用很高,其次,它无法做到快速迭代,以满足深度学习快速变化的计算需求。因此GPU这种可以同时满足于游戏、计算以及深度学习的相对更加通用的处理器,依然是最好的方案。



  NVIDIA GPU在商业化应用中占绝对优势



  目前HPC前10大热门应用中有9款支持GPU,而所有目前GPU加速系统中70%的运算周期都是在GPU上进行的,可以说NVIDIA GPU在商业化应用中占据非常明显的优势。而相比之下,一些采用定制加速器的系统,虽然可以取得Green 500上非常不错的排名,但是缺少商业应用的支持。



  NVLink对加速深度学习起着非常重要的作用



  在深度学习应用中,GPU和GPU之间的通讯会非常频繁,很多操作不需要经过CPU,为此NVIDIA即将推出的NVLink高速互联技术将在深度学习应用中会起到非常积极的作用。它可以比现有PCI-Express带宽高出5~12倍。



  Pascal架构+NVLink为深度学习提速10倍



  NVIDIA将于明年推出的Pascal架构,结合NVLink高速互联技术,将给深度学习应用带来10倍性能提升。在软件层面上,持续更新的cuDNN(CUDA深度神经网络库)也可以不断挖掘新GPU架构上性能表现。



  不同Tesla产品适合不同的应用环境



  对于深度学习的应用来说,Tesla K40加速器以及刚刚发布的Tesla M40超大规模加速器是非常合适的产品,而Tesla K80双GPU加速器更适于气象预测、油气等行业,它有着对于这些行业应用最优化的性能表现。



  GPU是目前云服务当中唯一可以提供加速计算的技术



  如何让更多的人使用GPU加速?云是非常好的途径。基于NVIDIA的GRID技术,亚马逊AWS已推出了针对图像应用的GPU实例云服务,微软Azure于今年9月开始提供基于GPU的专业图形应用和加速计算功能。阿里云则在上个月宣布推出了中国首个基于GPU的HPC云服务,专为深度学习创新而生!IBM的SuperVessel超能云也宣布推出GPU加速服务,引领OpenPOWER迈入认知计算时代。



  互联网视频领域,GPU计算潜力十足



  如今的社交网络每天都有大量的视频上传,其在深度学习的模型训练方面有着非常大的需求,GPU可以很好地满足这些计算任务。但是随着互联网视频需求进一步爆发,除了在模型训练方面,GPU还将释放出更多的潜力。

使用特权

评论回复

相关帖子

发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

412

主题

412

帖子

0

粉丝