51区未解之谜网

未解之谜与世界之最,猎奇文章

首页 >  科学探索 >  异构计算将会为AI应用带来强大支持

异构计算将会为AI应用带来强大支持

时间:2018-12-04 作者:迷迷 来源:51区未解之谜网 手机阅读

除了算法和数据,异构计算将为人工智能应用提供更强大的支持,异构计算,尤其是加速器的开发和创新,将为行业、终端用户和初创企业带来更多无限的商机。  

在一个由灶神主持的餐厅吃饭。慢慢发球。一定要等待。因为只有一个灶神。但是在竞争激烈的市场中,人工智能技术的应用不能等待,否则它可能会被市场颠覆和淘汰。  

人工智能(AI)的研究已经持续了60多年,最近,人工智能已经呈现出一种爆炸性的趋势,不仅因为算法的改进和大数据的积累,而且由于计算能力的巨大改进和变化,企业和Inte。RNETGrand有自己的算法和数据,但它们在计算能力的获取上总是有一个很高的门槛。今天我们关注的是AI时代的计算能力。  

近年来,随着硅片物理极限的逼近和经济成本的增加,摩尔定律已经失效,传统的通用处理器方法已经不能满足人造int各种应用的爆炸性和高计算要求。因此,具有GPU、ASIC、FPGA或其他加速器(Accelerator)等高并行、密集计算能力的异构计算将继续成为热点,异构计算将成为支持更高级、更复杂的人工智能应用的必然选择。未来。  

异构计算(HeterogeneousComputing,HeterogeneousComputing)是由具有不同指令集和体系结构的计算单元组成的计算系统,它是一种平衡性能、成本和功耗的技术。它还允许最合适的专用硬件做最合适的事情,如密集计算或外围管理,从而实现性能和成本的优化。  

CPU(CentralProcessingUnit)作为一种通用处理器,我们熟悉的CPU(CentralProcessingUnit)更注重对控制流数据的支持,CPU的每个物理核中的大部分硬件资源都做成控制电路和缓存,以提高指令的兼容性和效率。真正用于计算的逻辑运算单元(ALU)只占CPU的一小部分。在没有AI或其他高计算能力要求的情况下,CPU可以应付更多的工作。在人工智能或计算能力要求较高的情况下,从计算任务执行效率的角度来看,虽然CPU可以与大量指令兼容,但实际计算效率不高。异构系统中核心功能的协调与控制。  

blob.png

打个比方,CPU可以看作是厨师,每个烹饪系的大厨都像手掌一样,可以做出各种不同口味的菜肴,以满足各种人的需要。但是因为厨师负责厨房的各个方面,他不能应付lar。葛数特种复合处理,如1000名客人食用各种马铃薯丝,如酸辣马铃薯丝、青椒马铃薯丝、油炸马铃薯丝,需要助手在短时间内切出大量相同长度和厚度的马铃薯丝。需要找到一个帮手(GPU,FPGA或ASIC)来帮助。这个助手可以同时处理许多土豆(并行处理),而且非常快(低延迟)。最后,通过与厨师的合理分工,可以满足顾客对菜肴的需求。  

也许有人会说,雇用另一个厨师来组成一个同质的厨房(均质计算)不好当然,这是多CPU以前所做的,但是基于目前基于AI应用的计算密集型负载,这种同构厨房具有明显的缺点。首先,厨师很贵,而且他们不擅长某些特定的应用,比如快速切土豆丝。其次,厨师是健忘的,需要经常查看菜谱(访问记忆)。因此,一个高效的厨房需要厨师和一群擅长各种任务的厨师之间的有效沟通和协作。  

我们知道,在异构计算厨房中,除了主厨CPU之外,还有很多辅助设备,如GPU、ASIC、FPGA、DSP等,那么这些计算单元的优势是什么  

GPU是图形处理单元的缩写。顾名思义,它是一种专门处理个人计算机、工作站、游戏机以及一些移动设备(如平板电脑、智能手机等)的图像的微处理器。其主要原因是它适合GPU的多核结构,用于大规模多任务的简单操作,如神经网络。这就像成千上万的客人同时点了酸辣的马铃薯丝,他们需要很多帮助才能快速地切出数万盘马铃薯丝。  

然而,尽管GPU能快速而好地切土豆,但是如果你想告诉他切多少土豆,切多少土豆,再加入多少青椒,那么你就到冰箱里去买些猪肉,做一道复杂的菜,这超出了你的能力。复杂的控制过程会产生大量的分支,而GPU中的控制单元负责多个计算单元,因此,如果要使用GPU,就必须有简单的指令,尤其是控制分支越少,效果越好。  

此外,GPU还有CPU厨师的问题:健忘(需要从内存中读取指令)。这带来了一系列的问题,如存储墙、高功耗、基于指令系统、解码等。  

专用集成电路(ASIC)的全称是应用专用集成电路(ApplicationSpecificIntegrationCir.),它是定制的,这意味着不需要纠缠于CPU和GPU如何分配控制资源和计算资源,以及如何分配这些资源。  

编程语言越接近底层硬件,其运行速度就越快。所有的ASIC设计都直接建立在物理硬件(门电路)上。同时,由于具有高度定制性,可以设计用于PPA优化的芯片(PPA是性能、功耗和面积的缩写)。  

这样,ASIC就像一个全自动定制马铃薯切碎机。你只要把土豆扔进粉碎机,土豆丝就会很快被切掉,形状一致性好,能耗低,节省空间。  

可以看出,这种定制的机器是厨房工件,它已经赢得了CPU和GPU。但是定制的机器也有它的缺点。如果顾客想改变口味,吃土豆和烤鸡,他们需要把土豆切成块。这样,切割机就没用了,市场上也没有现成的切割机,需要重新定制。  

现场可编程门阵列,或称现场可编程门阵列,是在PAL、GAL、CPLD等可编程器件的基础上进一步发展的产物。关键字是可编程的,这意味着灵活性。E可用于布线资源。当顾客需要土豆丝时,他们可以定制为碎纸机。当他们需要马铃薯片时,他们就会变成碎纸机。而且,正是由于FPGA中大量的可编程逻辑使得它可以真正并行实现。不同的处理操作不需要竞争相同的资源。每个独立的处理任务都配备有专用电路,可以独立操作,不受其他逻辑块的影响,因此,当增加更多的处理任务时,不会影响其他应用程序的性能。  

当然,在FPGA的开发中也存在着不足之处,主要问题在于开发上,大多数异构算法的开发人员都是软件人员,对FPGA和数字电路的结构缺乏了解,编程语言也不统一(CPUenD是C、C++;FPGA端是VHDL、Verilog等底层硬件描述语言。目前对该问题的解决方案是OpenCL和HLS(高级综合)技术,支持C和C++代码直接编译成Verilog。目前,这些技术的成熟还需要一段时间,转换效果还有待提高。  

总之,一个有效的人工智能计算能力(厨房)系统对每个人都是必要的。这个厨房需要有经验的厨师(CPU)和熟练的厨师(加速器)。在厨师的协调指导下,在各自展会实力的帮助下,进行有效的合作,从而做到饱满。充分满足顾客不断变化的美味菜肴需求。  

CPU和加速器之间协作的一个好例子是使用IBMPOWER9处理器的新一代服务器。POWER9是为当前和未来计算密集型AI工作负载而设计的。它是嵌入PCI-Express4.0、新一代NVIDIANVLink2.0(GPU和CPU之间的无缝连接)和OpenCAPI25Gbps(PCIe3.0的3倍吞吐量)中的第一个通道,这是支持异构的最现实的着陆实体。计算。  

当然,除了支持异构计算之外,POWER9服务器还优化了AI负载,例如大大提高了诸如Chainer、TensorFlow和Caffe等主要AI框架的性能,以及加速了诸如Kinetica之类的数据库。速度更快,包括深入学习洞察力、实时欺诈检测和信用风险分析。POWER9也是美国能源部首脑会议和塞拉利昂超级计算机的核心,它们已成为世界上最强大、最智能的超级计算机之一。此外,谷歌还采用了基于POWER9处理器的异构计算平台,用于各种复杂的人工智能负载。  

除了算法和数据,异构计算将为人工智能应用提供更强大的支持,异构计算,尤其是加速器的开发和创新,将为行业、终端用户和初创企业带来更多无限的商机。  


相关文章

  • 科学探索:世界上最神奇的科学书
    科学探索:世界上最神奇的科学书
    《科学探索:世界上最神奇的科学书》是吉林出版集团有限责任公司出版的图书,作者是《中国学生的第一套科普读物》编委会。
  • 人格心理学:人性的科学探索
    人格心理学:人性的科学探索
    一直以来,人格心理学不仅是心理学研究的重要领域,也是普通读者非常感兴趣的领域。近年来,人格心理学已经进入了它的黄金时期,本书的第二版汇聚并及时更新了人格领域内各个方面的研究成果,见证了该学科的繁荣景象。
  • 人体复杂系统科学探索
    人体复杂系统科学探索
    《人体复杂系统科学探索》是2012年1月科学出版社出版的图书,作者是佘振苏、倪志勇。本书继承和发展了钱学森的系统科学、人体科学和思维科学的思想,从系统哲学、科学原理、应用技术和工程实践四个层次构建了研究人体复杂系统学的理论框架,建立了研究人体的广泛的科学基础,即人体系统科学。
  • 科学探索与发现:人体的奥秘
    科学探索与发现:人体的奥秘
    《科学探索与发现:人体的奥秘》以简明易懂的语言,介绍了人体的种种奥秘,为广大青少年构建起了一座广博的人体知识宝库,在很大程度上可以满足广大青少年的求知欲和好奇心。全书由3个部分构成:人体器官的奥秘、人体自然现象和人体奇异现象。在人体器官的奥秘这一部分,主要介绍了关于人体器官的一些基本常识,如眼睫毛的作用,身兼数职的鼻子,胃会不会消化自己,小眼睛能看大世界,小舌头的作用,皮肤是人体的第一道城墙,如此等等。
  • 科学探索与发现:自然密码
    科学探索与发现:自然密码
    《科学探索与发现:自然密码》用深入浅出的语言,向青少年读者介绍了宇宙地球知识、地理知识、动植物知识、微生物知识、气象知识等,使读者在轻松阅读的同时,能够在宏观上对自然知识有一定的了解。《科学探索与发现:自然密码》适合中学生和小学高年级的学生阅读,是一本很好的百科知识课外读物。限于学识和时间,书中难免会存在一些不足,敬请专家和读者朋友批评指正。
  • 科学探索者--物质构成
    科学探索者--物质构成
    美国中学普遍选用的综合理科教葛脚材,新课标、新汗兆阿狱观念、新学法的最佳参考用书。科学探索者全套15册。探索科学奥秘,指导研究性学习,知识能力方法并重,动手动脑趣味无穷。本的主要内容包括走近科学 来自植物的化学品设灶断、了解物质、物质的变化、元素和无素周期表、碳化学跨学科探索:
  • 科学抽象
    科学抽象
    科学认识过程的一个环节,指在思维中抛开客体的非本质方面而抽取其本质方面的过程,"抽象"本身不限于指思维抽取客体的本质方面,它还包括人类依据一定的需要,在思维中把客体的某一或某些非本质的方面抽取出来的过程;但科学抽象则主要是指前者。
  • 火星移民计划
    火星移民计划
    是由埃隆·马斯克所对媒体透露的移民火星并在火星建立社区的计划。在公元2015年2月,其被曝是骗局,有可能会有去无回,亦触及一些伦理问题。 "火星一号"计划自在全球发起报名以来,有自全球上百个国家的8万多名志愿者申请,自中国的申请人有1万多名。报名费已超100万美元。很多报名者对移民火星计划的难以实现性表示失望。一些人亦望取回11美元的报名费,但都遭到拒绝。
  • 登月计划
    登月计划
    近几年,中国的探月、登月计划受到世人的关注,但依然掩藏着一些不为人知的秘密。中国人何时在月球上留下第一行脚印,在这里插上鲜艳的五星红旗?何时建立月球基地?这都成了许多人急切想知道的问题。 根据中国已经确定的探月工程的计划,整个探月工程分为三个阶段,第一期工程为"绕",二期工程为"落", 2017年进行的三期工程为"回"。
  • 科学发现室
    科学发现室
.

科学探索

热门文章

热门文章

今日最新