周周升级月月上新的AI芯片都是啥？5分钟搞明白AI芯片

一键生成会议纪要，一句话创造一个AI应用，曾经费时费力的任务，如今在AI的帮助下变得轻而易举。AI的“魔法”不仅仅体现在这些日常办公的场景中，它还在改变着我们的生活方式。从智能推荐系统为我们提供个性化的娱乐选择，到自动驾驶技术让出行更加安全和便捷，AI无疑正在为我们的生活带来前所未有的便利与高效。

然而，这一切的“魔法”背后，有一个不可或缺的“魔法师”——AI芯片。它就像AI的“大脑”，处理着海量的数据，驱动着各种复杂的算法。为了应对AI应用对硬件性能的更高要求，科技巨头们纷纷推出了自家的AI芯片，如NVIDIA的H200、谷歌的TPU，以及被Intel、AMD、高通和苹果等集成在电脑产品中的NPU。

AI芯片如今已成为科技巨头们竞相研发的重点产品，每天都有大量的新闻和最新进展报告，今天我就带大家好好扒一扒这些AI芯片。

GPU：NVIDIA H100/200、AMD Instinct MI300、Intel Gaudi 3

提到AI就会让我们想到GPU，好像GPU已经和AI深度绑定了！确实，在人工智能（AI）领域，图形处理器（GPU）具有先天的优势。GPU的高效并行处理能力使其成为AI算法中数学计算的理想选择，特别适合处理AI中大量的矩阵运算和深度学习任务。相比于中央处理器（CPU），GPU能够更快地执行复杂的计算任务，从而大幅提高AI模型的训练和推理速度。

此外，GPU的并行架构也使其能够同时处理多个数据块，这对于处理AI中的大规模数据集至关重要。在深度学习领域，GPU的这种能力被广泛应用于加速神经网络的训练和推理过程，从而显著提升了AI应用的性能和效率。

不仅如此，GPU还提供了高度优化的库和工具，使得开发人员能够更轻松地实现高效的AI算法。这些库和工具为AI研究人员和工程师提供了强大的支持，使他们能够更快速地开发出高效的AI应用。

目前比较具有代表性的产品包括NVIDIA H100/200、AMD Instinct MI300等。由于大型科技公司如谷歌、微软等，都在云端大量部署了大量GPU，以提供强大的算力支持，于是NVIDIA凭借GPU成功跻身万亿市值俱乐部。

FPGA：AMD Versal AI Edge

FPGA相比于CPU、GPU对于普通用户来说似乎很陌生，简单来说FPGA相当于一种“万能”芯片，它可以根据需要被重新编程，执行各种不同的任务。这意味着，如果你需要执行某种特定的计算任务或者处理某种特定的数据，你可以通过编程来“定制”FPGA上的硬件逻辑，使其以最高效的方式完成这项工作。这就像是你可以根据需要，随时更换瑞士军刀上的工具一样。

因此，FPGA在需要高度定制化和灵活性的应用中表现出色，使得FPGA能够适应不同的AI需求，并通过硬件级别的优化提升性能，常见于深度学习加速、视频图像处理、自然语言处理等。

FPGA的优势在于其高性能、低延迟以及强大的并行计算能力，这使得它在处理复杂的AI算法和大规模数据时表现出色。同时，FPGA还具有成本效益和功耗优势，非常适合于功耗敏感或需要长期运行的应用场景。

ASIC：Google TPU、AWS Trainium、Azure Maia

在AI领域，各大科技巨头如Google、AWS和Azure都开发了自己的专用AI加速芯片，如Google的TPU（Tensor Processing Unit）、AWS的Trainium以及Azure的Maia。这些芯片都是ASIC（应用特定集成电路）的一种，专为各自公司的AI服务而定制开发，以提供高效的计算能力和优化的性能。这些芯片通常不单独对外销售，而是作为公司内部服务的一部分，用于提升自身的AI处理能力和服务质量。

相比之下，NVIDIA、AMD和Intel等公司则专注于生产面向广泛市场的AI加速硬件，如针对AI优化的GPU（图形处理单元）。这些公司的产品可以被各种不同的公司购买和使用，以满足其在AI应用运算方面的需求。简而言之，前者是科技公司为自家服务定制的“私家芯片”，而后者则是面向市场的“大众芯片”。

类脑芯片：IBM TrueNorth、Intel Loihi 2

类脑芯片是一种全新的处理器,其设计灵感来自于模仿人脑神经系统的结构和功能。不同于传统的基于冯·诺依曼架构的CPU/GPU芯片,类脑芯片借鉴了神经科学和仿生学的理念,通过模拟神经元的连接和信息传递方式,实现了高效的并行计算和自适应学习能力。

在人工智能领域，类脑芯片展现出诸多独特优势。首先，大规模并行的神经元结构使其计算能力远超传统芯片，能同时高效处理海量数据。其次，类脑芯片具备神经可塑性，可根据应用场景自主优化网络权重，不断提升智能化水平。此外，低功耗的事件驱动设计也使类脑芯片尤为适用于移动端和物联网等对能耗敏感的领域。

目前，IBM和英特尔是类脑芯片研发的代表性公司。IBM的TrueNorth是神经形态计算领域的开拓者之一。而英特尔最新推出的Hala Point系统则基于Loihi 2神经拟态处理器,集成了140544个神经形态处理核心,总计模拟11.5亿个神经元和1280亿个突触连接,实现了每秒20千万亿次运算的极高效能,能效比远超GPU和CPU架构,开辟了类脑计算的新境界。

那么问题来了，Intel、AMD、高通和苹果等集成在电脑处理器里的NPU，算是什么呢？

NPU(神经网络处理器)属于ASIC(专用集成电路)类型的AI芯片，主要优势在于专门为AI推理场景量身定制，在算力密度、能效比和低延迟推理性能方面都有天然优势。英特尔NPU、苹果Neural Engine、高通Hexagon AI Engine等都针对移动/物联网等终端设备场景进行了优化，与云端的大规模AI加速器(如Google TPU、AWS Trainium)定位不同。

相比之下，GPU作为通用的并行计算加速器，由于架构灵活、并行度高，非常适合深度学习的训练过程。但GPU在推理加速方面还有待进一步优化，无法像专用的NPU那样获得极致的能效比和低延迟表现。

总的来说，NPU是为AI推理过程量身定制的高效加速芯片，而GPU则是通用加速器，更适合训练环节。两者在AI加速领域形成良好的分工和互补。因此，针对终端用户的AI个人计算机，intel、AMD、高通、微软都将CPU+GPU+NPU的本地异构算力作为AI PC定义的必要条件。这种融合多种处理核心的混合架构，能够最大限度地发挥不同硬件的长处优势，为AI计算带来卓越的综合性能。

但是NVIDIA表示不服，它认为有了RTX独立显卡才是真AI PC！

当然，NVIDIA绝对有底气来挑战AI PC的定义，因为在AI时代，算力是至关重要的，目前大多数NPU都是与CPU和集成显卡芯片一体化设计，功耗受到一定限制，使用场景主要围绕持续低负载的AI任务，如视频会议增强、图像处理等，算力通常在10-45TOPS的范围。

相比之下，英伟达凭借多年来在GPU研发上的深耕细作，推出了堪称"地表最强"的RTX系列显卡。单张RTX显卡的AI加速能力即可轻松突破100TOPS，旗舰型号更是高达1300+TOPS的骇人水准，完全能够承载本地的大型语言模型等复杂AI工作负载。

此外，英伟达在AI软件生态建设上也未馀遗力。全球范围内已有125+款RTX加速的AI应用横跨图像/视频编辑、3D建模渲染等多个领域，可为创作者和开发者带来高达10倍的性能提升。配合英伟达独有的AI SDK，开发者能够最大限度地挖掘RTX显卡的AI加速潜能。

不可否认，NPU的确凭借低功耗设计在持续性AI任务上表现出众，但要论及极致算力和通用AI应用加速，英伟达RTX系列仍是当前无可匹敌的王者级方案。在终端AI的蓬勃发展时代，硬件供应商们在推进异构架构整合的同时，也将在算力大战中激烈竞逐。

人工智能芯片：概念内涵及其重要性

在可预见的未来几年，人工智能将在国家和国际安全中发挥重要作用。因此，美国政府正在考虑如何控制人工智能相关信息和技术的传播。由于难以对通用人工智能软件、数据集和算法进行有效管控，现代智能系统所需的计算机硬件自然成为关注重点。领先的、专业的“人工智能芯片”对于经济、高效地大规模应用人工智能至关重要。对此，美国乔治敦大学安全与新兴技术中心（Center for Security and Emerging Technology，CSET） 发布报告《人工智能芯片：概念内涵及其重要性》，重点介绍何为人工智能芯片，为什么其对于大规模开发和部署人工智能不可或缺，并分析人工智能对国家竞争力的影响。

一、产业发展青睐人工智能芯片而非

通用芯片

（一）芯片创新的规律

包括通用的中央处理器（Central Processing Unit，CPU）、专用芯片（如人工智能芯片）在内的所有计算机芯片的发展都得益于较小的晶体管，相比于较大的晶体管，前者运行更快，功耗更少。不过，至少在21世纪头10年，尽管晶体管的尺寸收缩速度很快，并带来了巨大的速度和效率提升，专用芯片的设计价值仍然很低，通用CPU占据主导位置。

随着缩小晶体管的技术不断发展，芯片中的晶体管密度持续增加。20世纪60年代，摩尔定律指出，芯片中的晶体管数量大约每两年翻一番。遵从该定律，CPU速度得到了极大的提高。晶体管密度增加对速度的提升主要通过“频率缩放”（frequency scaling）来实现，即晶体管在开（1）和关（0）状态之间切换得更快，从而允许给定的执行单元在每秒进行更多计算。此外，晶体管尺寸的减小降低了每个晶体管的功耗，使芯片的效率也获得了很大的提高。

随着晶体管的缩小和密度的增加，新的芯片设计成为可能，新的芯片运行效率和速度得到进一步提升。CPU可以集成更多不同类型的执行单元，这些执行单元能够针对不同功能进行优化。同时，更多的片上存储器可以减少对片外存储器的需求，从而提升访问速度。此外，CPU可以为实现并行而非串行计算的架构提供更多空间。与此相关的是，如果晶体管密度的增加使得CPU更小，那么单个设备可以容纳多个CPU，实现同时运行不同的计算。

（二）摩尔定律的减慢与通用芯片的衰落

随着晶体管缩小到只有几个原子大小，其尺寸正迅速接近绝对下限，小尺寸下的各种物理问题也使得进一步收缩晶体管尺寸在技术上更具挑战性。这使得半导体行业的资本支出和人才成本以不可持续的速度增长，新芯片制程技术节点的引入速度比过去更慢。因此，摩尔定律正在放缓，也就是说，晶体管密度翻倍所需的时间越来越长。

在通用芯片占主导地位的时代，其成本可分散在销售的数百万个芯片中。而专用芯片虽然实现了针对特定任务的改进，但无法依靠足够的销量来弥补高昂的设计成本，其计算优势很快就被下一代CPU抹去了。如今，摩尔定律的放缓意味着CPU不再快速改进，通用芯片的规模经济效应遭到破坏。与此同时，一方面，半导体能力的关键改进已经从制造驱动转向设计和软件驱动；另一方面，人工智能应用需求不断增长，需要依托专用芯片实现高度可并行、可预测的计算。

这些因素驱动芯片向人工智能专用化方向发展，促使人工智能芯片夺取CPU的市场份额。

二、人工智能芯片的主要特征

人工智能芯片是一种常见的专用芯片，具有一些共同的特点。一是与CPU相比，人工智能芯片可以并行执行更多计算；二是能够采用低精度计算模式成功实现人工智能算法，但同时减少相同计算所需的晶体管数量；三是通过将整个算法存储在单个人工智能芯片中来加速内存访问；四是使用专门的编程语言来有效地翻译人工智能计算机代码，以便在人工智能芯片上执行。需要阐明的是，人工智能芯片是计算机芯片的特定类型，能够高效、高速实现人工智能计算，代价是在其他通用计算中只能以较低的效率和速度运行。

人工智能芯片包括三种类型：图形处理器（GPU）、现场可编程逻辑门阵列（FPGA）和专用集成电路（ASIC）。GPU最初用于图像处理。2012年，GPU开始越来越多地用于训练人工智能系统，这种应用从2017年起占据主导地位。GPU有时也用于推理。然而，尽管GPU可以提供比CPU更高程度的并行性，它仍然是为通用计算而设计的。相比于GPU，专用FPGA和ASIC效率更高，在推理方面的应用变得愈发突出，ASIC还越来越多地被用于训练。FPGA包括很多逻辑块（即包含一组晶体管的模块），逻辑块之间的互连可以在芯片制造后由程序员重新配置以适应特定算法，而ASIC则包括为特定算法定制的硬连线电路。前沿的ASIC通常能比FPGA提供更高的效率，而FPGA则比ASIC更具定制化能力，能够随着算法的发展促进设计优化。相比之下，ASIC则只能随着算法的迭代变得越来越过时。

机器学习是一种实现人工智能的重要方法，主要涉及到训练（Training）和推断（Inference）。简单来说，训练也就是搜索和求解模型最优参数的阶段。当模型参数已经求解出来，使用和部署模型，则称为推理。考虑到训练和推理中每项任务对芯片的要求不同，二者可能采用不同的人工智能芯片。首先，训练与推理需要不同形式的数据并行和模型并行，在一些相同的计算步骤基础上，训练还需要一些额外的计算步骤。其次，训练实际上总是受益于数据并行，但推理并非如此，例如有时可能只需要对单个数据块执行一次推理。最后，根据应用场景的不同，效率和速度对于训练和推理的相对重要性可能会有所不同。

人工智能芯片的商业化取决于其通用能力的程度。GPU早已被广泛商业化，FPGA的商业化程度较低。同时，ASIC设计成本高，专业化特征导致低销量，比较难以商业化。不过，人工智能芯片的预计市场规模增长可能会创造必要的规模经济效应，从而使应用更窄的ASIC盈利。

人工智能芯片依据性能的不同，可以分为不同的等级。在高性能领域，服务器级人工智能芯片通常用于高性能的数据中心，并且在封装后比其他人工智能芯片更大。中等性能的芯片是消费者常用的个人计算机人工智能芯片。在低性能领域，移动人工智能芯片通常用于推理，并集成到一个还包含CPU的芯片系统中。

三、为什么人工智能需要尖端的人工

智能芯片

人工智能芯片的效率和速度通常比CPU高10—1000倍。一个效率是CPU 1000倍的人工智能芯片提供的改进效果相当于26年摩尔定律驱动的CPU改进效果。

（一）从成本—效益视角分析使用尖端人工智能芯片是否有效

前沿人工智能系统需要的不仅是人工智能芯片，还是最先进的人工智能芯片。普通芯片体积更大、运行更慢、耗能更高，导致人工智能模型训练过程中，功耗成本将迅速膨胀到无法承受的水平。

通过对比尖端人工智能芯片（7纳米或5纳米）与普通芯片（90纳米或65纳米）的成本，可得出两大结论。在生产和运营成本方面，使用尖端人工智能芯片会比普通芯片节约更多的经济成本。因为普通芯片使用2年后耗费的电费成本将会是芯片本身成本的3—4倍，并且随着时间推移还将逐年增加。而尖端人工智能芯片耗费的电费成本刚刚超过芯片本身的成本。其次，据估计，生产和运行5纳米芯片的成本需要8.8年才能与7纳米的成本持平。因此，在8.8年以下，7纳米芯片更便宜，而在8.8年以上，使用5纳米芯片更便宜。因此，只有当用户预计使用5纳米节点芯片8.8年时，他们才有动力更换现有的7纳米节点芯片。

通常来说，企业会在运营大约三年后更换服务器级芯片，但是如果购买5纳米芯片，他们可能会期望更长的使用时间，所以市场需求的放缓也与摩尔定律正在放缓的规律相匹配。由此预测，3纳米芯片可能在很长一段时间内都不会推出。

（二）芯片成本和速度是计算密集型人工智能算法的瓶颈

企业在人工智能相关计算上花费的时间和金钱已成为该技术进步的瓶颈。鉴于尖端人工智能芯片比旧版芯片或尖端CPU更具成本效益和速度，人工智能企业或实验室需要此类芯片来继续推动智能技术进步。

首先，DeepMind开发了一系列领先的人工智能应用（如AlphaGo），有的训练成本甚至高达1亿美元。OpenAI报告称，其2017年总成本为2800万美元，其中有800万美元用于云计算。如果用旧版人工智能芯片或尖端CPU来运行计算，则计算成本会乘以30甚至更多，这将使此类人工智能训练或实验在经济上令人望而却步。计算成本增长如此之快，可能很快就会达到上限，因此需要最高效的人工智能芯片。

其次，领先的人工智能实验可能需要数天甚至一个月的训练时间，而部署的关键人工智能系统通常需要快速或实时的推理。使用旧版人工智能芯片或尖端CPU将极大地增加这些时间，使人工智能研发所需的迭代速度以及部署的关键人工智能系统的推理速度慢得令人无法接受。

以上分析的一个局限是，最近的一些人工智能突

相关问答

AI芯片有什么用?

AI芯片,又称AI加速器或AI计算芯片,是一种专门设计用于执行人工智能(AI)计算任务的集成电路。这些芯片可以加速机器学习、深度学习和其他AI算法的应用,从而...

Ai芯片的特性?

从广义上讲,能运行AI算法的芯片都叫AI芯片。目前通用的CPU、GPU、FPGA等都能执行AI算法,只是执行效率差异较大。但狭义上讲一般将AI芯片定义为“专门针对AI...

ai龙头芯片股票有哪些?-股票知识问答-我爱卡

[回答]ai龙头芯片股票有:1、富瀚微(300613)。主营业务是数字信号处理芯片的研究和销售。2、华西股份(000936)。主要业务是研发“云+人工智能”的力量,专注...

AI芯片行业的基本知识?

有关AI芯片行业的基本知识包括以下几点:人工智能的定义和发展历程:人工智能(AI)是一种让计算机自主学习和智能决策的技术。自20世纪50年代以来,人工智能经...

ai芯片和soc芯片的区别?

AI芯片也被称为AI加速器或计算卡,即专门用于处理人工智能应用中的大量计算任务的模块(其他非计算任务仍由CPU负责)。当前,AI芯片主要分为GPU、FPGA、ASIC...

手机芯片是什么-ZOL问答

手机芯片是指手机中的中央处理器,也被称为CPU。它是手机的核心组件之一,负责处理和运算各种数据。手机芯片通常由微小的电子元件构成,如晶体管、电阻器和电容...

为什么AI人工智能手机的芯片必须是AI芯片?

为什么要给智能手机专门加入一枚AI芯片?原因其实很简单。不管是手机、笔记本还是台式机的处理器,都并不是为机器学习任务所特别设计的。如果强行让它们去处理...

英伟达ai芯片和cpu的区别?

英伟达AI芯片与CPU之间存在多个显著的区别。首先,从结构上看,英伟达AI芯片采用专门的神经网络架构,而CPU则使用通用的结构设计。这种专门的神经网络架构使得A...

华为的麒麟ai芯片对比骁龙系列的芯片有什么区别?ai芯片有什么用?

主要是学习机主使用习惯刚开始的时候你可能感觉970的机器用起来不那么好慢慢的你会发现它越来越顺畅越来越省点另外一个就是识别场景和物体文字在照相...

ai需要芯片吗?

需要。AI需要全新的芯片,绘图芯片巨擘Nvidia的「Volta」芯片,内建210亿颗电晶体,就是能创造新工具、新需求的怪兽。不过,他不愿意透露细节。应材的半导体设备...