很可惜 T 。T 您现在还不是作者身份，不能自主发稿哦～
如有投稿需求，请把文章发送到邮箱admin@aa.com，一经录用会有专人和您联系
咨询如何成为春羽作者请联系：方以类聚网小羽毛
电子发烧友网报道（文/梁浩斌）去年年底，推理多家大厂爆出开发数据中心ASIC芯片的火的消息，包括传闻苹果与博通合作开发面向AI推理的发成ASIC，亚马逊也在年底公布了其AIASIC的推理应用实例，展示出ASIC的火的应用性价比远超GPU，加上博通财报AI业务同比大增220%，发成掀起了AI推理端的推理ASIC热潮。
那么ASIC跟传统的火的GPU有哪些区别，开发上又有哪些流程上的发成不同？
ASIC和GPU
通用GPU在设计之初就为了适配更多使用场景，在AI应用上，推理GPU支持训练、火的推理、发成通用计算等全流程，推理以英伟达GPU为例，火的通过CUDA生态，发成英伟达GPU能够快速适配新的算法，比如从Transformer到CNN的迁移，只需要修改30%左右的代码。
相比通用GPU，ASIC是专为满足特定应用而设计的芯片，针对特定应用的特定算法进行硬件级别的优化，尤其在AI应用中，比如运行矩阵乘法、张量计算等任务，能够相比GPU效率更高。
比如谷歌TPU就是一款ASIC，采用脉动阵列设计，通过固化数据流水线减少内存访问次数，能效比达GPU的3.2倍。
相比之下GPU使用通用计算单元处理多种任务，为了满足不同类型的计算需求，必然需要存在计算冗余。
GPU由于架构的特性，一般会在AI计算中保留图形渲染、视频编解码等功能模块，但在AI计算中这些模块大部分处于闲置状态。有研究指出，英伟达H100GPU上有大约15%的晶体管是未在AI计算过程中被使用的。
同时，在计算流程上，GPU在处理AI计算任务时是需要通过CUDA软件栈进行任务调度，比如矩阵乘法的运行时需要经过内存加载、指令分发、TensorCore计算、结果回写等多个步骤。
而在ASIC上，可以通过硬件级的流水线固化数据流，能够减少计算流程步骤，提高运算效率。在减少计算流程的同时，ASIC对内存访问模式的优化，还能有助于降低内存控制器的功耗。
AI计算中，低精度是以损失部分准确率为代价，通过量化压缩数据来提高推理速度。目前AI推理中INT8/FP16的精度，GPU一般支持FP32/FP64等高精度计算，在混合精度训练中，GPU还需要额外的显存来转换成低精度结果，同样的芯片，在运行高精度和低精度的算力也不同。
尽管精度的选择本质上是准确性和效率的取舍，但AI推理等应用中，对精度的需求并不需要极致的接近100%，但仍能保持较高的水准。ASIC一般直接支持低精度计算，在AI计算时的效率能够相比GPU大幅提高，但保持一定的准确率。比如有数据显示，TikTok的推荐算法系统采用INT8精度，但依然保持了接近99%的推荐准确率。
所以，ASIC相比GPU，在硬件架构上可以针对专有应用进行特定优化，提高计算效率和降低功耗。在成本方面，ASIC在规模量产的情况下可以降至GPU的三分之一，但前期开发成本仍不能忽视。
可能大家也发现，目前定制开发高算力ASIC的厂商，无一例外是云计算大厂，本身公司业务就有极大规模的算力需求。ASIC定制费用，主要是开发过程中的一次性工程费用，也被业内称为NRE（Non-RecurringEngineering）。顾名思义，NRE费用只需要支出一次，后续规模生产中不需要再增加这部分费用。
NRE费用中，包含芯片设计的成本，比如研发人员薪酬、EDA工具授权费等，这与芯片使用的制程工艺、芯片本身的复杂程度相关；然后是版图设计成本，其实这里的概念跟芯片设计的成本类似，主要是涉及芯片的物理布局设计，需要特定的研发人员和软件支持；再是IP授权费用，一般是一些通用的IP，比如CPUIP、内存控制器、接口IP等。
以定制一款采用5nm制程的ASIC为例，NRE费用可以高达1亿至2亿美元。然而一旦能够大规模出货，NRE费用就可以很大程度上被摊薄。
此前有业内人士分析，中等复杂程度的ASIC盈亏平衡点在10万片左右，这对于很多厂商来说已经是遥不可及。
ASIC开发流程
在开发ASIC时，最关键的是以算法架构为主导，围绕这一方面去进行其他工作。
首先是进行需求定义，要明确ASIC的目标场景是什么，比如推理还是训练？端侧还是云端？用到CNN还是Transformer？在AI领域，定制ASIC的往往是云计算大厂，这些厂商一般会有顶尖的架构师去进行充分考虑，未来可能的应用、效率、成本、技术可行性等都会包含在内，同时平衡性能、成本、功耗等关键指标。当然也有一些芯片厂商推出针对某些应用场景的ASIC产品。那么在前期产品定义就十分关键，有时候还需要开发针对应用场景的算法配合自己的芯片产品使用。
接下来是最关键的算法和架构优化，需要对行业发展趋势有足够认知，选择适合的算法进行优化，保证算法与硬件架构适配，通过仿真测试验证。
然后设计ASIC的整体架构，比如功能模块的划分和模块之间的互连，以及接口等IP的使用。
在前端设计中，使用VHDL或Verilog等硬件描述语言对设计进行编码，然后将编码转换为门级网表，对其进行优化满足芯片面积和性能要求。
进入后端设计后，需要将门级网表映射到具体的芯片物理结构上，进行布局和布线。
完成模块布局和布线后，就可以开始进行FPGA验证，测试ASIC设计的功能是否满足需求。随后完成流片、测试后就可以投入大规模生产。
总的来说，ASIC的开发中，硬件和软件的协同是其成功的关键，在拥有强大的芯片性能同时，还要筑建完整的软件生态，吸引更多用户使用。
当然，在ASIC量产进入市场后，软件栈开发也是相当重要的，需要编译器将TensorFlow和PyTorch等机器学习模型映射到硬件指令上，在生态上也需要支持更多主流的框架，以尽可能满足更多使用需求。
本文为作者独立观点，不代表方以类聚网立场，未经允许不得转载。
我们致力于提供一个高质量内容的交流平台。为落实国家互联网信息办公室“依法管网、依法办网、依法上网”的要求，为完善跟帖评论自律管理，为了保护用户创造的内容、维护开放、真实、专业的平台氛围，我们团队将依据本公约中的条款对注册用户和发布在本平台的内容进行管理。平台鼓励用户创作、发布优质内容，同时也将采取必要措施管理违法、侵权或有其他不良影响的网络信息。
一、根据《网络信息内容生态治理规定》《中华人民共和国未成年人保护法》等法律法规，对以下违法、不良信息或存在危害的行为进行处理。
1. 违反法律法规的信息，主要表现为：
1)反对宪法所确定的基本原则；
2)危害国家安全，泄露国家秘密，颠覆国家政权，破坏国家统一，损害国家荣誉和利益；
3)侮辱、滥用英烈形象，歪曲、丑化、亵渎、否定英雄烈士事迹和精神，以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉；
4)宣扬恐怖主义、极端主义或者煽动实施恐怖活动、极端主义活动；
5)煽动民族仇恨、民族歧视，破坏民族团结；
6)破坏国家宗教政策，宣扬邪教和封建迷信；
7)散布谣言，扰乱社会秩序，破坏社会稳定；
8)宣扬淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪；
9)煽动非法集会、结社、游行、示威、聚众扰乱社会秩序；
10)侮辱或者诽谤他人，侵害他人名誉、隐私和其他合法权益；
11)通过网络以文字、图片、音视频等形式，对未成年人实施侮辱、诽谤、威胁或者恶意损害未成年人形象进行网络欺凌的；
12)危害未成年人身心健康的；
13)含有法律、行政法规禁止的其他内容；
2. 不友善：不尊重用户及其所贡献内容的信息或行为。主要表现为：
1)轻蔑：贬低、轻视他人及其劳动成果；
2)诽谤：捏造、散布虚假事实，损害他人名誉；
3)嘲讽：以比喻、夸张、侮辱性的手法对他人或其行为进行揭露或描述，以此来激怒他人；
4)挑衅：以不友好的方式激怒他人，意图使对方对自己的言论作出回应，蓄意制造事端；
5)羞辱：贬低他人的能力、行为、生理或身份特征，让对方难堪；
6)谩骂：以不文明的语言对他人进行负面评价；
7)歧视：煽动人群歧视、地域歧视等，针对他人的民族、种族、宗教、性取向、性别、年龄、地域、生理特征等身份或者归类的攻击；
8)威胁：许诺以不良的后果来迫使他人服从自己的意志；
3. 发布垃圾广告信息：以推广曝光为目的，发布影响用户体验、扰乱本网站秩序的内容，或进行相关行为。主要表现为：
1)多次发布包含售卖产品、提供服务、宣传推广内容的垃圾广告。包括但不限于以下几种形式：
2)单个帐号多次发布包含垃圾广告的内容；
3)多个广告帐号互相配合发布、传播包含垃圾广告的内容；
4)多次发布包含欺骗性外链的内容，如未注明的淘宝客链接、跳转网站等，诱骗用户点击链接
5)发布大量包含推广链接、产品、品牌等内容获取搜索引擎中的不正当曝光；
6)购买或出售帐号之间虚假地互动，发布干扰网站秩序的推广内容及相关交易。
7)发布包含欺骗性的恶意营销内容，如通过伪造经历、冒充他人等方式进行恶意营销；
8)使用特殊符号、图片等方式规避垃圾广告内容审核的广告内容。
4. 色情低俗信息，主要表现为：
1)包含自己或他人性经验的细节描述或露骨的感受描述；
2)涉及色情段子、两性笑话的低俗内容；
3)配图、头图中包含庸俗或挑逗性图片的内容；
4)带有性暗示、性挑逗等易使人产生性联想；
5)展现血腥、惊悚、残忍等致人身心不适；
6)炒作绯闻、丑闻、劣迹等；
7)宣扬低俗、庸俗、媚俗内容。
5. 不实信息，主要表现为：
1)可能存在事实性错误或者造谣等内容；
2)存在事实夸大、伪造虚假经历等误导他人的内容；
3)伪造身份、冒充他人，通过头像、用户名等个人信息暗示自己具有特定身份，或与特定机构或个人存在关联。
6. 传播封建迷信，主要表现为：
1)找人算命、测字、占卜、解梦、化解厄运、使用迷信方式治病；
2)求推荐算命看相大师；
3)针对具体风水等问题进行求助或咨询；
4)问自己或他人的八字、六爻、星盘、手相、面相、五行缺失，包括通过占卜方法问婚姻、前程、运势，东西宠物丢了能不能找回、取名改名等；
7. 文章标题党，主要表现为：
1)以各种夸张、猎奇、不合常理的表现手法等行为来诱导用户；
2)内容与标题之间存在严重不实或者原意扭曲；
3)使用夸张标题，内容与标题严重不符的。
8.「饭圈」乱象行为，主要表现为：
1)诱导未成年人应援集资、高额消费、投票打榜
2)粉丝互撕谩骂、拉踩引战、造谣攻击、人肉搜索、侵犯隐私
3)鼓动「饭圈」粉丝攀比炫富、奢靡享乐等行为
4)以号召粉丝、雇用网络水军、「养号」形式刷量控评等行为
5)通过「蹭热点」、制造话题等形式干扰舆论，影响传播秩序
9. 其他危害行为或内容，主要表现为：
1)可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好影响未成年人身心健康的；
2)不当评述自然灾害、重大事故等灾难的；
3)美化、粉饰侵略战争行为的；
4)法律、行政法规禁止，或可能对网络生态造成不良影响的其他内容。
二、违规处罚
本网站通过主动发现和接受用户举报两种方式收集违规行为信息。所有有意的降低内容质量、伤害平台氛围及欺凌未成年人或危害未成年人身心健康的行为都是不能容忍的。
当一个用户发布违规内容时，本网站将依据相关用户违规情节严重程度，对帐号进行禁言 1 天、7 天、15 天直至永久禁言或封停账号的处罚。当涉及欺凌未成年人、危害未成年人身心健康、通过作弊手段注册、使用帐号，或者滥用多个帐号发布违规内容时，本网站将加重处罚。
三、申诉
随着平台管理经验的不断丰富，本网站出于维护本网站氛围和秩序的目的，将不断完善本公约。
如果本网站用户对本网站基于本公约规定做出的处理有异议，可以通过「建议反馈」功能向本网站进行反馈。
(规则的最终解释权归属本网站所有)
评论
