国内互联网大厂自研芯片梳理

# 国内互联网大厂自研芯片梳理

## 1.1 阿里巴巴

**平头哥半导体有限公司** 于 2018 年 9 月宣布成立，是阿里巴巴集团的全资半导体芯片业务主体。平头哥拥有端云一体全栈产品系列，涵盖数据中心芯片、IoT 芯片等，实现芯片端到端设计链路全覆盖。

2019 年 9 月 25 日的杭州云栖大会上，阿里巴巴第一颗自研芯片正式问世。**含光 800 推理性能达到 78563IPS**，比 2019 年业界最好的 AI 芯片性能高 4 倍；能效比 500IPS/W，是第二名的 3.3 倍。含光 800 性能的突破得益于软硬件的协同创新：硬件层面采用自研芯片架构，通过推理加速等技术有效解决芯片性能瓶颈问题；软件层面集成了达摩院先进算法，针对 CNN 及视觉类算法深度优化计算、存储密度，可实现大网络模型在一颗 NPU 上完成计算。

![img](https://yg9538.kmgy.top/202404060940002.png)

在 2021 年 10 月 19 日云栖大会上，平头哥发布旗下首颗 Arm 服务器芯片**倚天 710**。倚天 710 由平头哥自主设计研发，采用先进架构，具备高性能、高能效、高带宽等特点，性能业界领先。该芯片采用 2.5D 封装，分为两个 DIE，总计 600 亿晶体管。包含 128 个 Armv9 高性能 CPU 核，每个 CPU 核心配置 64KB 一级指令缓存，64KB 一级数据缓存，以及 1MB 二级缓存，片上集成 128MB 系统缓存。内存子系统配置 8 通道 DDR5，峰值总带宽达到 281GB/s ，1/0 子系统含 96 通道 Pcle5.0，双向理论总带宽达到 768GB/s。截至 2023 年，**该芯片已在阿里云数据中心规模化部署，算力性价比提升超 30%，已服务数千家电商、短视频、在线教育等领域客户。**

![img](https://yg9538.kmgy.top/202404060940143.png)

**倚天 710**

![](https://yg9538.kmgy.top/202404060940019.png)

**羽阵 600 芯片架构**

同时在该会上发布的还有 RFID 电子标签芯片**羽阵 600**，这是一款面向物联网场景的感知芯片，它具备高读取灵敏度、全方位读取以及强环境适应性等特征，适用于智慧物流、智慧仓储、智慧零售、资产管理等场景。目前该芯片已在菜鸟物流场景规模化应用。

2022 年 11 月的国际物联网展上，平头哥发布面向万物互联场景的超高频 RFID 电子标签芯片**羽阵 611 和羽阵 612**。两款芯片性能、稳定性、一致性和环境适应性均达到业界领先水平，可满足商超零售、智慧物流、供应链、航空包裹跟踪、资产管理等复杂场景下的高识别率要求。**羽阵 611 是一款单端口芯片，灵敏度达到业界领先的-24dBm，配合全自动阻抗调谐，适用于商超零售、智慧物流、供应链、航空包裹跟踪、资产管理等多种场景，大幅提升生产和盘点效率**；羽阵 612：采用双端口全向天线设计，灵敏度达到-24dBm，具备更好的通用性，能够满足货物堆叠、遮挡等复杂场景的需求。

![img](https://yg9538.kmgy.top/202404060940221.png)

2023 年 11 月 1 日，在 2023 云栖大会上，阿里巴巴平头哥发布旗下首颗 SSD 主控芯片**镇岳 510**，该芯片为云计算场景深度定制，实现 4μs 超低时延，比业界主流降低 30%以上，误码率低至 10-18，比业内标杆领先一个数量级。**镇岳 510 将率先在阿里云数据中心部署，可应用于 AI、在线交易、大数据分析、高性能数据库、软件定义存储等业务场景。**镇岳 510 集成了多项创新技术，使用平头哥自研芯片架构，采用 RISC-V 架构玄铁 910 多核 CPU 系统，内置大量自研硬件加速模块，有效平衡性能与功耗；在内存和接口方面，支持业界最领先的 DDR5、PCIe 5.0 技术，大幅提升芯片的数据吞吐速率；在可靠性方面，通过自研 LDPC 纠错算法与介质电压预测算法，误码率比业内标杆领先 1 个数量级。**此次镇岳 510 的问世，意味着平头哥的芯片产品家族从算力扩展到了存力领域，进一步为云计算行业提供高性价比的技术底座。**

## 1.2 腾讯

2021 年 11 月 3 日，在位于武汉的腾讯数字生态大会上，腾讯宣布已在三款自研芯片上取得进展，分别是 AI 推理芯片“紫霄”、视频转码芯片“沧海”和智能网卡芯片“玄灵”。

**紫霄 AI 推理芯片** 最显著的特点是**结合图片和视频处理、自然语言处理、搜索推荐等场景**，通过采用 2.5D 封装技术合封 HBM2e 内存与 AI 核心，以及**在芯片内部增加计算机视觉 CV 加速器和视频编解码加速器等创新措施**，对芯片架构进行了优化，打破了制约芯片算力发挥的瓶颈点。

**沧海转码芯片** 在算法上完整实现了**高精度运动搜索、全率失真优化、高效自适应量化等所有主流编码工具，并融合了腾讯云软件编码器码率控制等方面的领先技术**；同时，沧海通过灵活的多核扩展架构、高性能编码流水线、层级化 Memory 布局等技术，也能够有效满足业务高吞吐、低时延和实时的要求。

**玄灵智能网卡芯片** 则定位于**云主机的性能加速，结合 CVM/BM/容器等场景优化芯片架构，将原来运行在主 CPU 上的虚拟化、网络/存储 IO 等功能下移到芯片，实现了主 CPU 的 0 占用。**

![img](https://yg9538.kmgy.top/202404060941873.png)

腾讯公司副总裁、云与智慧产业 COO 兼腾讯云总裁邱跃鹏表示，AI 推理芯片紫霄的性能相比业界提升 100%，2021 年已经流片成功并顺利点亮；视频转码芯片沧海的压缩率相比业界提升 30%以上；智能网卡芯片玄灵的性能相比业界产品提升 4 倍。之外，腾讯还将通过生态共建，与国内外芯片企业保持深度战略合作，把芯片的定制化能力和软件的定制化能力结合起来，获得最优的性能和最佳的性价比，确保给客户提供更多元化和更适配的选择。

![img](https://yg9538.kmgy.top/202404060941643.png)

**腾讯在自研芯片领域的研发和应用正在不断加速：视频编解码芯片“沧海”，已经量产并投用数万片，并在云游戏、直点播等场景中，面向腾讯自研业务和公有云客户提供服务。**2023 年 4 月，在莫斯科国立大学举办的 MSU 硬件视频编码比赛中，腾讯沧海芯片包揽了所参加的两个赛道 8 项评分的全部第一，遥遥领先于行业 GPU 等标品硬件。沧海芯片已在业务场景中投用数万片，服务腾讯自研业务及公有云客户。高性能网络芯片“玄灵”，采用自研的网络、存储、计算加速方案，实现主机 CPU 的“0”占用及高达 4 倍的性能提升，助力打造下一代高性能网络基础设施。自研 AI 推理芯片“紫霄”，已经量产并在多个头部业务落地，目前在腾讯会议实时字幕上已实现全量上线，单卡紫霄机器负载可达到 T4 的 4 倍，并将超时率从 0.005%降低至 0。

![img](https://yg9538.kmgy.top/202404060941563.png)

![img](https://yg9538.kmgy.top/202404060941062.png)

## 1.3 百度

在 2018 百度 AI 开发者大会上，百度面向开发者发布了中国首款云端全功能 AI 芯片“昆仑”，**包含训练芯片“昆仑 818-300”和推理芯片“昆仑 818-100”**。除了常用深度学习算法等云端需求，还能适配诸如自然语言处理、大规模语音识别、自动驾驶、大规模推荐等具体终端场景的计算需求。2019 年下半年芯片流片成功。截至目前，实现量产的百度昆仑 1 已在百度搜索引擎及云计算用户部署 2 万片。

![img](https://yg9538.kmgy.top/202404060941415.png)

2021 年 4 月，前身为百度智能芯片及架构部的昆仑芯（北京）科技有限公司完成独立融资，首轮估值约 130 亿元。公司团队在国内最早布局 AI 加速领域，深耕十余年，是一家在体系结构、芯片实现、软件系统和场景应用均有深厚积累的 AI 芯片企业。

2021 年百度世界大会上，百度宣布自主研发的第二代百度昆仑 AI 芯片——**昆仑芯 2** 实现量产，昆仑芯 2 采用 7nm 制程，搭载自研的第二代 XPU 架构，相比一代性能提升 2-3 倍，适用云、端、边等多场景，可应用于互联网、智慧城市、智慧工业等领域，还将赋能高性能计算机集群、生物计算、智能交通、自动驾驶等更广泛空间。值得一提的是，百度昆仑 AI 芯片针对语音、自然语言处理、图像等 AI 技术专门优化，支持飞桨等深度学习框架，使得 AI 模型计算效率更高、效果更好。

## 1.4 字节跳动

2023 年 8 月 22 日， **火山引擎视频云&AIGC 大会以“视象新生”为主题， 发布 了自研的视频编解码芯片。**经验证， 此次大会发布的火山引擎自研视频编解码芯 片，其压缩效率相比行业主流硬件编码器提升 30%以上， **可应用于视频点播、直 播、图像压缩、 XR 等业务场景。与具备通用计算能力的 CPU 芯片相比，火山引 擎自研芯片仅支持视频编解码任务，因此能够在视频处理场景具备更高的计算密 度。**一台芯片服务器的转码能力与百台 CPU 服务器相当。简单来说， 在 4K/8K 超 高清、高帧率场景中，相对软件编码，火山引擎这款视频编解码芯片能实现低延 时的高质量转码，针对观看人数比较小的中长尾直播，可以节省大量算力成本。 用户端的感受则是更高质的画面和更低延时。

火山引擎硬件编码能力此前在世界编码器大赛 MSU 中夺得多项第一，达到 行业领先水平。此次自研视频编解码芯片的发布， 有望大幅提升 4K 超高清应用 场景的编码速度，保证较高的视频主客观质量，大幅降低 4K 编码计算成本，推 动更多 4K 应用的不断普及。

风险提示：自研芯片进展不及预期的风险。

# 国外AI自研芯片

## 2.1 微软

在微软 Ignite 2023 技术大会上，微软推出了两款自研的 AI 芯片：**Microsoft Azure Maia 和 Azure Cobalt**。Azure Maia 是一款 AI 加速器芯片，用于 OpenAI 模型、Bing、GitHub Copilot 和 ChatGPT 等 AI 工作负载的云端训练和推理。Azure Cobalt 是基于 Arm 架构的云原生芯片，优化了通用工作负载的性能、功率和成本效益。Maia 100 作为系列的第一代产品，拥有 1050 亿个晶体管，是采用 5nm 制程技术的最大芯片之一。

这些芯片预计将在明年初开始在微软数据中心投入使用，为 Microsoft Copilot 和 Azure OpenAI Service 等服务提供动力。

![img](https://yg9538.kmgy.top/202404060941968.png)

## 2.2 谷歌自研TPU芯片

谷歌在 2016 年 I/O 大会上发布了 TPU（Tensor Processing Unit），专门为机器学习和 Tensorflow 量身定做的芯片。随后，谷歌又发布了 TPU v2、TPU v3，并在 2021 年发布了 **TPU v4，提供了千万亿次级的机器学习性能。**

**2023 年 12 月，作为 v4 TPU 的继任者， TPU v5p 发布。**v5p 针对大规模训 练进行了优化， 并且是开发基础 LLM、扩散模型和生成式 AI  的领先平台。概括 来讲， v5p  可提供高达 v4  的性能的 2 倍，同时还能在 Pod  中容纳多出 2 倍 的 TPU（v4  中的最大切片是 6000 个，而 v4  中则为 3000 个），从而在 Pod  级 别实现高达 4 倍的性能。它还以更高的时钟频率（1.75Ghz  与 1.05Ghz）运行， 为大规模嵌入添加了 SparseCore，并将高带宽内存（HBM）容量提高至原来的 3 倍。

每个 **TPU v5p Pod  由多达 8960 个芯片组成**，使用最高带宽的芯片间连接 （每芯片 4800 Gbps）进行互连，确保快速传输速度和最佳性能。在 AI 性能方面， **TPU v5p 能够提供 459 teraFLOPS（每秒可执行 459 万亿次浮点运算）的 bfloat16  （16 位浮点数格式）性能或 918 teraOPS（每秒可执行 918 万亿次整数运算）的 Int8（执行 8 位整数） 性能， 支持 95GB 的高带宽内存， 能够以 2.76 TB/s 的速度 传输数据**。与 TPU v4 相比，新发布的 TPU v5p 具有两倍的 FLOPS（每秒浮点运算） 和三倍的高内存带宽提升，这在人工智能领域是令人惊叹的。

此外， 在模型训练方面， TPU v5p 在 LLM（大语言模型） 训练速度上显示出 2.8 倍的代际提升。Google 还挤出更多的计算能力，因为 TPU v5p“就每个 Pod 的 总可用 FLOP  而言，可扩展性比 TPU v4  高 4 倍”。

![img](https://yg9538.kmgy.top/202404060941661.png)

![img](https://yg9538.kmgy.top/202404060941456.png)

## 2.3 Meta自研AI芯片

2023 年 5 月，**Meta 发布其第一代基于 7nm 工艺的自研 AI 芯片 MTIA（MTIA v1）**，Meta 将该 AI 芯片称为 Meta Training and Inference Accelerator，简称 MTIA， 并将其描述为加速 AI 训练和推理工作负载的 AI 芯片“ 家族” 的一部分。 MTIA 是 一种 ASIC ，一种将不同电路组合在一块基板上的芯片，允许对其进行编程以并 行执行一项或多项任务。MTIA v1 基于 7 纳米工艺，可以从其内部 128 MB  内 存扩展到高达 128 GB。Meta 表示， **MTIA 可以专门用于处理与 AI  推荐系统相关 的工作，其计算性能和处理效率都胜过 CPU**。另外，在 Meta 设计的基准测试 中， MTIA 处理“低复杂性” ”和“ 中等复杂度” 的 AI 模型也比 GPU 更高效。

除了 MTIA ，Meta 还在开发另一种芯片来处理特定类型的计算工作负载。这 款芯片被称为 Meta 可扩展视频处理器（Meta Scalable Video Processor）， 简称 MSVP，它是 Meta 内部开发的第一个专用集成电路（ASIC）解决方案， **专为应对 视频点播和流播的处理需求而设计。 Meta 表示， 该公司的计划是最终将大部分 “稳定而成熟” 的视频处理工作负载转移给 MSVP，只对需要特定定制和“ 显著”提 高质量的工作负载使用软件视频编码。**Meta 还称，通过智能去噪和图像增强等 预处理方法，以及伪影去除和超分辨率等后期处理方法， MSVP 持续助力提高视 频质量。

![img](https://yg9538.kmgy.top/202404060942602.png)

![img](https://yg9538.kmgy.top/202404060942034.png)

# 总结

我们认为， 海内外互联网大厂在自研芯片领域的深入投入， 也能从侧面彰显 算力在人工智能发展中的重要地位， 伴随相关算力技术的持续发展， 人工智能整 个领域发展速度也有望持续加速，从而推动人工智能技术在千行百业的广泛落 地。