B站 × WAIC AI会客厅 Ascend / 昇腾 Semiconductor Systems

廖恒:芯片不是一层楼的战争

一部昇腾 910 到 950 的磨难史,也是一张全球芯片三十年的系统地图:当摩尔定律放缓、供应链被切开、AI 负载飞速变化,真正的竞争从单颗芯片上升为材料、制造、互联、编译器、模型与应用共同构成的“18 层宝塔”。

核心心法与宏观判断

先把这场 4 小时 38 分钟的芯片史与昇腾史压成四个可复述的判断。

1. 芯片竞争已经从“单点规格”变成“整座宝塔的协同”。 材料、器件、设备、制造、封装、芯片、互联、编译器、模型和应用彼此牵制;任何一层的约束,都可能迫使楼上楼下共同改写方案。

2. 昇腾的真正转折不是某一颗芯片,而是大前提变了。 910 时代拥有领先制造条件,却不知道 AI 如何变现;950 时代条件严苛,却从大模型、推理业务和超节点实践中得到了更清楚的设计依据。

3. 摩尔定律放缓以后,先进性要从“多少纳米”转向时间、能耗和系统。 当微缩不再持续降低成本、性能收益也变弱,堆叠、逻辑折叠、内存带宽、光互联和软件融合开始决定真实产出。

4. 最稀缺的人不是某一层的专家,而是能跨层定义正确问题的人。 一个看似不可能的目标,被拆成物理、化学、数学和工程子问题后才会变得可解;真正的领导力,是让团队把力气用在正确的题目上。

章节深度交互地图

左侧点选章节,中间看主线拆解,右侧切换术语工具箱。

关键概念卡片

每张卡对应访谈里的一个判断,可直接跳回音频。

产业史

垄断既提高效率,也会抽走创新氧气

当少数超大客户掌握大部分采购量,芯片供应商会同时失去利润和技术定义权。2000 年后的日落期,不只是泡沫破裂,也是产业权力结构改变的结果。

摩尔定律

微缩仍在继续,但经济性已经先掉队

摩尔定律原本同时改善成本、性能和能效;先进节点以后,成本不再持续下降、性能收益趋弱,能效成为仍然相对明确的收益。

τ 定律

换一道考题:从空间尺度转向时间尺度

如果“多少纳米”不再是唯一答案,就可以用电路时间、能耗、三维结构和系统堆叠重新定义先进性。τ 定律在访谈中被当作一种新尺度,而不是一句营销口号。

18 层宝塔

芯片位于连接地下室与上层软件的中段

楼下是材料、设备、工艺和封装,楼上是编译器、模型和应用。每层都有专家,但真正能把限制和机会跨层传递的人更稀缺。

模型—芯片协同

资源受限会逼出更高复杂度的算法选择

DeepSeek 的稀疏激活与长序列压缩被用来说明:当算力不像“大别墅”那样充裕,模型会主动用选择、压缩和复杂性换取计算效率。

推理系统

AI 芯片越来越像在卖内存和互联

训练、Prefill 与 Decode 的算力—带宽比例不同。推理解码经常首先受限于内存带宽;超节点又把小颗粒通信、同步和网络延迟推到核心位置。

系统路线

不要让单芯片和单机柜无限变胖

算力随面积按平方增长,而供电、内存和 I/O 只能从周边进出;机柜功耗继续翻倍,又会把散热和可靠性推向灾难性边界。因此要靠模块化与光互联扩展系统。

软件生态

改变群体习惯,比突破一项物理技术更难

CANN 不只要兼容既有 PyTorch 和模型生态,还要支持融合算子、先进编译和模型研究。开源的价值,是把低带宽的人际沟通变成任何人都能直接阅读的代码。

工程师

芯片首先要求靠谱,然后才谈天才

软件可以分钟级试错,芯片可能十八个月后才第一次按下“运行”。多轮投片、严谨验证、责任心和跨层好奇心,是简历与聪明无法替代的训练。

优先必听精彩时刻

时间不够时,先听这些判断密度最高的位置。

  1. 半导体为什么会经历十多年日落: 应用巨头的垄断、超大客户的定价权与芯片公司失去未来定义权,是同一条因果链。
  2. CPU 黄金时代的路线之争: VLIW、超标量、Alpha 处理器与 DEC 的消失,为今天 AI 处理器重新打开软硬件界面提供历史镜鉴。
  3. 摩尔定律到底哪里放缓: 成本、性能、能效三种收益被拆开,不再用一句“摩尔定律失效”含混带过。
  4. 18 层宝塔的完整进入: 芯片被放回材料、制造、软件、模型与应用组成的系统,跨层协同成为主角。
  5. DeepSeek 与 8:1 / 32:1 的房子类比: 资源约束如何逼出稀疏激活、长序列压缩和更强的 Vector 计算需求。
  6. 从 910 到 950: 从条件好但不知道未来,到条件困难却看清训练、推理和超节点的真实需求。
  7. 昇腾架构如何从业务反馈里演进: 推理解码、内存带宽、小颗粒通信、同构计算与融合算子依次出现。
  8. 开源为什么能提高系统沟通带宽: 代码让开发者与 AI Agent 直接读取设计,减少文档、NDA 和问题单形成的人为瓶颈。
  9. N² 算力与 4N 边界: 为什么单颗芯片、HBM、供电和 I/O 不能无限向一个封装里堆。
  10. 不抄作业的系统代价: 失去现成生态,换取架构与互联可以独立演进的长期能力。
  11. 芯片人才如何成长: 十八个月才验证一次、一次错误耗资巨大,决定了“靠谱”和反复投片比天才履历更重要。
  12. 7.2T 光模块与跨层直觉: 从折射率、温度和激光器失效率,推到 NPO、冗余光源与可维修系统设计。

术语与人物索引

技术词、系统名和易错 ASR 词汇的速查表。

昇腾 910 / 950

910 代表可使用领先制造条件、但 AI 商业路径仍模糊的阶段;950 则在供应受限下,直接围绕训练、推理和超节点的真实业务设计。

18 层宝塔

从材料、设备、工艺到芯片、编译器、模型与应用的层级隐喻。访谈没有机械枚举十八项,重点是跨层协同。

τ 定律 / Logic Folding

把评价重心从平面几何微缩转向时间、能耗和多层电子系统,通过堆叠与结构变化继续提高系统有效性能。

CANN

昇腾的软件栈,覆盖运行时、编译器、算子库和模型适配;既要兼容大众生态,也要支持高性能融合与研究工作流。

Cube / Tensor Core

面向矩阵、张量运算的计算单元。访谈以 Cube 与 Vector 算力比例说明不同模型和硬件约束如何协同。

Prefill / Decode

大模型推理的预填充与逐 Token 解码阶段。前者更偏算力,后者往往更受内存带宽和容量制约。

灵衢 / 超节点

把多颗芯片以低延迟、高带宽方式紧密协同的系统互联。真实挑战包括小颗粒通信、同步、网络层级和全套设备可控。

Mega-kernel / Fusion

把几十到上百个算子融合成更大的执行单元,减少启动、同步和数据搬运开销,是追求低延迟高吞吐的关键路径。

HBM

高带宽内存。访谈把它视为 AI 芯片成本与能力的核心部分:很多时候购买 GPU/NPU,本质上是在购买可用带宽。

NPO / 7.2T 光模块

Near-Packaged Optics,把光模块放在封装附近而非封装内或面板远端,缩短高频电连接,并兼顾温度与可维护性。

VLIW / Superscalar

静态调度与动态超标量路线。廖恒借 CPU 历史说明:今天 AI 处理器的软硬件界面仍可能重新演进。

Fabless / Foundry

设计与制造分工模式,建立在全球化、专业化和共享巨额资本开支的前提上;地缘与供需剧变正在重写这些前提。

转写注意: 本页由 FunAudioLLM/SenseVoiceSmall 按 3 分钟切片转写,已按上下文统一为昇腾、海思、CANN、Cube、Tensor Core、VLIW、HBM、NPO、灵衢、DeepSeek、Prefill、Decode、Mega-kernel、τ 定律等写法。人名、书名和部分未公开产品表述仍可能存在误差;“原话”均为语义清理后的近义摘引,不视作逐字引语。时间按钮跳到对应切片附近。

十分钟切片精读(28 段覆盖全片 4 小时 38 分)

每段约 10 分钟:一段完整概述 + 本段全部讨论点 + 一句原话摘引。支持关键词过滤,点击时间戳可跳回音频复听。