# 一座 19 年建成的软件城堡

> 《看懂英伟达》系列 · 第 02 篇 · 商业本质
> 阅读时间约 12 分钟

---

## 英伟达真正卖的是什么

有一个细节很能说明问题：加州理工学院的数据中心管理员说，**"教授们宁愿等 18 个月拿到英伟达的芯片，也不愿意换成别的供应商。"** 等一年半，而不是转向现货充足、价格更低的竞品。

这不是品牌忠诚，是迁移成本高到无法承受。英伟达卖的不是铲子，**是一整套挖矿系统：铲子 + 矿车 + 矿道 + 操作手册 + 培训学校**——用行业术语说：**GPU 芯片 + NVLink 互连网络 + CUDA 软件生态 + AI 框架集成 + 企业服务。** 你可以只换掉铲子，但你搬不走剩下那四样。

这套系统的核心，是 CUDA。

---

## CUDA 护城河具体是什么

### 一个不准确但有用的类比

把 CUDA 理解成"GPU 世界的 Windows"。

微软 Windows 的护城河不在操作系统本身——Linux 早就比 Windows 好用。Windows 的护城河在于：几十年积累的上百万个应用、几十亿用户的使用习惯、全球企业 IT 体系的深度绑定。你可以造出更好的操作系统，但你搬不动上面的生态。

CUDA 也是一样。它的护城河不在某个单一技术点，而在 **19 年（2006-2026）系统性投入构建的五层叠加生态**：

| 层次 | 具体内容 | 关键数字 |
|------|---------|---------|
| 第 1 层：硬件抽象 | CUDA Driver / Runtime（与英伟达芯片同源开发） | 每代 GPU 专属优化 |
| 第 2 层：核心数学库 | cuDNN（**10 万行**手工优化代码）、cuBLAS、NCCL、TensorRT | AMD MIOpen 差 **30-50%** |
| 第 3 层：领域库 | cuDF、cuML、cuQuantum、RAPIDS、Modulus、Isaac | AMD **几乎零覆盖** |
| 第 4 层：框架层 | PyTorch / JAX / vLLM 默认 CUDA 优先 | ROCm 是二等公民，落后 **6-12 个月** |
| 第 5 层：应用层 | HuggingFace、TensorRT-LLM、Stable Diffusion、ComfyUI | **80%** 主流模型部分支持 AMD |

> 数据来源：英伟达官网、ThunderCompute 2026 年评测、PyTorch 社区

**护城河 = 5 层乘积，而非 5 层叠加。** 攻破任何一层都不够——要同时攻破 5 层才能真正替代 CUDA。这就是为什么 AMD 做了 10 年 ROCm，至今仍是"CUDA 的替代品"而非"CUDA 的替代者"。

### 三条最深的护城河

在 5 层之中，有 3 条最难突破：

**1. TensorRT-LLM（推理优化引擎）**

英伟达的推理优化引擎，能让同一块 GPU 跑出比裸跑快 **3-10 倍**的推理性能。AMD 没有任何对位产品。

实测数据：H100 上用 NIM 容器（基于 TensorRT-LLM）跑 Llama 3.1 8B，吞吐量 **1,201 tokens/s**，裸跑 PyTorch 仅 613 tokens/s——**同一块硬件，软件差 2 倍**。

**2. NCCL（万卡集群通信库）**

训练 GPT-5、Claude 4 级别的前沿大模型需要数万块 GPU 协同工作。NCCL 是英伟达的集群通信库，配合 NVLink 和 InfiniBand 网络，在万卡 all-reduce 通信上比 AMD 的 RCCL 快 **30%+**。

这不是一个可以"快速追赶"的差距——Meta 的论文显示，10 万卡级训练集群的故障检测和恢复需要 3 分钟级响应时间，这种系统级优化需要多年的工程积累。

**3. cuDNN（深度学习核心原语）**

每一代 GPU 发布时，cuDNN 团队会为该芯片的缓存层级、warp 调度器、tensor core 做**逐一手工优化**，把硬件利用率推到 90%+ 极限。FlashAttention v2/v3 的英伟达版本通常比 AMD 版本**早 6-12 个月**集成。

---

## 黄仁勋为什么说"别人的芯片白给都比英伟达贵"

这句话听起来狂妄，但有数据支撑。

**核心逻辑**：芯片成本只是 AI 基础设施总成本的一部分。更大的成本在于：软件适配、集群调优、人员培训、迁移风险。

| 成本项 | 买英伟达 | 买 AMD（举例） |
|--------|---------|--------------|
| 芯片价格 | $30-50K/块（B200） | $10-15K/块（MI300X） |
| 软件适配 | 零成本（CUDA 原生） | 数月工程师时间 |
| 性能损失 | 基准 100% | 裸跑约 70-85%（需额外优化） |
| 集群通信 | NCCL + NVLink（万卡验证） | RCCL + Infinity Fabric（千卡级验证） |
| 运维风险 | 行业标准，容错成熟 | 新平台，生产环境案例少 |
| **TCO（总拥有成本）** | **基准** | **可能更高**（省芯片但费人） |

**反方观点**：这个逻辑对大学和创业公司成立，但对 AWS、Google、微软这种有几千名芯片工程师的公司**不一定成立**。它们有能力、有动机、也有资金自己造芯片——而且已经在造了。TCO 的天平正在向自研芯片倾斜，尤其在推理场景。

---

## 护城河正在出现裂缝——但没有崩塌

### 裂缝 1：AI 编程工具让代码迁移成本暴跌

2026 年 1 月，一位开发者用 Claude Code **在 30 分钟内将 CUDA 后端移植到 AMD 的 ROCm 平台**，不依赖任何中间翻译工具，性能损失不到 10%。

这在 2023 年是不可能的。当时 CUDA 到 ROCm 的迁移需要一个工程师团队花几个月。

AI 编程工具的进步正在把 CUDA 的"代码锁定"层快速削弱：

| 时间 | AI 编程能力 | CUDA 迁移成本 |
|------|-----------|-------------|
| 2023 年 | 只能写基础代码 | 团队 + 数月 |
| 2025 年 | 能写含 tensor core 的 kernel | 1-2 人 + 数周 |
| 2026 年 | 能端到端移植 CUDA 后端 | **1 人 + 数小时** |

> 数据来源：Techstrong.ai、CASS 论文（95% 源码翻译准确率）、ThunderCompute 评测

**但护城河不会瞬间崩塌**——30 分钟移植的是简单 kernel。复杂的集群通信代码、极致优化的推理引擎、万卡级系统调优，AI 工具目前还攻不下来。

### 裂缝 2：ROCm 差距从 3 倍缩窄到 30%

| 年份 | ROCm vs CUDA 性能差距（计算密集型任务） |
|------|--------------------------------------|
| 2023 年 | **2-3 倍** |
| 2026 年 | **10-30%** |

> 数据来源：ThunderCompute 独立评测，2026 年 4 月

AMD 的 ROCm 7.0 战略明确写着"与 CUDA 语义更紧密对齐"——它在系统性地缩小差距。

### 裂缝 3：Triton 编译器构建"逃逸通道"

OpenAI 开源的 Triton 编译器（3.6.0 版本，2026 年 1 月发布）已经支持 AMD 后端。PyTorch 的 TorchInductor 编译器也在推动"后端无关"的编程范式——开发者写一次代码，自动适配不同芯片。

**这意味着**：未来的 AI 开发者可能不再需要直接写 CUDA——他们写 Python / Triton，编译器自动生成底层代码。如果这条路走通，CUDA 的"代码锁定"将从根本上被绕过。

### 但护城河远未崩塌

**仍然坚固的部分**：

| 护城河层次 | 状态 | 理由 |
|-----------|------|------|
| TensorRT-LLM 极致推理优化 | **坚固** | 3-10 倍性能，AMD 无对位产品 |
| NCCL 万卡集群通信 | **坚固** | 10 万卡级训练无替代 |
| cuDNN 每代手工优化 | **坚固** | 需要与硬件同步，AMD 落后 6-12 月 |
| NVLink / NVSwitch 互连 | **坚固** | 72 GPU 全互连（NVL72），竞品无对位 |
| 新算法首发 | **坚固** | FlashAttention 等英伟达通常最先支持 |
| AI 编程的反向飞轮 | **坚固** | 互联网 99% GPU 代码是 CUDA，AI 写 CUDA 比写 ROCm 更容易 |

**正在被侵蚀的部分**：

| 护城河层次 | 状态 | 理由 |
|-----------|------|------|
| 基础 CUDA 代码迁移门槛 | **已被大幅削弱** | AI 工具 + Triton + HIPIFY |
| PyTorch 对 CUDA 的默认依赖 | **正在松动** | TorchInductor 支持多后端 |
| 简单推理场景的 CUDA 锁定 | **已基本消失** | AMD MI355X TCO 已在部分场景反超 |

---

## 护城河正在变形——从"软件锁定"到"全栈工厂"

一个更精准的判断是：CUDA 护城河不是在"消失"，而是在**变形**。

| 时期 | 护城河形态 | 核心壁垒 |
|------|-----------|---------|
| 2006-2020 | CUDA 软件锁定 | 代码迁移成本极高 |
| 2020-2025 | CUDA + 全栈整合 | GPU + NVLink + 软件 + 网络 |
| 2025-2030（预测） | 全栈 AI 工厂 | 硬件代际领先 + NVL72/576 系统级销售 + 服务 |

以前英伟达靠"你的代码被 CUDA 锁死了，想走也走不了"赚钱。未来靠"我的整套系统比你自己拼凑的好 2-3 倍，你不想走"赚钱。

前者是**锁定**，后者是**竞争力**。后者更健康，但定价权会被压缩——客户有了选择，你不能再随便开价。

**反方观点**：全栈 AI 工厂的策略意味着英伟达需要持续每年投入 $150 亿+ 研发来维持代际领先。一旦某一代产品（比如 Rubin Ultra）出现延迟或性能不达预期，护城河可能迅速收窄。这是一场需要"每年都赢"的战斗——不像茅台，放着不动护城河也不会变浅。

---

## 一个来自段永平的核心追问

段永平在 2024 年 4 月的雪球发言中说了一段很关键的话：

> "目前我没能明白的东西是：**他们的这种垄断到底能持续多久？对英伟达芯片的需求到底能持续多久？** 如果整不明白就很难下重手。下不了重手说啥都没啥意义。"

两年后（2025 年 Q4），段永平把英伟达加到了组合的 **7.7%**（第三大重仓），但始终没有超过 10%。他后来解释：

> "不能说完全看懂了，但确实觉得 NVDA 的护城河有点厉害。看着这肯定是个不错的公司啊，买点大概率也是会赚钱的。"

> "我接受黄说的 DeepSeek 的创新不会减少对算力需求的观点，也大致理解他认为 NVDA 在算力上的地位不会受到威胁的意思。"

**段永平的态度是：好公司、护城河有一定深度、但看不懂 10 年——所以下中等仓位，不下重手。**

这是一个非常有纪律的决策框架：**承认不完全懂，但愿意用仓位管理来参与。**

---

## 本篇结论

| 判断 | 结论 |
|------|------|
| CUDA 护城河深不深？ | **深，但正在从顶部被侵蚀** |
| 侵蚀速度？ | 代码锁定层 **2-3 年内显著削弱**；系统级（万卡通信 + 极致优化）**5-10 年仍坚固** |
| 护城河会消失吗？ | **不会消失，但会变形**——从"软件锁定"变成"全栈竞争力" |
| 对估值的影响？ | **毛利率结构性下移**（75% → 65-70%）的概率正在增大 |

---

## 下期预告

下一篇，我们进入 AI 算力市场最大的结构性变化——**训练 vs 推理的分化**。

2026 年，推理算力已占 AI 总算力的 2/3。推理市场和训练市场的游戏规则完全不同——训练买"性能极致"，推理买"性价比"。这对英伟达意味着什么？

要回答的几个问题：

- 为什么推理市场是英伟达最脆弱的战场？
- Groq、Cerebras 这些专用推理芯片为什么重要？
- 英伟达收购 Groq 意味着什么？
- 推理份额从 75% 降到 50%——英伟达还能赚多少钱？

---

*本文是《看懂英伟达》系列第 02 篇。*
*本系列不构成任何投资建议。*