← 返回列表
Colossus (Invest Like the Best / Business Breakdowns)播客27 Aug 2024来源: joincolossus.com主持: Patrick O'Shaughnessy

Gavin Baker - AI, Semiconductors, and the Robotic Frontier - [Invest Like the Best, EP.385]

一句话导读

这篇讲的是AI投资机会,核心是GPU性能提升50倍,但支撑系统只提升了4-5倍,这个效率差距是最大机会。作者Gavin Baker长期看好NVIDIA(从2000年就跟踪它,认为CUDA护城河很深)、特斯拉(FSD自动驾驶12.3版本进步巨大,数据比对手多100-1000倍)和Apple(手机将成为AI推理关键节点,Apple能收'过路费')。他提醒,当前AI应用层公司大多是'LLM包装器',护城河弱,真正的赢家可能5-6年后才出现。

AI 摘要AI 生成 · 可能有误 · 以原文为准

Gavin Baker(Atreides Management管理合伙人兼CIO)在节目中深入探讨了AI、半导体及机器人前沿。核心观点:生成式AI遵循scaling laws,但基础设施面临挑战,未来数据中心需求巨大。Baker强调,AI模型效率提升是关键,合成数据将改变训练方式,而智能手机在推理环节扮演重要角色。投资方面,他看好Nvidia等半导体公司,认为AI对广告和SaaS行业将产生颠覆性影响,但应用层新公司面临挑战。重要结论:AI ROI存在争议,但机器人领域前景广阔,科技巨头领导力至关重要。Baker自2000年即开始关注Nvidia,其长期视角为AI投资提供了独特洞察。

全文约 14 分钟 · 10 个章节
深度解读

Gavin Baker - AI、半导体与机器人前沿 - [Invest Like the Best, EP.385]

本期速览

Gavin Baker(Atreides Management管理合伙人兼CIO)是少数从2000年就开始跟踪NVIDIA的投资者,拥有25年半导体行业经验。本期核心主线:AI基础设施的效率鸿沟——GPU性能提升50倍,但支撑系统仅提升4-5倍——是当前最大的投资机会。Baker提出了一套完整的AI效率方程(MAMF × SFU × 检查点频率 × PUE),并认为谁能在"每美元资本支出每瓦特功耗下的有效算力"上取得优势,谁就将主导下一代模型竞争。


主题一:科技巨头陷入"数字上帝"军备竞赛,ROI不是决策因素

Gavin Baker认为,Mag7中的核心玩家(Meta、Google、Microsoft、XAI)已不再用传统ROI框架思考AI投入,因为他们相信创造第一个通用人工智能(AGI)的价值是数十万亿到数百万亿美元级别。

Baker指出,这些公司的创始人/控制人(Zuckerberg拥有超级投票权,Larry Page在Google内部的影响力,Satya Nadella在微软的决策权)都认为输掉这场竞赛对公司是生存威胁。"Larry Page显然在Google内部多次说过,'我宁愿破产也不愿输掉这场竞赛'。"这种信念源于他们对scaling laws将持续成立的坚信——模型质量随计算量增加而提升。

关键转折点:XAI在孟菲斯建成了10万GPU的相干训练集群,这是全球首个达到此规模的集群。Baker认为Elon Musk重新设计了数据中心架构,使得即使使用Hopper(而非下一代Blackwell)也能实现100,000 GPU的相干性。"这意味着我们可能在6-9个月内看到第一个GPT-4.5级别的模型。"而Blackwell到来后,集群规模可扩展至30万GPU,届时可能催生GPT-5/6级别的模型。

读者应注意:Baker是这些科技公司的长期投资者,其"军备竞赛不可避免"的叙事本身也服务于其持仓逻辑。他承认"如果scaling laws被证伪,对整个数据中心基础设施将是灾难"。


主题二:AI效率方程——MAMF × SFU × 检查点频率 × PUE

Baker提出了一套衡量AI实验室竞争力的统一效率方程,认为这是比模型质量本身更重要的差异化指标。

核心问题:当前GPU的理论算力利用率(MFU)仅35-40%,意味着60%以上的算力被浪费。Baker将MFU分解为:

1. MAMF(最大可达矩阵乘法浮点运算):衡量单GPU的软件效率。NVIDIA GPU在CUDA优化下可达83%,而AMD的Instinct MI 300最初仅25-30%,现已提升至60%。"这量化了CUDA护城河——AMD的MI 250其实是不错的芯片,但没人用,因为MAMF可能只有10%。"

2. SFU(系统浮点运算效率):衡量网络、存储、内存等支撑系统的效率。"GPU在过去5年快了50倍,但数据中心其他部分只快了4-5倍。这就是MFU如此之低的原因——GPU大部分时间在等待。"

3. 检查点频率:由于GPU频繁故障(熔化、光链路中断、交换机宕机),训练集群需要频繁保存模型状态。更可靠的集群需要更少的检查点。

4. PUE(电源使用效率):电力成本正成为关键变量。"美国只有大约3个地方能获得1吉瓦的可靠核电,电价可能是平均水平的10倍。"

最终目标:每美元资本支出每瓦特功耗下的有效算力(exaflops/second per dollar of capex per watt)。Baker认为,不同实验室的设计决策将导致超过100%的效率差异,这直接决定GPT-7/8的成本是5000亿还是1万亿美元。

投资启示:在效率链中最薄弱的环节投资——当前是SFU(网络、存储、内存技术)和PUE(冷却、电源管理)。


主题三:推理的去中心化——超级手机与Apple的"收费站"模式

Baker预测推理计算将经历从云端到边缘设备的再平衡,智能手机将成为AI推理的关键节点,而Apple处于最有利的垄断位置。

核心逻辑:计算经历了从集中到分散再到集中的周期。训练必然在大型数据中心进行,但推理遵循"本地优先,云端按需"原则。"本地推理是免费的,云端推理要烧GPU小时。"因此,手机上的DRAM容量将取代闪存成为消费者最关心的硬件指标——它决定了本地可运行模型的参数规模,进而决定了AI助手的智商。

Baker描绘了Apple的商业模式:当本地模型不够用时,通过"路由器"将查询发送至云端。Apple将向模型提供商收取"过路费",就像Google为iOS默认搜索引擎付费一样。"最终你可能每月付60美元获得云端超级智能,1000美元获得超智能。拥有更高智商AI的人类将获得巨大竞争优势。"

证伪条件:如果模型效率提升使得云端推理成本趋近于零,或出现新的边缘计算范式(如BCI脑机接口),这一推演可能不成立。


主题四:应用层的困境——LLM包装器与SaaS指标的崩塌

Baker认为当前AI应用层投资极其困难,传统SaaS增长曲线已被AI原生公司颠覆,但大多数缺乏可持续的护城河。

关键数据:Chase Coleman(Tiger Global)的统计——ChatGPT之于AI,如同Netscape Navigator之于互联网(1994年)。互联网诞生后两年内成立的公司,目前仅占全球互联网市值的不到1%。绝大多数巨头是在5-6年后才成立的。"所有VC在1995-97年投的公司,当时看起来都抓住了网,但最终真正伟大的公司是后来才出现的。"

Baker引用Benchmark的Eric Vishria的观察:AI原生公司正在"炸毁"传统SaaS指标——9个月内从零做到3000万美元ARR,且现金流效率更高。但它们本质上是"围绕LLM的薄包装器"。"它们不是在抢软件预算,而是在抢劳动力预算。"问题在于:如何在这些包装器上建立防御性?Baker认为可能的路径包括:出色的销售执行、深度集成、为小型企业构建RAG系统、复合AI系统(用小模型处理简单查询,路由到大模型处理复杂查询)。

关键风险:这些公司如果进行微调,就会锁定在某一代模型上,无法享受基础模型快速迭代的红利。


主题五:机器人——被低估的"蓝领劳动力革命"

Baker认为机器人(特别是人形机器人)可能在5年内对世界的冲击超过白领工作的自动化,而特斯拉FSD是第一个真正改变世界的机器人。

FSD的拐点:特斯拉FSD 12.3版本(完全基于深度学习,几乎消除所有人类代码)带来了"过去10年所有进步的总和"。12.5版本在AI4硬件上运行,是又一次阶跃变化。Baker估计当前FSD的算力水平相当于GPT-2,而特斯拉正在奥斯汀建设超过5万张H100/H200的集群。"他们将很快从GPT-2跳到GPT-4.5级别的算力,这意味着100倍的改进。"

关键数据优势:特斯拉拥有基于实际行驶里程的视觉训练数据集,规模是第二名Waymo的100-1000倍。"这就像他们拥有YouTube、Meta所有平台、开放互联网和X,而其他人只能用Yahoo。"

人形机器人的逻辑:Elon Musk和Jensen Huang都公开认为人形机器人将胜出,因为"世界是为人类优化的"。通用型机器人可以完成任何人类能做的任务,规模化生产后成本优势显著。"所有非人形机器人初创公司,祝你们获得Lycos或MySpace级别的风投回报,但你们中不会出现Google。"

最大不确定性:合成视频数据是否有效。"我们知道合成文本数据有效,但不知道合成视频数据是否有效。没人知道。"如果合成视频数据可行,FSD的竞争格局可能完全改变。


主题六:领导力——Jensen、Elon与Lisa Su的共同特质

Baker认为这三位CEO的共同点——专注于最重要的问题、热爱听到坏消息、使命驱动——使他们区别于绝大多数企业领袖。

具体特质:

  • 无固定日程:Jensen告诉Baker"我没有固定日程,没有常设会议。我找到公司最重要的问题,把桌子搬到那个区域,调集最好的资源。"
  • 热爱坏消息:Baker引用其破产律师父亲的话——"所有破产公司的共同点是CEO不喜欢听到坏消息。"Elon和Jensen都要求坏消息必须立即直达他们。
  • 无层级:无论问题出在公司的哪个层级,他们直接与最懂的人合作。"如果最好的模型分析师是24岁,他就坐在Jamie Dimon旁边。"
  • 使命驱动:从Jensen的"让照片级真实感的虚拟世界成为现实"到Elon的"让世界可持续",使命吸引顶尖人才。"世界最聪明的头脑花了20年让人更可能点击某个链接。而如果你有使命,你会得到更好的员工。"

提及的标的

标的 嘉宾态度 关键数据
NVIDIA 看好(长期持有) 2000年开始覆盖;GPU 5年性能提升50倍;CUDA MAMF达83%
AMD 看好(Lisa Su领导力) Instinct MI 300 MAMF从25%提升至60%;Lisa Su接手时仅20天现金
Tesla 看好(FSD与Optimus) FSD 12.3为"10年进步总和";奥斯汀>5万张H100/H200集群;AI4硬件
Apple 看好(推理节点垄断) 将建立"路由器"收费模式;本地模型+云端按需
Meta 看好(AI广告ROI) 因AI广告定位,收入重新加速至5倍;开源Llama但保留数据
Google 中性偏正面 YouTube+知识图谱+地图数据优势;Larry Page"宁愿破产"表态
XAI 看好(数据中心创新) 首个100K GPU相干集群;Elon重新设计数据中心架构
OpenAI 中性(未明示仓位) 通过Microsoft获得互联网规模分发
Anthropic 中性(未明示仓位) 通过Amazon获得分发
Waymo 中性(竞争观察) 地理围栏方法;LIDAR路线;将"暴力破解"数据问题
Mistral 中性(技术认可) 参数更少但评估结果接近GPT-4级别

值得记住的判断

1. "这些公司的ROIC在CapEx上升后反而提高了——因为他们在用GPU小时替代人力劳动。AI ROI辩论是智力上的荒谬。"(Gavin Baker)——Meta因AI广告定位从下跌80%反弹至5倍,收入重新加速,这是最清晰的AI ROI案例。

2. "GPU在过去5年快了50倍,但数据中心其他部分只快了4-5倍。这就是MFU只有35-40%的原因。"(Gavin Baker)——效率链中最薄弱的环节(网络、存储、内存)是最大的投资机会。

3. "如果你相信scaling laws,你就相信AI有极高的边际成本。这与软件零边际成本的传统完全相反。"(Gavin Baker)——这解释了为什么基础设施效率将成为模型公司最关键的竞争维度。

4. "Chase Coleman的统计:ChatGPT之于AI,如同Netscape Navigator之于互联网。互联网诞生后两年内成立的公司,目前仅占全球互联网市值的不到1%。"(Gavin Baker)——对应用层投资应保持极大谦逊,真正的赢家可能5-6年后才出现。

5. "特斯拉FSD 12.3版本带来了过去10年所有进步的总和。当前算力水平相当于GPT-2,他们将从GPT-2跳到GPT-4.5,意味着100倍改进。"(Gavin Baker)——FSD正遵循比GPT更快的scaling law,因为追赶空间更大。

6. "特斯拉的视觉训练数据集比第二名Waymo大100-1000倍。这就像他们拥有YouTube、Meta所有平台和开放互联网,而其他人只能用Yahoo。"(Gavin Baker)——数据飞轮是特斯拉在自动驾驶领域最深的护城河。

7. "人形机器人将像GPT之于AI一样,成为机器人领域的通用化突破。世界是为人类优化的,所以通用型机器人最终会胜出。"(Gavin Baker)——Elon和Jensen都公开认同这一判断,非人形机器人初创公司很难成为"Google"。

8. "Jensen说:'我没有固定日程,没有常设会议。我找到公司最重要的问题,把桌子搬到那个区域。'Elon也一样——无论什么公司,他都在解决最关键的问题。"(Gavin Baker)——"专注于最重要问题+热爱坏消息+无层级"是顶级CEO的共性。

9. Baker提出的AI效率方程:MAMF(软件效率)× SFU(系统效率)× 检查点频率 × PUE(电源效率)= 每美元每瓦特的有效算力。——这是评估AI实验室竞争力的核心框架,也是寻找投资机会的路线图。

10. "合成文本数据有效,但没人知道合成视频数据是否有效。如果有效,FSD的竞争格局可能完全改变。"(Gavin Baker)——这是Baker对特斯拉自动驾驶乐观判断的最大不确定性来源。