← 返回列表
Colossus (Invest Like the Best / Business Breakdowns)播客12 Dec 2023来源: joincolossus.com主持: Patrick O'Shaughnessy

Gavin Uberti - Real-Time AI & The Future of AI Hardware - [Invest Like the Best, EP.356]

一句话导读

这篇播客讲的是21岁哈佛辍学生Gavin Uberti创办的Etched公司,他认为AI芯片的未来不在于Nvidia那种通用GPU,而在于专门为AI模型设计的专用芯片(ASIC,即为特定任务定制的芯片)。Uberti看好专用芯片,认为它会像当年比特币矿机取代显卡一样,彻底改变AI硬件,让实时语音对话、机器人等应用变成现实。他提到几个关键公司:Etched(自家公司,正在开发比Nvidia H100快20倍的芯片)、Nvidia(它的通用GPU可能被专用芯片取代,面临风险)、AMD(它的MI300X芯片成为Nvidia的竞争对手)。

AI 摘要AI 生成 · 可能有误 · 以原文为准

21岁哈佛辍学生Gavin Uberti创办的Etched公司押注专用AI芯片,认为当前以Nvidia GPU为代表的通用芯片将逐渐被为特定模型架构(如Transformer)硬编码的专用芯片取代,后者可大幅降低GPT-4等模型的推理延迟与成本。Uberti将本轮AI基础设施投资称为“自工业革命以来最大规模的建设”,并认为专用芯片是解锁超级智能的关键。讨论还涉及Transformer架构为何持续领先、Q传闻、以及AI政治化等议题。

全文约 9 分钟 · 6 个章节
深度解读

好的,遵照您的指示,以下是基于您提供的播客文字稿的分析报告。

本期速览

21岁的哈佛辍学生Gavin Uberti是专用AI芯片初创公司Etched的创始人。本期访谈的核心命题是:当前以Nvidia GPU为代表的通用AI芯片,将被为Transformer架构硬编码的专用芯片(ASIC)取代,从而在推理成本和延迟上实现数量级优势Gavin Uberti判断,下一阶段的AI基础设施投资将是一场“自工业革命以来最大规模的建设”,而专用芯片是解锁实时AI应用(如语音对话、机器人)乃至超级智能的关键。

专用芯片取代通用芯片:Transformer ASIC的必然性

Gavin Uberti认为,为Transformer模型定制的专用芯片(ASIC)将在性能上彻底超越通用GPU,并遵循类似比特币挖矿ASIC取代GPU的历史路径。

Uberti以比特币挖矿的历史演进类比:从CPU到GPU,再到专用ASIC。一旦ASIC出现,GPU在特定任务上便不再具备商业可行性。他认为,AI芯片领域正处在类似转折点。GPU的灵活性是其优势,但也带来了巨大的“浪费”。在一个Nvidia GPU中,仅有约4%的晶体管是用于矩阵乘法(AI计算的核心),其余部分被用于支持其通用性(缓存、I/O、指令处理等)。而一个Transformer ASIC可以将超过90%的晶体管用于矩阵乘法,从而实现超过一个数量级的原始算力(FLOPS)提升。

Uberti强调,这种提升不仅仅是成本上的,更是延迟上的。专用芯片可以“在毫秒内而非数秒内”处理完整个提示词,从而实现真正的实时对话、语音转语音交互等应用。他明确指出,“当专用芯片进入一个领域后,通用芯片将不再具有竞争力,先发者几乎注定获胜”

AI基础设施的五层“供应链”与市场格局

Uberti提出了一个由五层组成的“AI基础设施链条”,并认为每一层都存在颠覆与创新的机会,而非由现有巨头完全垄断。

这个链条自上而下为:

1. 顶级AI模型:如OpenAI、Anthropic,其核心壁垒是人才。

2. 超大规模云服务商:如Google、Microsoft、Amazon,负责提供算力基础设施。

3. AI芯片设计商:当前是Nvidia(通用GPU),未来将包括Etched(专用ASIC)和AMD(通用GPU)。

4. 芯片制造与关键组件:如台积电(制造)、三星和SK海力士(HBM高带宽内存)。

5. 终端应用:Uberti认为这是最大的创业机会所在,初创公司可以构建基于AI的各种新接口(如语音对话、AI搜索、文档分析)。

Uberti判断,最终市场会走向高度集中。构建一个万亿级参数的模型需要数十亿美元,全世界无法支撑100个这样的公司,最终可能只有3家左右。这些顶级模型公司将像台积电一样,成为“纯AI模型生产商”,大多数公司会通过在其基础上进行微调(fine-tuning)来构建应用。

Transformer的“钉死”效应与数据策略

Uberti认为,Transformer架构因其规模效应和生态优势已被“钉死”,未来不会被取代;而AI模型的数据饥渴,将通过视频数据和自我对弈得到解决。

Uberti指出,硬件和软件生态已经对Transformer产生了巨大的路径依赖。Nvidia在其下一代GPU中加入了针对Transformer的硬件优化,并拥有高度优化的Transformer软件库。这意味着,任何新的架构要想取代Transformer,其性能优势必须大到足以抵消其在硬件运行效率和软件生态上的巨大劣势,这是一项“极其沉重的负担”。他断言,“Transformer不仅仅是一时的流行,它已经成为基础架构”

针对数据瓶颈,Uberti指出,人类尚未触及最宝贵的数据源——视频。婴儿通过观察学习世界,而未来的模型应从一开始就使用海量视频数据进行训练。当这些数据耗尽后,最终解决方案是自我对弈,即模型自行生成数据(如AlphaGo),并自我评估改进,这将是解决数据瓶颈的“最终前沿”。

提及的标的

标的 嘉宾态度(看好/风险提示/中性) 关键数据
Etched 看好(本人公司) 其芯片将拥有比Nvidia H100“超过一个数量级”的原始算力,实现“20倍”的延迟提升。
Nvidia 风险提示 面临“创新者困境”,H100高利润率使其不愿推出降低利润的专用芯片;其软件CUDA在专用芯片时代将失去护城河。
AMD 中性 其MI300X将成为Nvidia H100的“可行竞争对手”。
OpenAI / Anthropic 中性 处于价值链顶端,核心壁垒是人才;它们不会垄断所有应用层。
Google / Microsoft / Amazon 中性 作为基础设施提供者,是“AI模型生产商”的客户,而非直接竞争对手。
TSMC 中性 芯片制造的关键环节,但整个芯片设计流程(4-5年)需要大幅缩短。
Samsung / SK Hynix 中性 HBM高带宽内存的成本甚至高于芯片本身,是供应链中关键且常被低估的环节。
Bitmain / MicroBT 看好(类比) 作为比特币挖矿ASIC成功案例,其先发优势使其成为“价值超过500亿美元”的巨头。

值得记住的判断

1. “AI领域正在发生一场‘自工业革命以来最大规模的基础设施建设’。” (Gavin Uberti) —— 支撑:训练和运行未来的模型需要建设2吉瓦级的数据中心,其能耗相当于一座大型发电站,并需要解决前所未有的散热和可靠性问题。

2. “专用芯片将遵循比特币ASIC的路径,彻底取代通用GPU。” (Gavin Uberti) —— 支撑:一旦专用芯片量产,其成本效益优势将使得使用GPU变得“不具商业可行性”,先发者将获得巨大优势并形成双头垄断。

3. “Transformer架构已被‘钉死’,想取代它需要克服巨大的硬件和软件生态惯性。” (Gavin Uberti) —— 支撑:Nvidia正在为Transformer优化硬件,且有高度优化的软件库;任何新架构必须在性能上“好到足以抵消这种劣势”,这几乎不可能。

4. “解决数据瓶颈的最终方案是‘自我对弈’,而非寻找更多网络数据。” (Gavin Uberti) —— 支撑:当文本和视频数据耗尽后,模型可以通过生成自己的输出并自我评估(如AlphaGo)来创造无限训练数据。

5. “AI的应用层是最大的创业机会,新接口将超越聊天机器人。” (Gavin Uberti) —— 支撑:实时语音对话、AI文档处理、AI搜索等新接口将成为主流,而构建这些应用的初创公司(而非模型公司或云服务商)将拥有最大的创新空间。

6. “超级智能不是一个‘黑与白’、‘一夜之间’的开关,而是一个缓慢的、渐进的‘光谱’。” (Gavin Uberti) —— 证伪条件:如果未来某一天出现一个模型的能力在短时间内跃升几个数量级(即“快速起飞”),则此判断被证伪。Uberti认为这种“快速起飞”不会发生,因为每次模型升级都需要大规模建设新的数据中心。

7. “AI芯片设计周期必须从现在的4-5年缩短到几个月。” (Gavin Uberti) —— 支撑:为了满足对专用芯片的迫切需求,芯片设计的后端流程(如布图规划)应通过自动化工具实现,前端设计(RTL编码)应借助AI模型辅助,大幅缩短迭代周期。

8. “一个优秀的AI领导者,其核心是‘设定愿景、找到正确的人、别让公司资金耗尽’。” (Gavin Uberti) —— 支撑:Uberti以自身经历为例,解释了自己作为非技术背景的领导者如何说服了行业资深专家加入团队,并强调深入理解技术细节对于做出正确决策至关重要。