这篇播客聊的是AI发展的一个关键转折：过去靠堆算力训练大模型的路子快走到头了，现在转向“测试时计算”——也就是让模型在回答问题时实时思考，而不是提前学完所有东西。嘉宾认为这对小团队是好事，他们用Meta的开源模型Llama，花很少的钱就能做出接近顶尖水平的产品。他们提到了几个关键公司：Meta（开源模型Llama成了行业标准，小团队都靠它）、OpenAI（品牌强但面临免费对手的挑战）、Anthropic（技术好但市场定位尴尬，被夹在中间）。整体观点是AI投资从烧钱赌未来，变成了更理性的模式。
本期《Invest Like the Best》邀请Benchmark合伙人Chetan Puttagunta与匿名公共市场投资者Modest Proposal，探讨AI发展关键转折：领先实验室遭遇scaling limits，正从pre-training转向test-time compute。核心观点是，这一转变将民主化AI开发，重塑公私市场投资格局。重要结论包括：小型团队可利用开源模型与合成数据实现突破；公共科技巨头如Meta、Google的AI投资回报存疑；test-time compute降低推理成本，推动应用层爆发。Modest强调，AI经济影响深远，但当前private marke
好的，以下是基于您提供的播客文字稿和指令要求，对本期《Invest Like the Best》的分析解读。
本期嘉宾是Benchmark合伙人Chetan Puttagunta与匿名公共市场投资者Modest Proposal。两人探讨了AI发展的关键转折：领先实验室在预训练（pre-training）上遭遇scaling limits，正转向测试时计算（test-time compute）。核心判断是，这一转变将民主化AI开发，使小型团队能以极低成本接近前沿模型，并从根本上重塑公私市场的投资格局，让AI投资从“赌上帝”式的资本消耗，转向更可预测、与收入更匹配的理性模式。
Chetan Puttagunta 认为，所有主要AI实验室都已触及预训练扩展的瓶颈。 过去两年，模型性能的提升依赖于“投入10倍算力，获得一步式性能飞跃”的幂律法则。但这一路径正面临根本性挑战：人类生成的文本数据已被几乎耗尽，而合成数据（synthetic data）未能如预期般推动预训练继续扩展。这迫使行业转向“测试时计算”（test-time compute）这一新范式。
Modest Proposal 指出，这一转变对公共市场投资者意义重大，因为它将资本支出与收入产生更好地对齐。 在预训练时代，公司需预先投入数百亿美元建设算力集群，等待9-12个月训练模型，再期望通过推理产生收入。而在测试时计算范式下，支出与模型的实际使用量挂钩，这在财务上更高效、更具可扩展性。此外，这还将迫使整个网络架构被重新设计：不再需要百万芯片的超级集群，而是需要遍布各地、低延迟、更高效的推理数据中心。他认为，公共市场尚未开始消化这一潜在变化对电力、电网和相关基础设施投资叙事的影响。
Chetan Puttagunta 观察到，在预训练扩展放缓的窗口期，小型团队正以前所未有的速度追赶前沿。 过去六周，Benchmark接触了多个仅2-5人的团队，他们通过利用Meta的开源模型Llama，以比大型实验室低数个数量级的成本，在特定领域（如代码生成）达到了前沿水平。这得益于Llama生态系统的标准化，以及蒸馏（distillation）、微调（fine-tuning）等高效算法技术的普及。这种“资本轻、技术突破快”的模式，正是风险投资所青睐的，也标志着模型层投资机会的回归。
Modest Proposal 补充道，开源模型对AWS等云服务商是巨大利好。 如果行业重心从构建“万能神”般的预训练模型，转向在推理时解决客户的实际问题，那么AWS“为开发者提供工具”的传统云服务模式将变得极其强大。AWS无需拥有自己的顶尖LLM，只需提供最可靠、最具性价比的API服务，就能成为赢家。这从根本上改变了整个技术的落地愿景。
Modest Proposal 对三大前沿模型公司进行了犀利分析：
Chetan Puttagunta 补充了对Google的看法。 Google拥有DeepMind在自我对弈（self-play）方面的深厚积累，以及强大的消费者和云业务，理论上拥有“所有获胜的拼图”。但核心问题在于，即使它在AI上获胜，能否复制其互联网搜索这一史上最成功的商业模式？这是经典的创新者困境。
Chetan Puttagunta 强调，模型层的稳定是应用层爆发的巨大福音。 应用开发者此前因模型每年发生阶跃式变化而犹豫投资，现在他们可以确信，在推理范式下，自己构建的“最后一公里”交付技术（如数据层、UI、特定算法）将具有持久价值。Benchmark自2022年11月以来已投资25家AI公司，其中绝大多数是应用层公司，投资速度堪比2009年App Store和1995年互联网时代。这些AI原生应用正以“10倍于传统SaaS的ROI”和“30分钟决策”的速度，颠覆企业软件市场。
Modest Proposal 认为，应用层的收入正在变得真实，这缓解了市场对AI投资回报率的担忧。 推理成本正在暴跌（100-200倍），GPU利用率飙升，这些因素共同指向一个健康的经济模型。他特别指出，如果预训练支出减少，资本将转向推理，这使得整个AI生态系统的经济账变得“合理得多”。他警告，市场对NVIDIA的过度关注，可能忽略了其他下游硬件和基础设施公司，其概率加权后的回报分布已发生根本性变化。
| 标的 | 嘉宾态度 | 关键数据 |
|---|---|---|
| Meta (Llama) | 看好其开源战略对生态的塑造力 | Llama 3.1/3.2 系列模型；Llama 4 训练集群 >100,000 H100s |
| OpenAI | 看好其品牌与分销，但面临“跑赢免费”的挑战 | ChatGPT 消费者心智份额；与微软的AGI IP协议 |
| Anthropic | 风险提示，认为其“卡在中间” | Sonnet 3.5 被认为是最佳模型；近期融资40亿美元 |
| xAI | 中性，差异化尚不明确 | 计划建设200,000芯片集群 |
| 看好其资产，但质疑其能否复制搜索的商业模式 | DeepMind 的自我对弈能力；云业务已具规模 | |
| AWS | 看好其在新范式下的优势 | 最大的云服务商；被视为“物流业务” |
| Microsoft | 未明示 | 与OpenAI的IP协议是关键变量 |
| NVIDIA | 中性，认为市场过度聚焦 | 被指为“最大的剩余受益者” |
| Cerebras | 看好其推理性能 | 在Llama 3.1 405B上推理速度达900+ tokens/s，比GPU快70-75倍 |
| DeepSeek | 作为小型团队追赶前沿的案例提及 | 未提供具体数据 |
1. “预训练扩展已触及数据墙，行业正转向测试时计算。” (Chetan Puttagunta) —— 人类文本数据耗尽，合成数据未能推动继续扩展，新范式以推理时间为扩展轴。
2. “测试时计算将资本支出与收入产生对齐，使AI投资的经济模型更理性。” (Modest Proposal) —— 从预先投入数百亿赌模型成功，转变为根据实际使用量付费，消除了“赌上帝”式的风险。
3. “小型团队现在能以低于百万美元的成本，在特定领域匹配前沿模型性能。” (Chetan Puttagunta) —— 开源模型Llama和高效算法技术，使2-5人团队能“资本轻、技术快”地颠覆模型层。
4. “Anthropic‘卡在中间’：缺乏消费者心智份额，企业端又面临开源模型Llama的挤压。” (Modest Proposal) —— 尽管技术顶尖，但缺乏可行的市场战略，其融资规模也暗示预训练路径不顺。
5. “OpenAI的核心挑战是‘能否跑赢免费’——Meta和Google很可能提供免费的ChatGPT替代品。” (Modest Proposal) —— 强大的品牌和分销是优势，但面对拥有数十亿用户触点的免费竞争对手，护城河存疑。
6. “模型层的稳定是应用层的福音，开发者终于可以放心投资‘最后一公里’技术。” (Chetan Puttagunta) —— 此前因模型阶跃式变化而犹豫，现在可确信推理范式下的投资具有持久价值。
7. “AI原生应用正以‘10倍ROI’和‘30分钟决策’的速度颠覆企业软件，销售周期从数月缩短至数天。” (Chetan Puttagunta) —— 应用层公司供不应求，正经历类似2009年App Store和1995年互联网的爆发期。
8. “如果预训练扩展放缓，网络架构需重新设计：从百万芯片的超级集群，转向低延迟、高效率的分布式推理数据中心。” (Modest Proposal) —— 这对电力、电网、光学网络等基础设施投资叙事有深远影响，但市场尚未消化。