这篇访谈讲的是谷歌TensorFlow团队负责人Rajat Monga回顾这个深度学习框架的诞生和成长。他认为TensorFlow开源是科技行业的关键转折点,证明了开放创新能成功。他看好TensorFlow的未来,认为它能让机器学习运行在任何有计算能力的设备上。重点提了三个东西:TensorFlow本身(已累计4100万次下载,是全球最流行的框架之一)、Keras(被整合为TensorFlow 2.0的推荐接口,让编程更简单)、PyTorch(被视为有益的竞争者,它推动了TensorFlow更快改进)。
本报告基于Lex Fridman对Google工程总监、TensorFlow团队负责人Rajat Monga的访谈,核心讨论了TensorFlow从Google Brain内部项目到开源生态的演进历程。关键观点包括:TensorFlow起源于2011年Google Brain团队(由Jeff Dean和Andrew Ng领导)的专有库Disbelief,2014年开源,这一决策被视为科技行业的里程碑,证明了开放创新的成功。早期成果包括与语音研究团队的合作及著名的“猫论文”(cat paper),证明了扩展计算和数据规模能提升模型性能。报告强调TensorFlow 2.0(当时处于alpha阶段
Rajat Monga,Google 工程总监、TensorFlow 团队负责人,自2011年Google Brain成立之初即参与其中。本期主线是TensorFlow从Google内部专有库Disbelief到全球最流行深度学习框架的演进历程,以及2.0版本的设计哲学。全片最有分量的判断:Monga认为,TensorFlow开源决策是「科技行业的决定性时刻」,它证明了开放创新可以成功,并激励了众多公司开放源代码("It showed that open innovation can be successful and inspire many companies to open source their code")。
Rajat Monga认为,Google Brain最初的核心命题是「能否将研究中的深度学习,用Google的算力和数据规模化」——而这一命题在头一两年就得到了验证。
Monga指出,开源TensorFlow的创意来自Jeff Dean,背后有两个核心驱动力:推动研究进步,以及Google此前在开源上的教训。
Monga强调,TensorFlow 2.0的核心目标是「简化」——通过将Keras作为推荐API、默认启用Eager Execution,大幅降低入门门槛。
Monga坦承,PyTorch的竞争加速了TensorFlow在Eager Execution上的进展——「如果没有PyTorch,可能会花更长时间。」
Monga认为,在TensorFlow这样的超大规模项目中,「团队产出的乘积远大于个体之和」——即使是超级明星,如果伤害团队协作也是问题。
| 标的 | 嘉宾态度 | 关键数据 |
|---|---|---|
| TensorFlow(框架) | 看好(核心产品) | 4100万次下载,50,000次提交,1,800位贡献者 |
| Keras | 看好(已整合为2.0推荐API) | 由François Chollet创建,最初仅支持Theano后端 |
| PyTorch | 中性(视为有益竞争者) | 加速了TensorFlow Eager Execution的开发 |
| TPU(Google定制芯片) | 看好(与TensorFlow协同演进) | 已到第3代 |
| Google Cloud | 中性(TensorFlow可运行在任何平台) | Colab提供免费TPU使用 |
| Theano / Torch / Caffe | 中性(历史参照物) | 学术项目,文档和稳定性不如TensorFlow |
1. Rajat Monga:TensorFlow开源是「科技行业的决定性时刻」——它证明了开放创新可以成功,激励了众多公司开放源代码。支撑:Google此前有Hadoop等开源项目,但开源版本远不如内部版本好,TensorFlow的目标是「做出更好的东西」。
2. Rajat Monga:设计新功能时应以「clean slate」开始,再考虑兼容性——「如果你一开始就担心兼容性,永远到不了好地方。」支撑:这是团队处理2.0向后兼容问题的核心原则。
3. Rajat Monga:PyTorch的竞争加速了Eager Execution的推出——「如果没有PyTorch,可能会花更长时间。」支撑:TensorFlow此前已多次讨论过Eager Execution,但竞争压力促使团队最终下定决心。
4. Rajat Monga:TensorFlow的使命是「让ML运行在每一个有计算能力的设备上」——从数据中心到手机到极小的芯片。支撑:生态系统包括TensorFlow.js、TensorFlow Lite、TFX等,目标是让所有组件「work well together」。
5. Rajat Monga:团队产出的乘积远大于个体之和——即使是超级明星,如果伤害团队协作也是问题。支撑:在TensorFlow这样的超大规模项目中,个体能力有限,团队协作才是关键。
6. Rajat Monga:Keras整合是「一个季度变成了两年多」的故事——François Chollet最初在Google研究团队利用业余时间维护Keras,借调整合后就没回去。支撑:社区对「该用哪个API」的困惑是推动2.0统一API的关键动力。
7. Rajat Monga:TensorFlow核心「large and monolithic」是当前最大技术挑战——团队正在努力拆分为更模块化的结构,比喻为「给飞驰的汽车换引擎」。支撑:系统已运行四年且仍在快速演进,改造难度极大。
8. Rajat Monga:搜索广告有最低质量标准,不达标不展示——「即使损失收入,也不会展示低质量广告。」支撑:这是Google搜索广告的核心原则,广告被视为搜索的延伸而非干扰。