#221 – Douglas Lenat: Cyc and the Quest to Solve Common Sense Reasoning in AI

好的，这是根据您的要求对 Lex Fridman 与 Douglas Lenat 的播客访谈文字稿进行的分析解读。

本期速览

嘉宾: Douglas Lenat，Cyc 项目的创始人，该项目旨在通过手工构建常识知识库来解决 AI 的常识推理问题。

主线: 探讨 Cyc 项目 37 年来的核心挑战、方法论、与当前主流机器学习的关系，以及其对未来通用人工智能（AGI）的潜在价值。

核心判断: Douglas Lenat 认为，构建 AGI 的关键在于“知识泵”的“启动”（priming the pump），即手工构建一个足够庞大、由数千万条常识性“断言”（assertions）组成的核心知识库，使其能够启动自我增强的学习循环，从而自动获取并理解更广泛的世界知识。

主题小节

1. 常识：AI 的“砖墙”与 Cyc 的使命

Lenat 指出，在 1980 年代，他和同事们在开发各种 AI 程序（如自然语言理解、机器人、专家系统）时，都撞上了同一堵“砖墙”：程序缺乏常识。它们可以像“聪明的狗”一样执行特定任务，但“并不真正理解自己在做什么、说什么或被问什么”。

• 理解的定义: Lenat 将“理解”比喻为脚下坚实、层层叠叠的“地面”。当遇到意外或新颖情况（如开车时前方垃圾车突然爆仓）时，人类可以依赖深层的常识（如“快餐垃圾袋里通常是泡沫塑料和剩饭，可以碾过去”）做出瞬间决策。AI 缺乏这种深层支撑。
• 核心任务: Cyc 的目标就是为计算机构建这个“地面”——一个包含基本概念和世界运行规则的常识知识库。这不仅是存储知识，更是要能高效地调用和推理。

2. 知识规模与获取：从“百万”到“千万”的教训

Lenat 回忆了 1984 年与 Marvin Minsky、Alan Newell 等顶尖学者的一次关键会议，他们共同估算出覆盖常识所需的知识量。

• 最初的估算: 通过不同方法（如人类长期记忆容量、语言词汇量、单篇百科全书的表示），所有人都得出约 100 万 条“断言”（assertions/rules of thumb）的结论。这看起来可以在 100 人年内手工完成。
• 现实与修正: 项目启动后，他们发现估算“差了一个数量级”。实际需要的是数千万条常识规则。幸运的是，得益于日本“第五代计算机”项目的威胁和美国《国家合作研究法案》的通过，Cyc 获得了远超预期的资金和人力（数千年人时），得以持续至今。
• 知识获取方法论: 为了挖掘这些从未被明确写下的常识，Cyc 团队采用了一种独特的方法：关注文本的“空白”。他们分析作者假设读者已经知道什么，例如代词指代、句子间的隐含逻辑（“弗雷德·史密斯抢劫了第三国家银行。他被判了20年。”中间隐含了被捕、审判、定罪等步骤）。他们还通过分析“假新闻”或矛盾陈述（如“猫王还活着”与“猫王的鬼魂”），来反推常识。

3. 核心架构：本地一致性、上下文与“左右脑”协同

为了处理现实世界中无处不在的矛盾和例外，Cyc 不得不放弃全局一致性，转而采用本地一致性的架构。

• 上下文（Context）: 知识库被划分为类似“板块”的独立上下文。每个上下文内部基本一致，但不同上下文之间可能存在矛盾（如“现实世界”与“《乐一通》卡通世界”）。上下文是 Cyc 中的“一等公民”，可以像其他对象一样被推理，并形成层级结构（如“奥斯汀”是“德克萨斯州”的子上下文）。
• 效率与表达力的平衡: Cyc 将问题一分为二：认识论问题（系统应该知道什么）和启发式问题（系统如何高效推理）。它使用一个干净、表达力强的高阶逻辑语言（认识论层），以及超过 1000 个 专门的、高效的“启发式模块”（启发式层）。这些模块像一群专家，在黑板上协作解决问题，从而在保持强大表达力的同时，实现实时推理。
• 与机器学习的协同: Lenat 认为，机器学习（如深度学习）类似于人类的“右脑”，擅长快速模式识别；而 Cyc 代表的符号推理类似于“左脑”，擅长慢思考、因果推理和解释。两者的协同才是通向 AGI 的关键。他举例了一个与 NIH 合作的项目，Cyc 为全基因组关联研究（GWAS）中发现的基因突变与疾病的关联，构建了 10-20 步的因果链，从而过滤掉噪声，并产生可验证的预测。

4. 从“知识泵”到 AGI：未来与挑战

Lenat 坚信，Cyc 已经接近完成“知识泵”的启动阶段，即将进入自我增强的自动学习阶段。

• “启动”理论: 知识学习是一个“表面面积”问题。已知的知识越多，学习的“表面”就越大，学习新知识就越容易。Cyc 的目标是构建一个足够大的核心，使其能够通过阅读、对话和实验来自动学习。
• 与语义网和开放知识的关系: Lenat 认为，语义网和知识图谱（如 Google Knowledge Graph）是“浅尝辄止”的尝试，它们只能表示简单的二元关系（如“弗雷德的妻子是威尔玛”），而无法处理嵌套的信念、意图等复杂逻辑（如“朱丽叶认为罗密欧会相信……”）。Cyc 的开源版本 OpenCyc 原本是为了展示其完整版的价值，但许多人却误以为 OpenCyc 就是 Cyc 的全部。
• 商业化与未来: Cyc 已从主要依赖政府资助转向商业应用，客户包括医院、能源公司等。Lenat 认为，未来 AGI 将不是“我们 vs AI”，而是“我们与 AI 一起”，AI 将作为“助教”或“缪斯”，帮助人类进行批判性思考，发现思维盲区，并加速科学范式的转变。

提及的标的

标的	嘉宾态度	关键数据
Cyc	看好（核心项目，接近完成“知识泵”启动）	包含数千万条常识断言；超过 1000 个启发式推理模块；约 150 个推理加速突破；50 人全职团队工作数十年
OpenCyc	中性（是完整 Cyc 的简化投影，常被误解）	仅包含 Cyc 中简单的二元关系（知识图谱），不包含 90% 以上的规则
GPT-3	风险提示（缺乏真正理解，会犯常识性错误）	在 90% 的情况下表现良好，但在关键任务（如医疗、驾驶）中 1% 的错误率不可接受
IBM Watson	风险提示（会犯人类不会犯的荒谬错误）	在 Jeopardy! 中表现惊艳，但曾回答“16 世纪的意大利政治家是罗纳德·里根”
Mycin	看好（早期专家系统，能提供可解释的诊断）	由 Ted Shortliffe 开发，专门诊断血液感染（如脑膜炎）

值得记住的判断

1. 常识是 AI 的“砖墙”，而非“天花板”。 (Douglas Lenat) —— 早期 AI 系统在特定任务上可以表现优异，但一旦遇到需要常识推理的意外情况，就会彻底失败，因为缺乏对世界的基本理解。

2. Cyc 的知识获取方法是“阅读空白”，而非“阅读文字”。 (Douglas Lenat) —— 团队分析文本中作者假设读者已知的、未明确写出的信息（如代词指代、句子间的隐含逻辑），这些才是常识的核心。

3. AGI 需要“左脑”与“右脑”的协同。 (Douglas Lenat) —— 机器学习（右脑）擅长快速模式识别，而符号推理系统如 Cyc（左脑）擅长慢速因果推理和解释。两者结合才能产生真正的智能。

4. “知识泵”理论：已知越多，学得越快。 (Douglas Lenat) —— 学习新知识的能力与已有知识库的“表面积”成正比。Cyc 的目标是构建一个足够大的核心，使其能够启动自我增强的自动学习循环。

5. 全局一致性是构建大型常识知识库的敌人。 (Douglas Lenat) —— 现实世界充满矛盾和例外，Cyc 通过将知识库划分为多个“本地一致”的上下文（context）来解决此问题，允许不同上下文之间存在不一致。

6. Cyc 的“启发式层”是其效率的关键。 (Douglas Lenat) —— 为了在表达力强的高阶逻辑语言上实现实时推理，Cyc 开发了超过 1000 个专门的启发式模块，它们像一群专家在黑板上协作，快速解决特定类型的问题。

7. 一个好的 AGI 测试是“为什么”的深度。 (Douglas Lenat) —— 一个真正智能的系统应该能连续回答多轮“为什么”的问题，并能就一个命题给出正反两方面的论证，而不是仅仅给出一个答案。

8. AI 的终极价值在于帮助人类打破“范式”的束缚。 (Douglas Lenat) —— 人类科学家常被当前的科学范式所局限，而一个值得信赖的 AGI 可以帮助我们退后一步，质疑那些被视为理所当然的假设，从而加速科学发现。