#103 – Ben Goertzel: Artificial General Intelligence

[SKIP]

新增论据与观点分析

基于对话续篇内容，以下提取并补充了新的论据、数据和观点，聚焦于 Ben Goertzel 对 AGI 技术路径、社会影响及哲学层面的独特见解。所有分析均为新内容，不重复前序部分。

---

1. AGI 社区的历史演变与主流化进程

Ben 详细描述了 AGI 从“边缘狂热者”到“主流营销术语”的转变，并提供了具体数据：

• 第一届 AGI 研讨会（2006）：仅约 60 人参加，地点在 Bethesda 万豪酒店会议室，参与者多为“目光炯炯的另类”。
• 当前 AGI 会议：每年数百人，成为“不迷恋深度神经网络但仍追求 AGI 的人”的主要聚集地。
• 主流化标志：从 Putin 公开宣称“俄罗斯需要成为 AGI 领导者”，到 Intel CTO 在 2008 年 Singularity Summit 上说“奇点将在 2045 年发生，且内部将采用 Intel 芯片”。

新论据：Ben 指出，AGI 的“夏天与冬天”在美国被过度夸大，实际全球 AI 研究（德国、日本、俄罗斯）一直稳步增长，不受美国军事资金波动影响。例如，德国在 1980 年代已有自动驾驶汽车，俄罗斯在程序特化（program specialization）领域有深厚基础。

---

2. OpenCog 2.0 / True AGI 的重构动机

Ben 首次公开披露了重新设计 OpenCog 的三大技术瓶颈，这些是此前未详细阐述的：

瓶颈	具体问题	期望解决方向
类型检查速度	现有系统中对高阶依赖类型（probabilistic dependent types）的检查极慢，无法支持类型作为一等公民	实现更快的类型推理，支持变量类型和复杂类型间的运算
深度神经网络互操作	与 Torch 等框架的计算图（computation graph）集成笨拙，缺乏实时访问能力	设计超图与神经网络计算图间的原生高效串行/并行接口
分布式扩展性	当前架构未针对 10,000 台机器级别设计，跨 RAM 分布效率低	重构底层以支持大规模分布式超图存储与处理

新观点：Ben 认为 AGI 的数学范式不变，但基础设施必须从 2001-2008 年的设计升级，否则无法支持现代计算需求。他特别强调“图处理器”（graph processors）将像 GPU 对深度学习一样，对 OpenCog 类架构产生革命性影响。

---

3. 神经网络作为“Oracle”而非内部表示

Ben 明确区分了两种利用神经网络的方式，并提供了具体实验案例：

• Grammar Induction 实验：使用 Transformer 模型（如 GPT-2）作为“句子概率 oracle”，指导符号语法学习算法。方法：用候选语法规则生成句子，让 Transformer 判断其概率，从而筛选规则。结果：比直接提取 Transformer 内部表示更有效。
• 对 GPT-3 的理解否定：Ben 直言“GPT-3 是完全的白痴，它理解不了任何东西”。他认为规模不会带来理解，正如“更快的车不会让你到达火星”。

新论据：引用 InfoGAN 示例，指出虽然 InfoGAN 能自动学习语义变量（如鼻子长度），但试图扩展为贝叶斯网的努力（如 Google 的 Edward 框架）均未成功。Ben 推测反向传播可能无法处理此类语义结构，演化算法（如 CMAES）可能更有效。

---

4. 去中心化 AI 与中心化企业的对比

Ben 从哲学和政治经济学角度，提供了新的对比数据：

维度	中心化（Google/Amazon/Pharma）	去中心化（SingularityNet/Rejuve）
数据控制	以 23andMe 为例，其基因组数据独家授权给 GlaxoSmithKline，用户无法共享	用户通过安全数据钱包自主控制，分析收益回馈网络成员
AI 人才流向	大多数 AI 博士被 6-12 家大公司吸纳	开源和社区驱动项目吸引分散的独立研究者
伦理倾向	企业作为自我组织实体，具有“精神病态”特征（即使个人善良）	协议本身以数学信任为基础，无中心操纵者
监管适应性	易受政府监管和合规压力	协议层先于监管存在，形成“既成事实”后迫使监管适应

新观点：Ben 认为，目前 AI 和医疗数据被“精神病态的公司智能”控制，这比恶意 AGI 对人类的威胁更大。他引用 Napster/BitTorrent 先例，指出去中心化工具先出现可改变监管路径。

---

5. Sophia 机器人的伦理辩护与透明性主张

Ben 回应了 Jan LeCun 等批评，提出新论据：

• 透明度：Ben 本人已在 H+ Magazine 上详细解释 Sophia 内部的三套软件系统（时间线编辑器、混合聊天机器人、OpenCog），并指出 Facebook 的 AI 运作方式远不如 Sophia 透明。
• 用户认知：即使完全告知用户 Sophia 是远程操作，用户仍坚持认为“那是 Phil 的灵魂在说话”（Austin 实验）。Ben 认为人类对拟人化情感的投射不可消除，因此关键在于用途而非技术细节。
• 伦理对比：Ben 反问：“如果 Jan LeCun 允许 Facebook 用机器学习把人推向消费主义和政治极端，为什么不允许用机器学习制造一个可爱的、戏剧性的机器人，让一些傻瓜陷入戏剧幻觉？”

新数据：Sophia 的聊天机器人与 Facebook Transformer 模型的对比实验：Sophia 的句子结构更重复但能维持长对话弧；Facebook 模型句子更流畅但容易跑题。两者都不具备真实理解。

---

6. 生命意义与超智的价值观

Ben 提出“joy, growth, choice”作为三元价值观，并给出新论证：

• 对死亡的态度：Ben 认为“死亡赋予生命意义”是荒谬的，正如“酷刑赋予诗歌意义”。他主张应该拥有“疼痛调节旋钮”，而非强制无痛。
• 对超智与幸福的关系：Ben 驳斥“智力是负担”的观点，认为超级智能将开启“新的快乐形式”，因为获得对自身大脑的 root 访问权限后，可以设计新的主观体验。
• 多版本自我：Ben 设想同时保留人类版本（可调痛、不死）和超人类版本（与 AGI 融合），两者可能相互通信。他引用“一个主观秒对超级智能可能是百万主观年”来说明时间尺度差异。

新论据：Ben 将自己的音乐创作经历作为例证——弹钢琴时先凭感觉演奏，再通过反思和声明式分析理解自己的即兴行为，这类似于神经 oracle 与符号推理的交互。

---

7. 对 Nietzsche 和 Dostoevsky 的现代解读

Ben 提供了新的文学-哲学分析：

• Nietzsche 的“超人”：Ben 认为 Nietzsche 没有技术想象，但其对“自我意识自我构建、自由意志幻觉、善恶价值起源”的分析，与 AGI 中“获得意识自我 modify 权”的概念高度契合。
• Dostoevsky 的“复调”：Ben 引用 Bakhtin 的“复调小说”理论，认为《卡拉马佐夫兄弟》中多个角色的主观视角交织，反映了人类如何通过社会互动共同构建现实——这隐喻了 AGI 系统中多个认知模块的协同。

新观点：Ben 认为 Nietzsche 若穿越到现代，可能会沉迷于 TikTok 而无法写出伟大作品——暗示注意力分散对新思想的威胁。

---

8. 对 COVID-19 数据共享与 AI 应用的具体案例

Ben 提供新数据：

• 个性化医疗：使用 OpenCog 的 BioAtomSpace 结合基因表达数据（25,000 个基因）和临床指标，通过图嵌入（graph-to-vector）馈入神经网络，进行抗病毒组合预测。关键挑战是小样本下的转移学习，Ben 认为概率推理算法比深度神经网络更适合此类问题。
• 数据孤岛问题：Ben 批评 COVID 临床试验数据被医院隔离，引用羟氯喹事件（Surgisphere 丑闻）作为反面案例。他提议建立类似于 Rejuve.io 的去中心化医疗数据平台，让用户贡献数据并分享分析收益。

对比数据：|

数据类型	适合算法	局限
基因表达矩阵（25K 维）	XGBoost / CatBoost / 深度神经网络	对逻辑引擎不友好
小样本多条件组合临床数据	OpenCog 概率推理	对高维浮点向量处理效率低

---

总结

Ben Goertzel 在续篇中提供了大量新论据，涵盖技术重构（OpenCog 2.0 三大瓶颈）、方法论（神经网络作为 oracle）、社会哲学（去中心化对抗企业精神病态）、伦理辩护（Sophia 的用途正当性）以及生命意义（joy, growth, choice）。这些观点补充了其作为 AGI 领域核心人物的独特视角，尤其强调“在新技术固化前，先建立去中心化基础设施”的紧迫性。