莱克斯·弗里德曼 #49（2019）

主持人： 莱克斯·弗里德曼
形式： 播客（《人工智能播客》），约 36 分钟（主题“Neuralink、AI、Autopilot 与暗淡蓝点”）
日期： 2019 年 11 月 12 日
可信度： 已核实（一级来源）。莱克斯·弗里德曼官方节目页链接了一份由 Rev.com 转写的 PDF，这里用的就是这份文字稿。可信度与 #400 和 #438 相同。
引语： 出自 Rev 文字稿，只收埃隆·马斯克的话（莱克斯·弗里德曼是采访者，他的话从不引用）。节目页只提供 PDF 格式的文字稿，所以和 #18（2019）一样，每段引语都链接到官方 YouTube 视频里的相应时刻。

概要

这是马斯克第二次和莱克斯·弗里德曼对谈（“第二部分”），录制当天 Neuralink 正在展示自己的成果。在我们手上的早期来源里，这一期把他如何把心智看作硬件讲得最透。七个月前的 #18 大部分在谈 Autopilot；#49 则几乎把整套 Neuralink 相关信念都摊开了，比 2024 年那个更利落的版本早了好几年。意识是一种物理现象。人脑是“一个插了台电脑的猴脑”。必须去适应的是机器那一边。数字超级智能是“第三层”。而“打不过就加入”，就是要融合的理由。这些观点在别处大多出现在 2024 年，这一期为它们提供了一条扎实的早期基线。

撑起这一期的是四条线。谈意识，他给出了早期最干脆的论证：心智是物理的，科学方法是检验什么可知的标准。由此他预言，AI 将能把意识模拟得惟妙惟肖，以至于区别变得无法检验。谈 AI 风险，他重申需要一个外部的监管裁判，并把“奇点”说成一个临界点，过了它，事情就变得不可预测、不稳定。谈分层硬件式的心智，他把边缘系统与皮层模型讲到了早期最完整的程度：皮层是聪明的那一层，却在为笨的边缘系统服务，而数字化的“第三层”还在后头。最后，在结尾环节朗读卡尔·萨根时，他把这个意象变成了一个关于文明存续和去火星的论证。他说，文明有兴有衰，如今是一起兴衰，所以意识不该只待在一颗行星上。

关键引语

意识是物理的，科学方法是检验标准（意识与死亡、第一性原理）

弗里德曼问，意识是否弥漫于一切物质，也就是泛心论的看法。马斯克干脆地否定了这种神秘主义的解读：

“I don’t think consciousness permeates all matter.” ↗

“我不认为意识弥漫于一切物质。”

对这类问题，他的尺子是科学方法。一件事有多真，取决于它能被检验到什么程度：

“I believe in scientific method.” ↗

“我相信科学方法。”

接着是他早期最明确的一次表态，认为心智是物理的。照他一贯的做法，这个结论是从一次物理干预推出来的：

“If you damage your brain in some way physically, you damage your consciousness, which implies that consciousness is a physical phenomenon in my view.” ↗

“如果你的大脑在物理上受了某种损伤，你的意识也会受损。在我看来，这就意味着意识是一种物理现象。”

他把自我意识和意识区分开来，然后预言数字智能会在思考上胜过我们，还能把意识模拟得足够逼真，让区别无法检验。这和他在 #18 里“没有检验就没有区别”的招式如出一辙：

“It will be self-aware, yes. That’s different from consciousness.” ↗

“它会有自我意识，是的。但那和意识是两回事。”

“digital intelligence will be able to out-think us in every way. And it will suddenly be able to simulate what we consider consciousness. So to the degree that you would not be able to tell the difference.” ↗

“数字智能将在各方面都比我们想得更深。而且它会突然能够模拟我们所认为的意识，逼真到你根本分辨不出区别的程度。”

AI 需要一个外部裁判（AI 生存风险）

他一贯的药方，是为 AI 设一个代表公众利益的监管机构，参照的就是已经在监管他的汽车和火箭的那些机构：

“Where there is a lack of investment is in AI safety, and there should be, in my view, a government agency that oversees anything related to AI to confirm that it is, does not represent a public safety risk.” ↗

“投入不足的地方是 AI 安全。在我看来，应该有一个政府机构来监管一切与 AI 相关的东西，确认它是、它不构成公共安全风险。”

他用一个第一性原理式的判断来支撑这个呼吁：监管实际上总是来得太晚，要等灾难发生之后。他举的例子是汽车业抵制安全带长达数十年。

“It was known for a decade or more that seatbelts would have a massive impact on safety and save so many lives and serious injuries. And the car industry fought the requirements to put seatbelts in tooth and nail.” ↗

“十年甚至更久以前，大家就知道安全带会对安全产生巨大影响，能挽救那么多生命、避免那么多重伤。可汽车业对加装安全带的要求拼死抵抗。”

分层硬件式的心智：“猴脑”（边缘系统与皮层模型）

这是这个模型早期最完整的形态，2024 年的对话后来会用“第三计算层”的说法把它重讲一遍。大脑分两层，聪明的一层替笨的一层干活：

“It’s like we’ve got a monkey brain with a computer stuck on it, that’s the human brain.” ↗

“就好像我们有一个猴脑，上面插了一台电脑，这就是人脑。”

关键在控制的方向，而它恰恰是反的。掌舵的是笨的那一层：

“It’s not the cortex that’s steering the monkey brain, the monkey brain’s steering the cortex.” ↗

“不是皮层在驾驭猴脑，而是猴脑在驾驭皮层。”

片刻之后，他把同一个意思说得最尖锐。本该由聪明的来管笨的，实际却反了过来：

“it seems like surely the really smart thing should control the dumb thing, but actually the dumb thing controls the smart thing.” ↗

“看上去理所当然应该是真正聪明的东西控制笨的东西，但实际上是笨的东西在控制聪明的东西。”

接着他说出了叠在这两层生物结构之上的第三层，也就是“我们已经是赛博格”的第三层的种子：

“And then there’s a tertiary layer which will be digital superintelligence.” ↗

“然后还有第三层，那将是数字超级智能。”

是机器适应大脑，而不是反过来（Neuralink、人机共生）

适配的负担该落在哪一边？他说落在机器上。这是一条 Neuralink 设计原则，2019 年就已经讲出来了：

“I think the machine side is far more malleable than the biological side, by a huge amount.” ↗

“我认为机器这一边远比生物那一边更具可塑性，差距巨大。”

他描绘我们对大脑所知多么有限，这种重新审视正是整家公司背后的动因：

“We’ve got fMRI, that’s like putting a stethoscope on the outside of a factory wall, and then putting it all over the factory wall and you can hear the sounds, but you don’t know what the machines are doing really.” ↗

“我们有功能性磁共振，那就像把听诊器贴在工厂外墙上，然后贴满整面墙。你能听到声音，但你并不真正知道那些机器在干什么。”

共生本身，他是当作一种希望说出来的：两张神经网络对接，人类被一路带上，哪怕“我们的”智能大部分都将是数字的。

“we’re a neural net and AI is basically a neural net. So it’s like digital neural net will interface with biological neural net. And hopefully bring us along for the ride. But the vast majority of our intelligence will be digital.” ↗

“我们是一张神经网络，AI 基本上也是一张神经网络。所以就是数字神经网络会和生物神经网络对接，希望能把我们一起带上。但我们智能的绝大部分将是数字的。”

奇点，以及“打不过就加入”（与 AI 融合、AI 生存风险）

融合的理由，在这里得到了最直白的表述之一。人类在思考上胜不过数字超级计算机，所以办法就是加入它：

“We will not feel to be smarter than a digital supercomputer. So therefore, if you cannot beat them, join them.” ↗

“我们不会比一台数字超级计算机更聪明。所以，打不过就加入。”

他解释脑机接口为什么紧迫：要赶在奇点让一切变得不稳定之前把它做出来。

“It’s important that Neuralink solves this problem sooner rather than later because the point at which we have digital superintelligence, that’s where we pass the singularity and things become just very uncertain.” ↗

“Neuralink 必须尽早解决这个问题，因为一旦我们有了数字超级智能，那就是越过奇点的时刻，事情会变得非常不确定。”

紧接着，他把“不确定”加重成“极其不稳定”。他把脑机接口说成必须在奇点之前就有的东西，以便把人类和我们所知的意识面临的生存风险降到最低（同在 21:38 这一轮发言里）。

把自动驾驶看作向量空间问题（自动驾驶）

他早期对自动驾驶最尖锐的看法是：它从根本上是感知与表征问题，而不是规划问题。

“The hardest thing is having accurate representation of the physical objects in vector space.” ↗

“最难的是在向量空间里准确表征物理对象。”

“Once you have an accurate vector space representation, the planning and control is relatively easier.” ↗

“一旦有了准确的向量空间表征，规划和控制就相对容易了。”

暗淡蓝点：文明是脆弱的，意识是要延续下去的东西（人类的光明未来、火星殖民）

⚠️ 归属说明。在结尾部分，马斯克朗读了卡尔·萨根《暗淡蓝点》里的一段（“再看看那个点……”）。那些是萨根的话，不是马斯克的，所以这里不把它们当作他的信念引用。下面的引语块是马斯克本人围绕这段朗读所说的话。

在萨根的触发下，他谈了自己对文明的思考：兴衰这个老教训，如今已全球化为一个共同的风险。

“Look at the history of civilizations, they rise and they fall, and now civilization is all, it’s globalized. And so civilization, I think now rises and falls together.” ↗

“看看文明的历史，它们兴起，又衰落。而现在文明全都，已经全球化了。所以我觉得，文明如今是一起兴、一起衰。”

接着是时间尺度上的论证，让意识显得既稀有又岌岌可危：

“if it had taken consciousness 10% longer to evolve, it would never have evolved at all, 10% longer.” ↗

“如果意识的演化再多花 10% 的时间，它就根本不会演化出来了。只要多 10%。”

萨根说“别的地方都没有……可供我们这个物种迁移”，他用一个词纠正了他。火星论点，就是对这句话的直接反驳：

“This is not true. This is false, Mars.” ↗

“这不对。这是错的，火星。”

关联（涉及的页面）

意识与死亡——扩充：2019 年的表态，意识是一种物理现象，科学方法是检验标准；AI 会把意识模拟到无法检验的程度。
边缘系统与皮层模型——扩充：这个模型早期最完整的表述：“插了台电脑的猴脑”、笨的一层驾驭聪明的一层，以及即将到来的数字化“第三层”。
与 AI 融合——扩充：2019 年的“第三层……数字超级智能”，以及“打不过就加入”的融合理由。
AI 生存风险——扩充：2019 年呼吁设立政府裁判（附安全带的类比），以及把“奇点”视为事情开始变得不稳定的临界点。
Neuralink——扩充：“机器适应大脑”的设计原则和“功能性磁共振如听诊器”的比喻，比 2024 年关于带宽的说法早了将近五年。
自动驾驶——扩充：把自动驾驶重新定义为向量空间的表征问题。
人类的光明未来——扩充：文明“一起”兴衰；意识稀有而岌岌可危（“多花 10%”的论证）。
火星殖民——扩充：火星是对“别处无处可迁”的直接反驳。
第一性原理——扩充：用他自己 2019 年的话说，科学方法是检验什么真实、什么可知的标准。
埃隆·马斯克——扩充：新增一节“莱克斯·弗里德曼 #49（2019）：心智即硬件”，把以上内容串起来，作为他“心智即硬件”世界观早期最完整的表述。
人机共生——扩充：“机器一侧更具可塑性”的前提，以及“数字神经网络会和生物神经网络对接……希望能把我们一起带上”这一对共生本身的表述。