莱克斯·弗里德曼 #18（2019）

• 主持人： 莱克斯·弗里德曼
• 形式： 播客（《人工智能播客》），约 32 分钟（主题“特斯拉 Autopilot”）
• 日期： 2019 年 4 月 12 日
• 可信度： 可信度较低的完整文字稿（三级来源）。原始资料是 YouTube 自动字幕轨（dEv99vxKjVI.en.json3），不是官方的人工文字稿。按项目的三级来源规则，引语在引用前必须对照视频核实；字幕措辞没把握的地方，这里一律转述，不作引语块。
• 引语出处： 这一期没有公开的文字稿（lexfridman.com 只列出音频和视频），所以每段引语都锚定到 YouTube 视频本身，用 &t=<seconds>s 时间戳（视频 ID dEv99vxKjVI）。#:~:text= 片段对视频不起作用，这里不用。每段引语都是逐字的、对照视频核实过的埃隆·马斯克原话；莱克斯·弗里德曼是采访者，他的话从不引用。

⚠️ 三级字幕来源提醒。这份来源是机器生成的字幕轨。下面的引语块都是马斯克简短、有辨识度的原话，字幕文本本身干净，并已在所标时间戳处对照视频核实。较长或破碎的段落（字幕断行、说了一半又重来）一律转述，不包装成逐字引语。时间戳由字幕条起始时间换算成秒。

概要

这是马斯克第一次上莱克斯·弗里德曼的节目，也是资料库里最早的弗里德曼数据点。半小时里的大部分内容是特斯拉 Autopilot 的产品细节（传感器套件、车队数据、FSD 计算机），属于商业和工程话题，不涉及他的思维，所以只作概述，不深挖。不过在最后十分钟，谈话转向了维基在他整个人生轨迹中追踪的那些信念，来了一次紧凑的巡礼。因此，这份简短的 2019 年来源是一条有用的早期基线，可以用来看这些观点有多稳定。

有三条线尤其突出。谈自动驾驶，他给出了这一信念最纯粹的早期版本：没有自动驾驶的汽车会像马一样过时。他还给出了两个最常被引用的思维招式：把人的所有输入都视为错误；以及两吨重的死亡机器这一说法，把手动驾驶重新定义为危险的、很快就会过时的默认状态。谈 AI，他明确区分了狭义 AI 与通用智能（烤面包机和电脑），说通用人工智能还缺几个关键想法，但很快就会来到我们面前，并补上一句阴沉的尾声：如果我们还有得选的话。谈形而上学，被问到能否造出一个让人爱上的 AI 时，他干脆利落地讲了自己以物理学为认识论的观点：如果没有任何检验能……那就没有区别。他把这个观点同时用在爱和模拟上，并以他想问 AGI 的唯一一个问题结束了这期节目：模拟之外是什么？

关键引语（马斯克原话，已对照视频核实；锚定 YouTube 时间戳）

自动驾驶：没有它的汽车就是“一匹马”（自动驾驶）

这是他对自动驾驶论点最纯粹的早期表述。这不是产品推销，而是一个关于过时的论断：

“in the future, any car that does not have autonomy would be about as useful as a horse.” ↗

“将来，任何没有自动驾驶的汽车，用处大概就跟一匹马差不多。”

他给这个差距标了个数字（一辆自动驾驶汽车“可以说比一辆非自动驾驶汽车值钱五到十倍”），但给时间范围设了限：至少未来五到十年（这里是转述，这个数字分散在一段字幕对话里）。

“把所有输入都视为错误”（自动驾驶、第一性原理）

这是他从车队中学习的思维模型：人一碰操控装置，按定义就是一个故障信号。

“the way to look at this is view all input as error.” ↗

“看待这件事的方式是：把所有输入都视为错误。”

片刻之后他又直白地重复了一遍：如果用户不得不输入，那就是哪里出了问题，所有输入都是错误（这里是转述，这句话跨了两条字幕，↗）。

“两吨重的死亡机器”（自动驾驶）

这是他对现状最尖锐的重新定义：事后看来显得疯狂的，将是手动驾驶，而不是自动驾驶。

“Frankly it’s pretty crazy letting people drive a two-ton death machine manually.” ↗

“说实话，让人手动驾驶一台两吨重的死亡机器，这事挺疯狂的。”

“it’s gonna seem like a mad thing in the future that people were driving cars.” ↗

“将来回头看，人类曾经自己开车，会显得是一件疯狂的事。”

他还用一个电梯的类比讲了同样的道理，前后说了两次：如今没人想要一个电梯操作员在楼层之间扳操纵杆，因为自动电梯更安全。而一旦一个系统比人安全得多，再把人加回去反而可能降低安全性（电梯那段较长，跨了很多条字幕，这里是转述）。

他用一句话概括自己为什么确信软件会追上来：

“The rate of improvement is exponential.” ↗

“进步的速度是指数级的。”

狭义 AI 与通用智能：烤面包机和电脑（AI 生存风险）

他坚持认为人们没搞清楚的一个区别：自动驾驶汽车是狭义 AI，和通用智能根本不是一类东西。

“It’s amazing how people can’t differentiate between, say, the narrow AI that allows a car to figure out what a lane line is, and navigate streets, versus general intelligence.” ↗

“人们居然分不清两者，真让人吃惊：一边是让汽车认出车道线、在街上行驶的狭义 AI，另一边是通用智能。”

“Like your toaster and your computer are both machines, but one’s much more sophisticated than another.” ↗

“就像你的烤面包机和你的电脑都是机器，但一个比另一个复杂得多。”

然后是他关于 AGI 本身的时间和控制权的尾声：还缺的几块拼图、到来的速度，以及那个令人不安的疑问，即选择权到底在不在我们手里。

“I think we’re missing a few key ideas for artificial general intelligence.” ↗

“我觉得要实现通用人工智能，我们还缺几个关键想法。”

“But it’s gonna be upon us very quickly, and then we’ll need to figure out what shall we do, if we even have that choice.” ↗

“但它会很快来到我们面前，到时候我们就得想清楚该怎么办，如果我们还有得选的话。”

用物理学检验什么是真实的：爱，以及模拟（第一性原理、模拟假说）

被问到我们能否造出一个让人爱上的 AI（就像电影《她》里那样），他的回答出自物理学，而不是感情：如果检验分辨不出区别，那就没有区别。

“from a physics standpoint, essentially, if it loves you in a way that you can’t tell whether it’s real or not, it is real.” ↗

“从物理学的角度看，本质上，如果它爱你的方式让你分辨不出真假，那它就是真的。”

“if there’s no test that you can apply that would make it, allow you to tell the difference, then there is no difference.” ↗

“如果没有任何你能用的检验，能让你、能让你分辨出区别，那就没有区别。”

他随即把同样的认识论推广到模拟上：可能没有任何检验能把基础现实和模拟区分开。（弗里德曼总结说，从物理学角度看，两者是一回事，马斯克表示同意并顺着说了下去。这个总结是采访者的话，不是马斯克的，所以不作为他的话引用。）接着马斯克补充了 2016 年版本里没有的一个机制：一旦模拟里的某个存在发现了真相，模拟可以暂停、重启，或以别的方式纠正这个错误（这里是转述，这段话跨了好几条字幕，按三级来源的规则不收为引语块）。

结尾的一拍：他想问 AGI 的唯一一个问题。

“What’s outside the simulation?” ↗

“模拟之外是什么？”

关联（涉及的页面）

• 自动驾驶——扩充：2019 年“用处跟一匹马差不多”的过时论、“把所有输入都视为错误”、“两吨重的死亡机器”、电梯操作员的类比，以及“进步的速度是指数级的”。
• AI 生存风险——扩充：维基中最早的狭义与通用之分（烤面包机与电脑），以及 2019 年关于 AGI 时间与控制权的那句话（“很快就会来到我们面前……如果我们还有得选的话”）。
• 第一性原理——扩充：以物理学为认识论，“如果没有任何检验……那就没有区别”，并用在爱和模拟上。
• 模拟假说——扩充：2019 年的重申（没有检验能分辨基础现实与模拟；会自我纠错的模拟机制），以及结尾“模拟之外是什么？”的问题。
• 埃隆·马斯克——扩充：新增一节“莱克斯·弗里德曼 #18（2019）揭示了什么”，把以上内容串起来，作为他首次上弗里德曼节目的基线。
• 特斯拉——扩充：2019 年把自动驾驶视为一辆车到底“有没有用”的分界线。